Enquanto o resto do país comemorava a primeira vitória dos EUA na Copa do Mundo e o campeonato do New York Knicks, a Anthropic passou o fim de semana lutando contra o governo Trump por causa do lançamento de seu último modelo. Às 17h21 de sexta-feira, a empresa recebeu uma diretiva de controle de exportação dos EUA para suspender o acesso aos seus modelos Mythos 5 e Fable 5 AI por “qualquer cidadão estrangeiro” dentro ou fora dos EUA, “incluindo funcionários estrangeiros da Antrópico”. A única maneira possível, determinou a Anthropic, seria desativar completamente os produtos que passou a semana passada promovendo – e viajar para Washington, DC na esperança de mudar a opinião do presidente Donald Trump. Agora, nos próximos dias, o governo dos EUA poderá alterar drasticamente a trajetória de toda a indústria, desferindo um grande golpe nas empresas americanas de IA.
Claude Mythos 5 e Fable 5 são construídos na mesma base do Mythos Preview da Anthropic, que a Anthropic considerou muito perigoso para ser divulgado publicamente. (Os avisos da empresa podem ser vistos como uma preocupação genuína ou mais exagero para o seu próprio modelo – ou ambos.) O Mythos 5 foi disponibilizado a um grupo seleto de agências governamentais e empresas, enquanto o Fable 5, que apresentava salvaguardas adicionais, foi considerado “seguro para uso geral”. Mas quando um relatório indicou que essas proteções podem ter falhado, os terríveis avisos da Antrópico sobre o Mythos cair em mãos erradas voltaram para assombrá-lo.
Uma fonte familiarizada com a situação, que participou das negociações entre a Anthropic e a administração Trump, disse que a administração ligou para o laboratório de IA na sexta-feira por volta das 13h (horário do leste dos EUA) e deu à empresa um ultimato de 90 minutos para encerrar o acesso ao Mythos 5 e ao Fable 5. Caso contrário, o governo imporia controles de exportação à Antrópico por autoridade do Departamento de Comércio dos EUA.
A fonte disse que os executivos da Anthropic conversaram com a Casa Branca 15 minutos após a primeira ligação, confirmando que o CEO Dario Amodei se juntou às discussões cerca de uma hora e 15 minutos após a ligação inicial. Amodei conversou diretamente com o secretário do Tesouro dos EUA, Scott Bessent, o secretário do Comércio, Howard Lutnick, e o diretor cibernético nacional, Sean Cairncross, em alguns casos mais de uma vez, confirmou a fonte.
A Anthropic escreveu em um comunicado na sexta-feira que a empresa acreditava que o governo “acredita ter tomado conhecimento de um método para contornar ou ‘desbloquear’ o Fable 5”. Em vez de uma ameaça existencial, porém, a Anthropic disse que a fuga da prisão em questão era “potencialmente restrita e não universal” que foi “compartilhada com o governo” por uma entidade que a empresa se recusou a nomear. Além disso, a Anthropic disse que o comportamento não era exclusivo do Fable 5. “Revisamos um relatório que acreditamos ser a base da diretiva do governo e validamos que o nível de capacidade ali exibido está amplamente disponível em outros modelos (incluindo o GPT-5.5 da OpenAI)”, escreveu a Anthropic.
Semáforos relatou, citando uma fonte familiar, que o rebuliço começou porque o governo dos EUA estava preocupado com o fato de um grupo ligado à China ter acessado a tecnologia. Mas a fonte disse que os rumores sobre a China remontam a semanas, referindo-se a uma grande empresa global de telecomunicações que foi inicialmente autorizada a ser incluída no acesso ao Mythos Preview, e que quando o governo dos EUA partilhou as suas preocupações, a Anthropic revogou imediatamente o acesso.
Uma postagem X de David Sacks, ex-inteligente e criptoczar do governo dos EUA que deixou o cargo em março, também não mencionou a China. Sacks, no entanto, mencionou a entidade não identificada que expôs o problema ao governo, chamando-a de “um parceiro de confiança altamente confiável tanto da Anthropic quanto do USG que estava testando o Fable [which] apresentou uma fuga de prisão dessas grades de proteção.
Alguns relatórios apontam para o CEO da Amazon, Andy Jassy, como a pessoa que sinalizou preocupações ao governo dos EUA depois que pesquisadores da Amazon formaram uma equipe vermelha para Fable 5. Essa conclusão está em desacordo com alguns red-teamers independentes, que disseram estar impressionados com o nível das proteções.
A fonte familiarizada com as negociações disse que a pesquisa sobre a Amazônia foi explicitamente mencionada em conversas com o governo dos EUA. A pessoa acrescentou que a Anthropic teve acesso a esse documento poucos dias após a diretiva de controle de exportação de sexta-feira e tem conversado desde então com pesquisadores da Amazon para discuti-lo.
Tudo nesse artigo, disse a fonte, poderia ser alcançado pelo GPT-5.5 da OpenAI.
A Anthropic passou o fim de semana lutando para ser gentil com a administração Trump, começando com reuniões virtuais e depois transportando funcionários para DC, incluindo Dave Orr, chefe de salvaguardas da Anthropic; Logan Graham, que dirige sua equipe vermelha de fronteira e liderou o trabalho no Projeto Glasswing; e Nicholas Carlini, um importante desenvolvedor de fronteira e pesquisador de segurança cibernética. Eixos relatou, citando uma fonte familiarizada com o pensamento da administração Trump, que a empresa simplesmente cometeu repetidamente erros na sua comunicação com a administração e que “não fez um bom trabalho ao tentar falar com a administração e apreciar as diferenças ideológicas”. Para a Anthropic, o momento não poderia ser pior: a empresa contava com a Mythos para ajudá-la a se recuperar, em parte, de meses de confrontos de alto nível com o Departamento de Defesa dos EUA.
A fonte familiarizada com as negociações disse que a Anthropic informou previamente a administração sobre o Fable 5 e que o Departamento de Comércio dos EUA conduziu testes pré-implantação, sem preocupações compartilhadas na época. A fonte acrescentou que a Anthropic tem trabalhado em estreita colaboração com agências governamentais desde o lançamento do Mythos Preview.
A administração Trump inicialmente adoptou uma abordagem indiferente à segurança da IA – mas após o Mythos, tornou-se mais ambivalente, mesmo quando se preocupa com a ameaça de perder a corrida da IA para a China. Agora, líderes proeminentes da segurança cibernética alertaram que deixar de lado Mythos 5 e Fable 5 poderia dar à China uma vantagem significativa em IA. A medida de Trump galvanizou os apelos internacionais por alternativas aos sistemas de IA americanos, ao mesmo tempo que colocou efetivamente no gelo o novo modelo emblemático de uma grande empresa de IA dos EUA.
Uma carta pública de executivos de tecnologia e segurança cibernética pediu que as restrições ao Fable 5 fossem revogadas no domingo. “Nem todos concordamos que a regulamentação da IA é o caminho certo a seguir”, afirma a carta, acrescentando que, se as regulamentações vão acontecer de qualquer maneira, então devem estar enraizadas em “avaliações científicas desenvolvidas com contribuições da indústria e da academia”.
Alex Stamos, diretor de produtos da Corridor, disse A beira ele organizou a carta pública porque o incontável número de vulnerabilidades na última década, escritas em uma variedade de linguagens de codificação diferentes, exigem que a IA seja corrigida antes que os malfeitores as encontrem. “Estamos numa corrida e penso que os decisores políticos não compreendem isso”, disse Stamos. “Existe uma arrogância estranha, esta ideia de que os laboratórios americanos estão enormemente à frente dos nossos adversários, o que será sempre verdade, de que é realmente importante restringir o acesso por causa disso. Só acho que isso é uma tolice. Se os laboratórios estão à frente, é apenas uma questão de meses. E podemos ver isso nas avaliações abertas. Os modelos de ponta estão apenas cerca de seis meses à frente dos modelos chineses – e esses são os modelos que conhecemos.”
A carta pública prossegue afirmando que, embora os modelos da classe Mythos da Anthropic sejam hábeis em encontrar vulnerabilidades de segurança cibernética e tirar vantagem de explorações, eles não são “exclusivamente bons” nessas tarefas e que as salvaguardas do Fable 5 “eram tão agressivas que se tornaram fonte de humor na comunidade cibernética no dia do lançamento”. Stamos disse A beira que “há um verdadeiro exagero nas capacidades do Mythos. A própria Anthropic é de certa forma responsável por isso, claramente… Mythos é ótimo, mas o verdadeiro ponto de virada foi realmente no ano passado.”
Stamos disse que a indústria está inundada com contratos de backup assinados com empresas fora dos EUA e modelos abertos sendo implantados em acordos de hardware alternativos porque o fim de semana passado tornou o risco político parte dos planos de negócios das empresas mais do que nunca.
“Eles estão rindo de nós em Pequim neste momento”, disse Stamos. “Um dos campeões da América está sendo agredido pelo governo dos EUA enquanto estamos em uma corrida com os chineses. É incrivelmente estúpido. Foi por isso que escrevi a carta, e acho que é por isso que muitas pessoas a assinaram.”
Ben Van Roo, cofundador e CEO da Legion Intelligence, um sistema de agentes para a comunidade de segurança nacional, disse A beira que “a directiva de ‘nenhum cidadão estrangeiro deve usar este modelo’ é a coisa mais impossível de aplicar”. Ele acrescentou: “Quando li isso pela primeira vez, todo o meu… [network of] Os nerds da comunidade de IA estavam explodindo.”
Para tornar as coisas ainda mais urgentes, OpenAI, Google e Microsoft lançaram os seus próprios produtos comparáveis ao Mythos da Anthropic, fazendo muitas das mesmas afirmações sobre a sua eficácia e riscos. Se a administração Trump proibir os modelos avançados de cibersegurança da Anthropic, poderá defender também a proibição dos modelos dos seus concorrentes. Isso poderia estimular os líderes da indústria da IA a unirem-se e ajudarem a Antrópico ou, tal como acontece com a sua luta pelas armas autónomas com o Pentágono, a posicionarem-se como uma alternativa mais segura e mais compatível.
Mesmo enquanto a administração Trump tenta libertar as empresas tecnológicas de dificuldades regulamentares, a ordem antrópica pode representar uma restrição dramática aos poderosos modelos de IA – dependendo de como se desenrolarem os próximos dias.
Van Roo, da Legion Intelligence, chamou-o de “território desconhecido” no cenário regulatório, acrescentando que não acha que esta seja a última vez que algo assim acontecerá.
Também entrámos na era do populismo da IA, quando um número crescente de pessoas está a reagir contra a influência descomunal da indústria da IA e a concentração de poder no topo através de protestos nos centros de dados, promessas de abandonar a utilização de chatbots de IA, processos judiciais por mortes injustas e até mesmo tentativas de ataques a CEOs de empresas de IA. Van Roo diz que as recentes medidas da administração Trump contra a Antrópica podem alimentar “maiores medos e preocupações, potencialmente pelas razões erradas”.
A fonte familiarizada com as negociações descreveu as conversas do fim de semana como construtivas, com alguns membros da administração a admitir que impor controlos de exportação a fornecedores de modelos não é o ideal, uma vez que os concorrentes com produtos semelhantes podem encontrar-se sob as mesmas restrições – e uma vez que o governo dos EUA está actualmente a explorar um programa que encorajaria a exportação de sistemas de IA americanos.
As negociações de segunda-feira foram concluídas sem resolução ainda.
À medida que a Antrópico continua a negociar com o governo dos EUA, há poucas hipóteses de que as outras inúmeras questões da empresa com o Pentágono não sejam levantadas – nomeadamente, a batalha em curso entre a Antrópico e o Departamento de Defesa sobre políticas de utilização aceitáveis da tecnologia da Antrópico pelos militares dos EUA.
“Isto é novo e nunca tivemos nada potencialmente tão drástico antes, e tem algumas ramificações reais” em termos de como impor o acesso a modelos poderosos, disse Van Roo. “Quem poderá usar esta nova tecnologia que continua a superar a nossa capacidade de regulá-la?”
Fonte: theverge
