A gigante da tecnologia Anthropic foi obrigada a suspender imediatamente seus modelos de inteligência artificial (IA) mais recentes, conhecidos como Fable 5 e Mythos 5, para cumprir uma diretiva do governo Trump que busca impedir seu uso por qualquer cidadão estrangeiro — incluindo os próprios funcionários da empresa — tanto dentro quanto fora do país.
A desenvolvedora de Claude indicou na sexta-feira (12) que o governo dos EUA acredita haver um método para contornar ou "quebrar" uma medida de segurança que impediria o uso do Fable 5 para identificar vulnerabilidades de software.
Os controles de exportação representam a medida mais significativa adotada até o momento pelas autoridades americanas para restringir o acesso aos modelos de IA mais avançados. A Anthropic lançou o Fable ao público esta semana. Este modelo é uma versão limitada do ainda mais avançado Mythos, cujo acesso a empresa restringiu estritamente devido a preocupações com a segurança cibernética, segundo informa a AP.
Trata-se de um "mal-entendido"
A Anthropic declarou discordar da forma como as autoridades lidaram com a questão e classificou a situação como "um mal-entendido", afirmando que espera restaurar o acesso aos modelos "o mais rápido possível". "Acreditamos que o governo deveria ter o poder de bloquear implementações inseguras como parte de um processo legal transparente, justo, claro e tecnicamente sólido. Esta ação não está em conformidade com esses princípios", diz o comunicado.
Além disso, a gigante da IA, avaliada em US$ 965 bilhões, afirmou ter implementado "medidas de segurança robustas que reduzem significativamente a probabilidade de o Fable ser usado indevidamente para tarefas relacionadas à segurança cibernética". "Na verdade, nossas medidas são tão robustas que muitos usuários reclamaram que são excessivamente abrangentes", acrescentou.
A startup detalhou que, nas semanas que antecederam o lançamento de seu modelo mais recente, colaborou com o governo dos EUA, o Instituto de Segurança de Inteligência Artificial (AISI) do Reino Unido, "várias organizações privadas externas e equipes internas para testar as medidas de segurança da Fable por milhares de horas no total". "Esses testes demonstraram que as medidas de segurança da Fable são substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente", enfatizou.
Comentário do Secretário de Guerra
Comentando a medida, o Secretário de Guerra dos EUA, Pete Hegseth, endossou a decisão de expulsar a empresa do Pentágono meses antes. "Há três meses, o Departamento de Guerra removeu a Anthropic do nosso prédio definitivamente. Cada dia que passa prova que foi a decisão certa", escreveu ele em sua conta no X.
Preocupações com riscos de segurança
Uma fonte anônima disse a Axios que o Departamento de Comércio decidiu tomar a medida depois que outra empresa alegou ter desbloqueado o Mythos com sucesso, alarmando o governo sobre potenciais riscos à segurança nacional. A fonte indicou que o governo tentou convencer a Anthropic a suspender o lançamento dos modelos mais recentes, mas não obteve sucesso, o que motivou a carta de controle de exportação. Portanto, o modelo deve permanecer sob controle até que o aparato de segurança nacional do governo dos EUA seja reforçado, explicou a fonte, acrescentando que isso pode acontecer nas próximas semanas.
Uma pessoa familiarizada com o assunto revelou à Reuters que o CEO da Amazon Web Services, Andy Jassy, foi um dos líderes tecnológicos que expressaram preocupação a funcionários de alto escalão do governo Trump sobre os riscos de segurança nos modelos de IA mais avançados da Anthropic.
David Sacks, copresidente do Conselho Consultivo Presidencial de Ciência e Tecnologia, também indicou que "um parceiro confiável e altamente credível tanto da Anthropic quanto do governo dos EUA, que estava testando o Fable, revelou uma vulnerabilidade que burlava essas medidas de segurança". Ele detalhou que as autoridades pediram ao cofundador e CEO da Anthropic, Dario Amodei, que "corrigisse a vulnerabilidade ou retirasse o modelo", mas ele se recusou a fazê-lo.
"Em resposta, o governo impôs controles de exportação. O governo fez isso a contragosto. Eles ficaram extremamente surpresos com a recusa da Anthropic em cooperar com uma solicitação de segurança razoável (ou seja, corrigir uma vulnerabilidade). A reação da Anthropic contradiz completamente sua imagem de marca e ética como uma comunidade de pesquisa de IA segura", afirmou. Ele acrescentou que as autoridades esperam que a empresa "corrija o problema de segurança, mantenha os controles de exportação suspensos e disponibilize o Fable ao público novamente".
Tensões entre o governo Trump e a Anthropic
As restrições foram implementadas após uma disputa anterior entre funcionários do governo Trump e a Anthropic, que entrou com um pedido confidencial de oferta pública inicial (IPO) nos EUA, mostrar sinais de abrandamento em alguns setores do governo americano, segundo informou a Reuters, citando fontes.
O relacionamento se deteriorou no início deste ano depois que a empresa se recusou a permitir que as Forças Armadas dos EUA usassem seus modelos de IA para segurança nacional e sistemas de armas totalmente autônomos, o que levou o governo a adicioná-la a uma lista negra de segurança nacional, que entrará em vigor ainda este ano. Em março, o Departamento de Guerra designou a empresa como um "risco para a cadeia de suprimentos", a primeira vez que uma empresa americana recebeu essa designação, geralmente reservada para empresas com ligações com nações adversárias. Essa classificação impede que dezenas de milhares de contratados usem a IA da Anthropic quando trabalham para as forças armadas dos EUA.
O relacionamento melhorou desde que Amodei visitou a Casa Branca em meados de abril para discutir uma possível colaboração pela primeira vez desde o início da disputa, embora a Anthropic ainda esteja contestando na justiça a designação de risco para a cadeia de suprimentos. O Pentágono continua a se defender vigorosamente contra o processo da Anthropic, disse Franklin Turner, advogado especializado em contratos governamentais.
Trump estabelece estrutura de avaliação de IA
Essa medida ocorre pouco mais de uma semana depois que Trump assinou uma ordem executiva estabelecendo uma estrutura que permitiria ao governo federal avaliar os riscos à segurança nacional dos sistemas de IA mais avançados por um mês antes de seu lançamento público. A participação dos desenvolvedores de IA seria voluntária, de acordo com o documento.
"As capacidades avançadas de IA fortalecem nossa nação, mas também introduzem novas considerações de segurança nacional que exigem ação coordenada entre os departamentos e agências do Poder Executivo", afirma a ordem.
A diretiva, cuja versão inicial o chefe da Casa Branca se recusou a assinar em maio, foi descrita como uma colaboração voluntária com empresas de tecnologia americanas, incluindo a Anthropic, a OpenAI e o Google, que às vezes são chamadas de "laboratórios de ponta" para o desenvolvimento dos sistemas de IA mais avançados.