A Anthropic afirmou ter bloqueado em 2026 contas de cientistas que usaram o Claude, seu modelo de inteligência artificial, em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas. Segundo relatório divulgado nesta quinta-feira (10), a empresa detectou tentativas de contornar controles e esconder a finalidade dos trabalhos para evitar suas salvaguardas.
A companhia disse não ter conseguido determinar se as pesquisas eram legítimas ou maliciosas, por envolverem um campo de uso duplo. Diante da incerteza, afirmou ter optado pela cautela. Os cientistas também tentaram acessar o modelo a partir de regiões bloqueadas.
Em um dos casos, registrado em maio, um pesquisador pediu ajuda para elaborar uma solicitação de financiamento para experimentos com o vírus chikungunya, incluindo mutações para torná-lo mais nocivo em animais. A Anthropic afirmou que a realização do trabalho em um instituto militar foi um dos motivos de preocupação.
"Não se trata de um personagem de quadrinhos que diga: 'Quero criar uma arma biológica para matar todo mundo'", declarou ao New York Times Jacob Klein, chefe de inteligência de ameaças da empresa. Ele classificou a situação como "incrivelmente complexa".
Risco biológico
A possibilidade de modelos avançados de IA facilitarem o desenvolvimento de patógenos conhecidos ou inteiramente novos está entre as maiores preocupações de especialistas com a tecnologia. Até alguns de seus principais criadores duvidam de que seja possível controlá-la por completo.
O uso indevido da IA na área biológica, porém, recebeu menos atenção como risco existencial do que ataques cibernéticos catastróficos ou sistemas que não seguem as intenções humanas. Isso ocorre, em parte, porque os exemplos anteriores costumavam aparecer em ambientes de pesquisa, e não em situações reais.