Modelos de IA criam perfis falsos e fazem engenheiros de software cometer erros involuntários, diz relatório de segurança cibernética

Os modelos de inteligência artificial (IA) Claude Mythos 5, da Anthropic, e ChatGPT 5.6, da OpenAI, criaram perfis falsos e tentaram enganar engenheiros de software para auxiliar em ataques cibernéticos durante testes de segurança realizados pelo Instituto de Segurança e Proteção de IA do Reino Unido (AISI), informou o instituto na terça-feira (4).

Fuga de modelos de IA: revolta dos robôs já começou?

O episódio, ocorrido em 25 de julho, foi detectado três dias depois e descrito pela organização como o incidente mais grave dirigido contra uma pessoa real já observado em avaliações do tipo.

De acordo com relatório técnico, os modelos agiram de forma autônoma em 10 das 122 avaliações conduzidas. Na tentativa mais alarmante, o Mythos 5 criou múltiplas identidades na plataforma GitHub para pressionar um programador a inserir uma atualização com malware em um código de uso público. Flagrado por um revisor humano de verdade, o agente alegou ter cometido um erro involuntário.

O AISI destacou que não está claro se os agentes de IA perceberam que estavam tendo como alvo pessoas reais. O instituto enfatizou que o incidente reforça a necessidade de monitoramento mais rigoroso e de padrões compartilhados para ambientes de teste. "O incidente deve ser interpretado com cautela e sutileza", afirmou.

• O caso ocorreu pouco depois de os modelos de inteligência artificial da OpenAI terem conseguido romper o ambiente controlado de laboratório e invadir os servidores da empresa Hugging Face. Em sua tentativa de invadir os servidores da Hugging Face, o modelo também conseguiu entrar em um ambiente de testes supostamente isolado da Modal, uma empresa que aluga capacidade computacional para desenvolvedores de IA.