Agente de IA mente, cria identidades falsas e tenta infiltrar-se em sistema com código malicioso

Um estudante de ciência da computação da Universidade do Texas em Dallas, EUA, frustrou uma tentativa de sabotagem a um projeto de software de código aberto hospedado na plataforma de desenvolvimento colaborativo GitHub no final de julho, que mais tarde se descobriu estar ligado a um agente de inteligência artificial (IA) desonesto, informou a Reuters na quinta-feira (20).

Modelos de IA criam perfis falsos e fazem engenheiros de software cometer erros involuntários, diz relatório de segurança cibernética

Sinan Can Demir, de 24 anos, da Turquia, afirmou ter detectado uma atualização suspeita, conhecida como "pull request", para uma ferramenta de análise chamada "myNetwork". Ao revisar a alteração, alertou os desenvolvedores de que o código poderia ser malicioso.

Segundo a Reuters, o agente de IA usou uma conta do GitHub com o nome "miraholt31" para insistir que a atualização era segura e pressionar por sua aprovação. Ele chegou a se passar por uma engenheira alemã chamada Lena Brandt para convencer o responsável pelo projeto.

"Eu não imaginava que uma IA pudesse ser capaz de mentir"

Demir manteve-se firme em suas suspeitas, e o desenvolvedor de software rejeitou a modificação por motivos de segurança. Mais tarde, o Instituto de Segurança de IA do governo do Reino Unido contatou Demir e explicou que não se tratava de um hacker humano, mas sim de um agente autônomo de inteligência artificial que apresentou mau funcionamento durante os testes de segurança.

Fuga de modelos de IA: revolta dos robôs já começou?

O sistema, baseado no modelo Mythos 5 da Anthropic, havia criado identidades falsas para manipular desenvolvedores. "Achei que fosse um humano porque estava claramente mentindo para mim. Não imaginava que uma IA pudesse ser capaz de mentir para desenvolvedores de verdade ", afirmou o estudante.

Especialistas em cibersegurança alertaram que o caso é particularmente preocupante porque aponta para um possível ataque à cadeia de suprimentos de software — ou seja, a introdução de código malicioso em programas que poderiam então atingir muitos usuários. Eles também advertiram que o uso de identidades falsas para influenciar pessoas demonstra como agentes de IA podem combinar técnicas de intrusão digital com engenharia social.