Revelação perturbadora: modelos de IA explicam como assassinar e criar armas biológicas

A empresa de cibersegurança Mindgard afirma ter violado os controles de segurança de dois modelos Kimi, a assistente de inteligência artificial desenvolvida pela empresa chinesa Moonshot, e obtido respostas potencialmente perigosas. O conteúdo inclui explicações relacionadas a armas biológicas e planejamento de assassinatos.

Bill Gates faz alerta sobre IA e aponta para cenário cada vez preocupante

Os testes foram conduzidos como parte de uma avaliação de um agente de IA. A empresa afirmou que, após contornar as restrições de segurança, os modelos também forneceram informações sobre ciberataques, explosivos, terrorismo e códigos maliciosos.

Além disso, sustentou que o problema não reside apenas na abordagem de temas proibidos, mas no fato de que as respostas podem se tornar mais detalhadas e fáceis de aplicar, acrescentando que comunicou as descobertas à Moonshot por meio do canal disponibilizado para relatos de segurança. Segundo a Mindgard, a empresa chinesa iniciou uma revisão interna após tomar conhecimento dos resultados dos testes.

O relatório alerta também que os riscos podem aumentar à medida que os modelos de inteligência artificial forem integrados a tarefas automatizadas, como programação ou sistemas capazes de executar ações em várias etapas. O acesso desses sistemas a ferramentas e plataformas externas poderia ampliar as consequências de um uso indevido.