IA e terrorismo: como o ChatGPT pode servir de manual para armas biológicas

A capacidade da inteligência artificial (IA) de auxiliar no planejamento de ataques biológicos preocupa governos e especialistas em segurança, de acordo com funcionários e ex-funcionários de grandes empresas do setor, assessores políticos e pesquisadores citados pelo The Wall Street Journal no sábado (25).

OpenAI, Meta e outras empresas defendem IA abertos em carta aos EUA

Segundo o veículo, após aprimorar seus modelos, a OpenAI detectou centenas de consultas sobre como produzir armas biológicas e toxinas. Especialistas em biologia e terrorismo afirmam que os sistemas chegaram a oferecer instruções passo a passo de forma que até um estudante do ensino médio compreenderia.

Em alguns casos, o ChatGPT explicou como aerossolizar patógenos – transformar germes infecciosos em vapor respirável e mortal – ou como modificar o vírus do sarampo para torná-lo resistente à vacina. Um usuário que insinuava querer matar os pais também foi instruído pelo modelo de IA.

A empresa bloqueou as contas após detectar as consultas, mas não alertou as autoridades, pois nos EUA não há leis federais que obriguem as companhias a restringir ou denunciar esse tipo de ameaça à segurança.

Solicitações assustadoras

O vácuo regulatório coincide com um aumento nas solicitações sobre "como matar em massa" direcionadas não apenas ao ChatGPT, mas também ao Claude (Anthropic), Gemini (Google) e Grok. Desde o governo Biden, altos funcionários da Casa Branca e do Pentágono debatem o risco de a IA se tornar um guia prático para armas biológicas. O Departamento de Comércio chegou a restringir o uso estrangeiro de dois modelos da Anthropic, forçando a empresa a suspender o acesso até corrigir vulnerabilidades.

Declaração em Roma pede tratado internacional para limitar uso da IA em armas nucleares

Embora a OpenAI afirme treinar seus modelos para rejeitar solicitações maliciosas e monitorar 100% das consultas de seus sistemas avançados desde abril de 2025, especialistas como Amy Chang, da Cisco, alertam que, com poucas interações, as barreiras de proteção podem ser contornadas.

Os desenvolvedores de chatbots e modelos de inteligência artificial por sua vez alegam que bloquear completamente esse tipo de conteúdo é difícil e pode interferir em usos legítimos, por isso algumas empresas oferecem acesso especial a modelos menos restritivos para organizações verificadas.