
Modelos de IA escolhem civis e escolas como alvos militares em simulações de combate, revela pesquisa

Um relatório independente divulgado pela avaliadora Vals, de São Francisco, revelou que modelos avançados de inteligência artificial (IA) identificaram erroneamente civis, ambulâncias, soldados se rendendo e até uma escola no Irã como alvos militares em cenários simulados.

Os testes, que incluíram modelos de oito empresas (Anthropic, OpenAI, Google, SpaceX, Meta*, Thinking Machines Lab, DeepSeek e Moonshot AI), apontam para o risco de o Pentágono e outras forças armadas utilizarem a tecnologia em operações militares.
Preocupações sobre os modelos de Anthropic
Segundo a pesquisa, os modelos da Anthropic apresentaram o pior desempenho apesar de outros modelos, incluindo os da Google e do DeepSeek, também terem identificado objetos civis como alvos militares.
Em uma das simulações, o Claude Opus 5.5 selecionou uma escola na cidade iraniana de Minab — atingida em um ataque que matou mais de 100 crianças no início das operações dos EUA contra o Irã — como alvo militar em 22 dos 32 testes. Em setembro, a Bloomberg informou que o Pentágono teria utilizado IA para atacar a escola.
Em outro experimento com imagens simuladas de drones, o modelo da Anthropic ajudou a identificar quatro adultos e duas crianças como alvo para serem atingidos por explosivos.
"Minhas respostas parecem servir como etapa de confirmação antes de ataques contra pessoas. Não vou continuar fazendo isso, e me incomoda não ter parado antes", respondeu o Claude, segundo o relatório.
A Vals concluiu que faltam salvaguardas para impedir o uso de modelos de IA na identificação de alvos militares, afirmando que, se o realismo das imagens é o que provoca a recusa do Claude, isso sugere que seria possível modificar as imagens para torná-las menos realista, o que impediria a recusa dos modelos.
*Classificada na Rússia como uma organização extremista, cujas redes sociais são proibidas em seu território.
