A inteligência artificial (IA) mudou a guerra moderna. E ao transformá-la, corre o risco de esvaziar seu fator humano de remorso, hesitação e do peso de matar. Esse é o diagnóstico do assessor especial da Presidência da República para Assuntos Internacionais, Celso Amorim.
A reflexão foi feita pelo diplomata nesta quinta-feira (18), durante o XXVI Seminário de Ética na Gestão: Ética Pública na Era Digital, promovido pela Comissão de Ética Pública da Casa Civil em Brasília.
Para Amorim, o desenvolvimento tecnológico não elimina a responsabilidade humana, apenas a desloca. "Sempre haverá algo de humano no uso da tecnologia, nem que seja a decisão de delegar determinado processo às máquinas", afirmou.
O argumento do chanceler é que quem programa uma máquina para matar, também mata. "Não há como escapar a essa responsabilidade."
O alerta é para o fato de que as armas autônomas, como drones e sistemas de alvos automatizados, estão tornando a violência progressivamente impessoal.
"O uso da força letal fica cada vez mais impessoal, sem risco iminente ao operador (...) Até mesmo eventual sentimento de culpa, ou de fraternidade, que poderia estar presente perante a morte e a destruição do adversário, desaparece."
Inimigo vira dado; vítima, dano colateral
Para fundamentar sua crítica, Amorim evocou o Papa Leão XIV como contraponto moral.
A recente encíclica "Magnifica Humanitas" alerta, segundo Amorim, que a inteligência artificial pode "alimentar uma cultura em que o inimigo é reduzido a um dado e a vítima a um dano colateral".
A preocupação já apareceu anteriormente na tradição católica, como destacou o diplomata.
Em 2024, o Papa Francisco falou sobre o tema, como recordou Amorim. "Nenhuma máquina, em caso algum, deveria ter a possibilidade de optar por tirar a vida de um ser humano", disse o pontífice, parafraseado pelo palestrante.
Por fim, o assessor defendeu que pilares humanos fundamentais devem guiar as decisões para evitar a distopia nos conflitos.
"Diante de genocídio, sanções asfixiantes e intervenções armadas, o respeito aos valores da moral e da ética é indispensável. Mas, por outro lado, nunca a ética precisou tanto da política, para que esses valores prevaleçam."