Chefe de segurança em IA da Anthropic pede demissão e deixa alerta enigmático

O pesquisador de segurança em inteligência artificial (IA), Mrinank Sharma, pediu demissão da Anthropic, empresa responsável pelo chatbot Claude, e anunciou que pretende se tornar "invisível por um período". Ele fez o anúncio na rede social X.

A saída de Sharma, que liderava a equipe de pesquisa em segurança da empresa, foi acompanhada de um alerta sobre "crises interconectadas" que ameaçam o mundo.

Inteligência artificial pode afetar até 20% dos empregos na Finlândia, aponta FMI

"O mundo está em perigo. E não apenas por causa da inteligência artificial ou das armas biológicas, mas por causa de toda uma série de crises interligadas que estão se desenrolando neste exato momento", escreveu Sharma em carta aos colegas.

Ele deixou a empresa dias após o lançamento do Opus 4.6 da Anthropic, versão mais poderosa do Claude, indica possíveis divergências internas sobre prioridades de segurança.

"Ao longo do meu tempo aqui, tenho visto repetidamente como é difícil deixar que nossos valores realmente governem nossas ações", declarou.

"Vi isso em mim mesmo, dentro da organização, onde enfrentamos constantemente pressões para deixar de lado o que mais importa, e também para sociedade em geral", revelou.

Sharma afirmou ter orgulho de seu trabalho no desenvolvimento de defesas contra armas biológicas assistidas por IA e de seu "projeto final sobre como os assistentes de IA podem nos tornar menos humanos ou distorcer nossa humanidade". Ele pretende voltar ao Reino Unido.

O CEO da Anthropic, Dario Amodei, tem alertado para os riscos da tecnologia que a própria empresa comercializa. Em ensaio publicado em janeiro, afirmou que sistemas de IA com "poder quase inimaginável" são "iminentes" e "testarão quem somos como espécie".