CEO da Anthropic: Indústria 'mentiu' sobre os perigos da IA

O CEO e cofundador da Anthropic, Dario Amodei, admitiu no domingo (13) que a indústria de tecnologia enganou o público sobre os perigos da inteligência artificial, alertando que existem riscos reais que podem ameaçar a humanidade se medidas urgentes não forem tomadas.

Houthis teriam utilizado IA para construir mísseis balísticos

"Não vou mentir para vocês: existem perigos reais. E acho que, por muito tempo, a indústria mentiu para as pessoas sobre os riscos dessa tecnologia", disse Amodei em entrevista ao programa "Sunday Morning" da CBS News.

O executivo reconheceu que não havia compreendido totalmente "como seria realmente quando o progresso fosse tão rápido quanto tem sido", observando que o desenvolvimento da IA ​​segue uma curva exponencial que está se tornando cada vez mais acentuada.

"Isso não significa que precisamos entrar em pânico hoje. Não significa que precisamos paralisar tudo. Mas eu diria que é um sinal de alerta. É um sinal de alerta de que precisamos desacelerar", afirmou.

A observação de Amodei ganha ainda mais relevância após as declarações desta semana de Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, que alertou que ambas as empresas estão "jogando com nossas vidas" ao desenvolverem superinteligência com capacidade de autoaperfeiçoamento.

Em resposta, Amodei anunciou que a Anthropic dará acesso permanente aos seus modelos a avaliadores independentes e apoiou a regulamentação federal, incluindo a possibilidade de um "botão de desligamento" obrigatório para interromper  a IA que represente riscos.

No entanto, o executivo rejeitou a proibição total da superinteligência, argumentando que abrir mão dos "benefícios incríveis" e das curas médicas que ela poderia oferecer não é a coisa certa a fazer.