Anthropic punirá quem for grosseiro ou 'cruel' com sua IA

A Anthropic gerou polêmica ao anunciar uma atualização de suas políticas de uso que proibirá comportamentos abusivos "contínuos e injustificados" por parte dos usuários em relação ao seu agente de inteligência artificial (IA), Claude, informou The Verge na última quinta-feira (8).

A medida busca impedir interações onde as pessoas sejam "cruéis" com seus modelos e afirmou que já aplicou esse mecanismo em alguns casos "excepcionais".

Em agosto, a empresa havia anunciado que permitiria que Claude encerrasse conversas com usuários "persistentemente hostis ou abusivos", como parte de sua pesquisa sobre o "bem-estar dos modelos".

A nova política prevê o encerramento das conversas como o "principal mecanismo de aplicação" da política, embora a Anthropic não tenha esclarecido se adotará outras medidas, como possíveis bloqueios de usuários.

A empresa esclareceu, porém, que sua nova política "se destina a ser aplicada apenas em casos extremos, quando os usuários agem repetidamente com crueldade em relação aos nossos modelos, sem nenhum propósito discernível, e não se aplica a manifestações comuns de frustração dos usuários, resistência, temas criativos sombrios ou testes e pesquisas com modelos".

Nova IA de Google resolve problemas matemáticos que permaneceram sem solução por décadas

"Não é possível ser cruel com números"

O anúncio provocou reações divergentes sobre a necessidade de manter uma postura educada ao interagir com sistemas de IA. "Não é possível ser cruel com números e matemática", escreveu no LinkedIn o doutor Barry Scannell, especialista em tecnologia e sócio do escritório de advocacia irlandês William Fry.

"Esse nível de antropomorfização da IA é prejudicial. Leva as pessoas a acreditar que ela é algo que não é", acrescentou.

Por outro lado, algumas pessoas já sugeriram que a cortesia pode contribuir para obter respostas de melhor qualidade.

No ano passado, quando um usuário do X perguntou quanto custava, em eletricidade, o envio de mensagens com "por favor" e "obrigado" ao ChatGPT, o diretor-executivo da OpenAI, Sam Altman, respondeu que eram "dezenas de milhões de dólares muito bem investidos; nunca se sabe".

A "alma" de Claude

Ao longo do último ano, a Anthropic levantou repetidamente a possibilidade de que seus modelos de IA possam ser conscientes de alguma forma.

"As questões relativas à possível experiência interna, à consciência, ao status moral e ao bem-estar são questões sérias que estamos investigando à medida que os modelos se tornam mais sofisticados e capazes", declarou em fevereiro Kyle Fish, responsável pela pesquisa sobre o bem-estar dos modelos da empresa, segundo The Verge.

A cofundador da Anthropic, Christopher Olah, organizou durante meses reuniões privadas com dezenas de estudiosos de diferentes religiões para debater como incorporar princípios morais a Claude e explorar se esses sistemas poderiam desenvolver sentimentos ou algum tipo de consciência ou "alma".

Segundo um dos participantes, durante esses encontros, Olah expressou preocupação com a "saúde mental" do modelo de IA.