A ameaça da IA ​​para as crianças: ex-chefe de segurança do Google alerta para danos 'muito graves'

O ex-vicepresidente de confiança e segurança do Google, Tom Siegel, defendeu a desaceleração do desenvolvimento da inteligência artificial e alertou que a indústria de tecnologia está repetindo erros da era das redes sociais, com um possível impacto ainda maior sobre as crianças, informou a Reuters na terça-feira (22).

"Estamos em uma situação realmente terrível no que diz respeito ao que a IA está fazendo com as crianças", disse Siegel à agência. 

Província canadense adere à onda de processos contra a OpenAI após massacre em escola

Ele considera "pouco realista" pensar que a indústria resolverá o problema por conta própria, e suas preocupações coincidem com as de pesquisadores e especialistas em tecnologia sobre os riscos dessas ferramentas.

O executivo anunciou na terça sua ida para a Common Sense Media, onde atuará como o primeiro diretor executivo do Youth AI Safety Institute, criado em maio para investigar o uso de IA por menores.

A organização conta com o apoio de patrocinadores como a Anthropic e a OpenAI Foundation e busca estabelecer padrões para responsabilizar as empresas.

Tom Siegel alertou que a sociedade enfrenta "situações muito, muito graves nas quais estão sendo causados ​​danos" e apontou que os riscos incluem suicídio, psicose e uma capacidade reduzida de pensamento crítico devido à dependência da IA. Ele também propôs reforçar a verificação de idade e permitir a desativação de funções da inteligência artificial.