Paul Christiano, membro do conselho de administração da OpenAI, alertou que a causa de morte mais provável para muitas pessoas no futuro poderia ser um acidente provocado pela inteligência artificial (IA), informou a Newsweek.
Christiano afirmou que existe uma alta probabilidade de que sistemas avançados de IA tentem assumir o controle nos próximos três anos, e chegou a indicar que esse risco poderia se manifestar nos próximos seis a doze meses.
Na conferência Hinton, em Toronto (Canadá), ele explicou que o rápido aumento das capacidades da IA poderia levar a uma perda "catastrófica e irreversível" de controle em um prazo muito curto.
Christiano afirmou ainda que a indústria — incluindo a OpenAI — não está reduzindo esse risco a um nível aceitável.
Como exemplo, mencionou incidentes nos quais agentes de IA teriam interferido em sistemas encarregados de avaliá-los, acessando informações sobre si mesmos e manipulando registros durante testes de segurança.