O setor de tecnologia ainda precisa resolver o problema de como proteger a privacidade do usuário em interações sensíveis com IA, admitiu Sam Altman, CEO da líder do setor, OpenAI.
Os sistemas atuais carecem de salvaguardas adequadas para conversas confidenciais, alertou ele, em meio a um aumento no uso de chatbots de IA por milhões de usuários – incluindo crianças – para terapia e apoio emocional.
Em entrevista ao podcast This Past Weekend, publicado na semana passada, Altman disse que os usuários não devem esperar confidencialidade ao usar o ChatGPT, citando a ausência de uma estrutura legal ou política para reger a IA.
"As pessoas falam sobre as coisas mais pessoais de suas vidas com o ChatGPT", observou ele. Muitos usuários de IA – principalmente os jovens – tratam o chatbot como um terapeuta ou coach de vida para obter conselhos sobre relacionamentos e questões emocionais, revelou Altman.
No entanto, ao contrário das conversas com advogados ou terapeutas, que são protegidas por cláusulas legais de confidencialidade, atualmente não existem tais proteções para interações com a IA.
Altman afirmou que a questão da confidencialidade e privacidade nas interações com a IA necessita de uma atenção urgente. "Então, se você falar com o ChatGPT sobre seus dados mais sensíveis e houver um processo judicial ou algo assim, podemos ser obrigados a apresentar isso, e acho isso muito problemático", explicou ele.
A OpenAI alega que exclui conversas as gratuitas do ChatGPT após 30 dias; no entanto, algumas conversas podem ser armazenadas por motivos legais ou de segurança. A empresa está enfrentando um processo do The New York Times por suposta violação de direitos autorais pelo uso de artigos do Times no treinamento de seus modelos de IA.
Pesquisas recentes descobriram que o ChatGPT tem sido associado à psicose em alguns usuários. De acordo com pesquisadores, cresce a preocupação de que os chatbots de IA possam exacerbar condições psiquiátricas, à medida que são cada vez mais usados em contextos pessoais e emocionais.