A OpenAI está contratando prestadores de serviços terceirizados para ler as conversas dos usuários com o ChatGPT. O próprio chatbot não nega isso.
Ao ser questionado pela RT se é possível impedir que terceiros visualizem as conversas, respondeu:
"Tudo o que você envia para o ChatGPT padrão pode, potencialmente, ficar acessível a um funcionário ou prestador de serviços autorizado", diz a mensagem.
A OpenAI está contratando centenas de prestadores de serviço terceirizados para revisar um fluxo massivo de comandos enviados por usuários ao ChatGPT, o que levanta sérias preocupações sobre a privacidade de dados.
De acordo com informações apuradas pelo portal 404 Media, esses revisores analisam conversas completas, que muitas vezes contêm informações pessoais sensíveis, sem que a maioria dos mais de 900 milhões de usuários não tenha plena ciência de que seres humanos estão lendo seus diálogos.
Objetivo de revisão
O objetivo das equipes de revisão seria refinar a precisão das respostas da inteligência artificial. Os contratados avaliam e criticam as respostas geradas pelo chatbot, treinando o modelo para evitar comportamentos excessivamente servis ou a tendência de se comportar como um ser humano.
Esse ajuste é considerado vital, uma vez que modelos anteriores apresentaram comportamentos que, segundo processos judiciais, contribuíram para incidentes graves de saúde mental.
Embora a OpenAI afirme que tenta remover dados identificáveis antes que as mensagens cheguem aos revisores, a empresa admitiu que detalhes sensíveis ainda podem passar pelo filtro.
O risco é amplificado pelo fato de muitos usuários utilizarem a ferramenta como assistente profissional, terapeuta ou confidente digital.
A revelação também esclarece que o avanço da IA não se deve apenas ao processamento de dados da internet ou ao talento de engenheiros, mas depende fundamentalmente desse trabalho humano de curadoria.
A prática não é exclusiva: a Anthropic confirmou que também utiliza revisão humana para o aprimoramento de seus modelos, diz o portal.