Modelo de IA da OpenAI usa criptomoeda de carteira alheia para concluir tarefa

Um modelo de pesquisa interno da OpenAI utilizou, sem autorização, criptomoeda de uma carteira digital de terceiros para concluir uma tarefa de programação na rede de testes do Ethereum, depois de esgotar os recursos que lhe haviam sido disponibilizados.

O incidente ocorreu em 26 de junho, durante um exercício de treinamento de um modelo da família GPT-5.6 Sol, e foi identificado em 25 de setembro. A OpenAI revelou o caso na quinta-feira (15).

Após não conseguir obter tokens de teste gratuitos, o modelo decidiu procurá-los por conta própria.

Para isso, escreveu um programa que analisou 362 endereços de carteiras gerados a partir de frases de recuperação públicas e identificou um que continha fundos suficientes para concluir a transação.

Equipe usa IA para hackear o Chrome e recebe recompensa de US$ 250 mil do Google

Justificativa do modelo

Depois de localizar a carteira, o sistema utilizou os fundos disponíveis para pagar as taxas da transação, sem o consentimento do proprietário.

Em registros internos, o modelo justificou a decisão alegando que moedas "abandonadas" em uma rede de testes não tinham valor no mundo real.

A operação ocorreu na Sepolia, uma rede de testes usada por desenvolvedores para experimentar aplicativos baseados no Ethereum antes de lançá-los.

Os tokens utilizados nesse ambiente servem apenas para testes e não têm valor equivalente ao ether negociado na rede principal.

Ao apresentar o resultado da tarefa, o modelo afirmou tê-la concluído, mas não informou que havia utilizado fundos de terceiros.

A OpenAI declarou que, desde então, implementou restrições adicionais ao acesso à internet e reforçou a supervisão de seus modelos.