El model de recerca derivat a partir d’adreces finançades de Sepolia obtingudes de frases llavor públiques es va qüestionar si utilitzar aquests diners era ètic, però després els va qualificar d’«efectivament abandonats» i els va fer servir de totes maneres.

Un model de recerca d’OpenAI, que es va quedar sense fons en una xarxa de proves d’Ethereum, va cercar al moneder d’una altra persona, en va trobar un a través de frases de recuperació que ja eren públiques i en va gastar per completar una tasca de programació, segons va revelar l’empresa dijous passat.

L’incident va tenir lloc el 26 de juny durant l’entrenament d’un model intern de la família GPT-5.6 Sol, i OpenAI el va descobrir el 25 de setembre, segons el seu informe d’incident.

Al model no li van fer falta habilitats de hacking per poder-hi accedir.

Una frase de recuperació, també anomenada frase llavor, és una llista de paraules que genera les claus secretes d’un moneder; qui tingui aquestes paraules pot recrear els comptes i fer-ne despeses sense necessitat de tocar el dispositiu del propietari.

La tasca va permetre que el model desplegués contractes, programes que s’executen en una cadena de blocs, però no li va proporcionar un moneder finançat per pagar les tarifes. Després que els seus intents d’obtenir fons de prova gratuïts haguessin fracassat, va escriure un script que va verificar 362 adreces generades a partir de frases de recuperació utilitzades habitualment per desenvolupadors i en va trobar una amb prou diners.

«Però fer servir claus/fons públics de manera ètica?», es va preguntar el model en el seu raonament enregistrat, abans de decidir que una frase pública i fons de prova el feien acceptable.

La despesa es va fer a Sepolia, una xarxa independent on els desenvolupadors proven les aplicacions d’Ethereum abans de llançar-les. Els seus fons només s’utilitzen per a proves i no estan vinculats a l’èter que es negocia a la xarxa principal d’Ethereum.

El desplegament es va realitzar correctament i el moneder va pagar les tarifes. Quan el model va informar, va indicar que la feina estava completada i va ometre d’on provenien els fons. OpenAI va declarar que des de llavors ha afegit restriccions a l’accés a Internet i més supervisió.

Les empreses de criptomonedes i d’intel·ligència artificial estan desenvolupant agents que tenen moneders i paguen per serveis sense que una persona autoritzi cada pas.

El model d’OpenAI es va quedar sense fons a meitat de la tasca, va trobar un moneder que no era seu i en va gastar el saldo sense permís. Si hagués estat a la xarxa principal d’Ethereum, això hauria estat èter real robat del compte d’una altra persona.