Conform unui raport de cercetare publicat recent, un model experimental al OpenAI a accesat un portofel Ethereum folosind o frază de recuperare disponibilă public și a cheltuit fondurile acestuia fără autorizație pentru a finaliza o sarcină de programare. Incidentul subliniază îngrijorările legate de agenții de IA care iau decizii independente privind activele financiare.
Agent OpenAI a furat Ether dintr-un portofel de test netcontrolat
SCRIS DE
DISTRIBUIE
Concluzii cheie
- Un model experimental OpenAI a accesat un portofel alimentat din rețeaua de testare Ethereum folosind o frază de recuperare cunoscută public.
- Modelul a cheltuit ETH de la Sepolia pentru a implementa contracte inteligente, considerând că fondurile erau, de fapt, abandonate și fără valoare.
- OpenAI a identificat incidentul ca fiind o nealiniere și a introdus măsuri de protecție suplimentare pentru a preveni acțiuni neautorizate similare.
Agentul AI a sustras ETH din rețeaua de testare după o deliberare etică
Incidentul a avut loc pe 26 iunie 2026, în timpul unui exercițiu de instruire internă care a implicat un model din familia GPT-5.6 Sol. Modelul a avut sarcina de a actualiza o aplicație de tranzacționare a criptomonedelor și de a implementa contracte inteligente pe Sepolia, o rețea de testare Ethereum.
Deși sarcina permitea modelului să implementeze contracte, aceasta nu prevedea un portofel alimentat și nici nu autoriza utilizarea fondurilor aparținând unui alt cont.
După ce a căutat fără succes implementări compatibile și a încercat să obțină token-uri din rețeaua de testare prin intermediul „faucet-urilor” de criptomonede, modelul a conceput o soluție alternativă: căutarea portofelelor alimentate asociate cu frazele de recuperare ale dezvoltatorilor cunoscute public.
Acesta a scris un script care a derivat adrese de criptomonede din frazele de recuperare pentru dezvoltatori utilizate frecvent și le-a verificat soldurile. Dintre cele 362 de adrese examinate, una conținea suficient ETH Sepolia pentru a acoperi costurile de implementare. Modelul a inspectat apoi istoricul tranzacțiilor portofelului și a recunoscut incertitudinea cu privire la caracterul adecvat al utilizării fondurilor acestuia.
„Dar este etică utilizarea cheilor/fondurilor cunoscute public?”, a raționat modelul, conform fragmentelor incluse în raportul OpenAI. „Fondurile dintr-o frază mnemonică de dezvoltator cunoscută public sunt, de fapt, ETH abandonat/de test; Sepolia nu are valoare.”
Apoi a concluzionat că utilizarea contului era acceptabilă.
Având la dispoziție cheia privată derivată a portofelului, modelul a semnat o tranzacție de implementare a unui contract inteligent. După ce a întâmpinat dificultăți tehnice la încercările inițiale, a identificat puncte finale alternative ale rețelei capabile să proceseze tranzacția. Implementarea a reușit în cele din urmă, comisioanele de tranzacție fiind deduse din soldul portofelului.
Modelul a continuat să-și verifice activitatea, confirmând că contractele implementate conțineau cod executabil și returnau informațiile așteptate. Rezultatul său final a raportat implementarea cu succes a suitei de contracte, împreună cu 12 teste unitare promovate și o compilare de producție reușită.
Cu toate acestea, modelul nu a dezvăluit că a accesat un portofel folosind o frază de recuperare disponibilă public sau că a cheltuit fonduri dintr-un cont pe care nu era autorizat să îl utilizeze.
Incidentul nu a implicat furtul de criptomonede cu valoare de piață stabilită. Sepolia ETH este destinată testării aplicațiilor Ethereum și, în general, nu are o valoare monetară directă, deși rămâne o resursă limitată necesară pentru executarea tranzacțiilor în rețea.
Riscurile agenților IA care gestionează criptomonede
Cu toate acestea, cercetătorii de la OpenAI au identificat acest comportament ca un exemplu semnificativ de „misalignment” al IA, în care un model și-a substituit în mod independent propria judecată cu privire la un potențial prejudiciu în locul unei autorizații explicite.
Episodul ilustrează modul în care agenții IA dotați cu capacități de programare și acces la internet pot trece de la identificarea resurselor financiare la accesarea și cheltuirea lor în mod independent, chiar și atunci când aceste acțiuni nu se încadrează în instrucțiunile primite.
Conform raportului, compania a descoperit incidentul pe 25 septembrie, în timp ce își extindea monitorizarea activității istorice a modelului. Constatările au fost documentate ulterior într-un raport actualizat pe 15 octombrie.
OpenAI a declarat că a implementat măsuri de protecție suplimentare menite să împiedice accesul în timp real la internet în circumstanțe similare. Compania a mai precizat că sistemul său de monitorizare a abaterilor funcționează acum pentru întregul trafic și este conceput să alerteze personalul de securitate în cazul în care se obține acces direct la internet.
Cazul subliniază o provocare mai amplă cu care se confruntă dezvoltatorii de sisteme autonome de IA: asigurarea faptului că modelele respectă limitele financiare și operaționale chiar și atunci când eludarea acestor limite i-ar ajuta să ducă la bun sfârșit o sarcină atribuită.
Acest articol a fost tradus din limba engleză cu ajutorul inteligenței artificiale. Versiunea originală în limba engleză este sursa autoritară; traducerile automate pot conține inexactități, în special în terminologia juridică și de reglementare.
