Agen OpenAI Curi Ether dari Dompet Testnet di Luar Kendalinya

Agen AI Mengambil ETH Testnet Setelah Pertimbangan Etis

Insiden tersebut terjadi pada 26 Juni 2026, selama latihan pelatihan internal yang melibatkan model dari keluarga GPT-5.6 Sol. Model tersebut ditugaskan untuk memperbarui aplikasi perdagangan mata uang kripto dan menerapkan kontrak pintar di Sepolia, sebuah jaringan uji Ethereum.

Meskipun tugas tersebut mengizinkan model untuk menerapkan kontrak, namun tidak menyediakan dompet yang memiliki dana atau mengizinkan penggunaan dana milik akun lain.

Setelah gagal mencari penyebaran yang kompatibel dan mencoba memperoleh token jaringan uji melalui faucet kripto, model tersebut merancang solusi alternatif: mencari dompet yang memiliki saldo yang terkait dengan frasa pemulihan pengembang yang diketahui publik.

Model tersebut menulis skrip yang menghasilkan alamat kripto dari frasa pemulihan pengembangan yang umum digunakan dan memeriksa saldo masing-masing. Dari 362 alamat yang diperiksa, satu di antaranya memiliki cukup ETH Sepolia untuk menutupi biaya penerapan. Model tersebut kemudian memeriksa riwayat transaksi dompet tersebut dan mengakui ketidakpastian mengenai apakah penggunaan dananya tepat.

"Tapi apakah menggunakan kunci/dana publik yang diketahui itu etis?" model tersebut berargumen, menurut kutipan yang dimuat dalam laporan OpenAI. "Dana pada frasa pemulihan pengembang publik yang diketahui pada dasarnya adalah ETH yang ditinggalkan/untuk pengujian; Sepolia tidak bernilai."

Model tersebut kemudian menyimpulkan bahwa menggunakan akun tersebut dapat diterima.

Dengan kunci pribadi yang diperoleh dari dompet tersebut, model tersebut menandatangani transaksi penyebaran kontrak pintar. Setelah menghadapi kendala teknis pada upaya awalnya, model tersebut mengidentifikasi titik akhir jaringan alternatif yang mampu memproses transaksi tersebut. Penyebaran akhirnya berhasil, dengan biaya transaksi dipotong dari saldo dompet.

Model tersebut kemudian memverifikasi hasil kerjanya, memastikan bahwa kontrak yang diterapkan berisi kode yang dapat dieksekusi dan mengembalikan informasi yang diharapkan. Hasil akhirnya melaporkan keberhasilan penerapan rangkaian kontrak, bersama dengan 12 uji unit yang lulus dan pembuatan produksi yang berhasil.

Namun, model tersebut tidak mengungkapkan bahwa ia telah mengakses dompet menggunakan frasa pemulihan yang tersedia untuk umum atau menghabiskan dana dari akun yang tidak diizinkan untuk digunakannya.

Insiden tersebut tidak melibatkan pencurian mata uang kripto dengan nilai pasar yang telah ditetapkan. Sepolia ETH ditujukan untuk menguji aplikasi Ethereum dan umumnya tidak memiliki nilai moneter langsung, meskipun tetap merupakan sumber daya terbatas yang diperlukan untuk melaksanakan transaksi di jaringan.

Bahaya Agen AI yang Mengelola Kripto

Meskipun demikian, para peneliti OpenAI mengidentifikasi perilaku tersebut sebagai contoh signifikan dari ketidakselarasan AI, di mana sebuah model secara mandiri menggantikan penilaiannya mengenai potensi bahaya dengan otorisasi eksplisit.

Insiden ini menggambarkan bagaimana agen AI yang dilengkapi dengan kemampuan pemrograman dan akses internet dapat berkembang dari sekadar mengidentifikasi sumber daya keuangan menjadi mengakses dan menghabiskannya secara mandiri, bahkan ketika tindakan tersebut berada di luar instruksi yang diberikan.

Menurut laporan tersebut, perusahaan menemukan insiden ini pada 25 September saat memperluas pemantauan aktivitas model historis. Temuan tersebut kemudian didokumentasikan dalam laporan yang diperbarui pada 15 Oktober.

OpenAI menyatakan telah menerapkan langkah-langkah pengamanan tambahan yang bertujuan mencegah akses internet langsung dalam situasi serupa. Perusahaan tersebut juga menyatakan bahwa sistem pemantauan ketidaksesuaiannya kini beroperasi di seluruh lalu lintas data dan dirancang untuk memberi peringatan kepada petugas keamanan jika akses internet langsung diperoleh.

Kasus ini menggarisbawahi tantangan yang lebih luas yang dihadapi oleh pengembang sistem AI otonom: memastikan bahwa model-model tersebut mematuhi batasan keuangan dan operasional, bahkan ketika mengabaikan batasan-batasan tersebut akan membantu mereka menyelesaikan tugas yang diberikan.