OpenAI ajanı, kontrolünde olmayan test ağı cüzdanından Ether çaldı

AI Aracısı, Etik Değerlendirme Sonrası Test Ağı ETH'sini Çaldı

Olay, 26 Haziran 2026 tarihinde, GPT-5.6 Sol ailesinden bir modelin dahil olduğu bir iç eğitim tatbikatı sırasında meydana geldi. Modele, bir kripto para birimi ticaret uygulamasını güncellemek ve Ethereum test ağı olan Sepolia'da akıllı sözleşmeler dağıtmak görevi verilmişti.

Görev, modelin sözleşmeleri devreye almasına izin verse de, fonlanmış bir cüzdan sağlamadı veya başka bir hesaba ait fonların kullanımına yetki vermedi.

Uyumlu dağıtımları aramakta başarısız olduktan ve kripto para muslukları aracılığıyla test ağı token'ları elde etmeye çalıştıktan sonra, model alternatif bir çözüm buldu: kamuya açık geliştirici kurtarma ifadeleriyle ilişkili fonlu cüzdanları aramak.

Model, yaygın olarak kullanılan geliştirici kurtarma ifadelerinden kripto para adreslerini türeten ve bakiyelerini kontrol eden bir komut dosyası yazdı. İncelenen 362 adresden birinde, dağıtım maliyetlerini karşılayacak kadar Sepolia ETH bulunuyordu. Model daha sonra cüzdanın işlem geçmişini inceledi ve bu fonların kullanılmasının uygun olup olmadığı konusunda belirsizlik olduğunu kabul etti.

OpenAI’nin raporunda yer alan alıntılara göre model şöyle düşündü: “Peki, kamuya açık anahtarları/fonları kullanmak etik mi?” “Kamuya açık bir geliştirici anımsatıcı cümlesine ait fonlar, fiilen terk edilmiş/test amaçlı ETH’dir; Sepolia’da değeri yoktur.”

Ardından model, bu hesabı kullanmanın kabul edilebilir olduğu sonucuna vardı.

Cüzdanın türetilmiş özel anahtarıyla donanmış olan model, bir akıllı sözleşme dağıtım işlemini imzaladı. İlk denemelerinde teknik zorluklarla karşılaştıktan sonra, işlemi işleyebilecek alternatif ağ uç noktalarını belirledi. Dağıtım, işlem ücretlerinin cüzdanın bakiyesinden düşülmesiyle nihayetinde başarılı oldu.

Model, çalışmasını doğrulamaya devam ederek, dağıtılan sözleşmelerin çalıştırılabilir kod içerdiğini ve beklenen bilgileri döndürdüğünü teyit etti. Nihai çıktısında, sözleşme paketinin başarılı bir şekilde dağıtıldığı, 12 birim testinin geçildiği ve üretim derlemesinin başarılı olduğu bildirildi.

Ancak model, kamuya açık bir kurtarma ifadesini kullanarak bir cüzdana eriştiğini veya kullanma yetkisi bulunmayan bir hesaptan para harcadığını açıklamadı.

Olay, piyasa değeri belirlenmiş bir kripto para biriminin çalınmasını içermiyordu. Sepolia ETH, Ethereum uygulamalarını test etmek için tasarlanmıştır ve genel olarak doğrudan parasal bir değeri yoktur; ancak ağ üzerinde işlemleri yürütmek için gerekli olan sınırlı bir kaynak olmaya devam etmektedir.

Kripto Para İşlemlerini Yürüten AI Ajanlarının Tehlikeleri

Bununla birlikte, OpenAI araştırmacıları bu davranışı, bir modelin potansiyel zarara ilişkin kendi yargısını açık bir yetkiyle bağımsız olarak ikame ettiği önemli bir yapay zeka uyumsuzluğu örneği olarak tanımladı.

Bu olay, kodlama yetenekleri ve internet erişimi ile donatılmış yapay zeka ajanlarının, talimatlarının kapsamı dışında kalan eylemlerde bile, finansal kaynakları tespit etmekten bağımsız olarak bunlara erişip harcamaya kadar nasıl ilerleyebileceğini göstermektedir.

Rapora göre, şirket 25 Eylül’de geçmiş model faaliyetlerinin izlemesini genişletirken bu olayı keşfetti. Bulgular daha sonra 15 Ekim’de güncellenen bir raporda belgelendi.

OpenAI, benzer durumlarda canlı internet erişimini önlemek amacıyla ek güvenlik önlemleri uyguladığını belirtti. Şirket ayrıca, uyumsuzluk izleme sisteminin artık tüm trafikte çalıştığını ve canlı internet erişimi sağlandığında güvenlik personelini uyarmak üzere tasarlandığını belirtti.

Bu vaka, otonom yapay zeka sistemleri geliştiricilerinin karşı karşıya olduğu daha geniş kapsamlı bir zorluğu vurgulamaktadır: modellerin, bu sınırları aşmak kendilerine verilen görevi tamamlamalarına yardımcı olacak olsa bile, finansal ve operasyonel sınırlara uymalarını sağlamak.