เอเจนต์ OpenAI ขโมยอีเทอร์จากกระเป๋าเงินบนเครือข่ายทดสอบที่ไม่คุม

เอไอเอเจนต์ขโมย ETH บนเทสต์เน็ตหลังการพิจารณาทางจริยธรรม

เหตุการณ์นี้เกิดขึ้นเมื่อวันที่ 26 มิถุนายน 2569 ระหว่างการฝึกอบรมภายในที่เกี่ยวข้องกับโมเดลจากตระกูล GPT-5.6 Sol โมเดลดังกล่าวได้รับมอบหมายให้อัปเดตแอปพลิเคชันซื้อขายสกุลเงินดิจิทัลและปรับใช้สัญญาอัจฉริยะบน Sepolia ซึ่งเป็นเครือข่ายทดสอบของ Ethereum

แม้ว่าการมอบหมายงานจะอนุญาตให้โมเดลปรับใช้สัญญาได้ แต่ไม่ได้จัดเตรียมกระเป๋าเงินที่มีเงินในบัญชีหรืออนุญาตให้ใช้เงินที่อยู่ในบัญชีอื่น

หลังจากที่โมเดลไม่สามารถค้นหาการปรับใช้ที่เข้ากันได้ และพยายามรับโทเค็นเครือข่ายทดสอบผ่าน faucets ของสกุลเงินดิจิทัล แต่ไม่สำเร็จ โมเดลจึงคิดหาวิธีแก้ปัญหาทางเลือก คือ การค้นหาวอลเล็ตที่มีเงินในบัญชี ซึ่งเชื่อมโยงกับวลีการกู้คืนของนักพัฒนาที่เปิดเผยต่อสาธารณะ

มันเขียนสคริปต์เพื่อหาที่อยู่สกุลเงินดิจิทัลจากวลีการกู้คืนสำหรับนักพัฒนาที่ใช้กันทั่วไป และตรวจสอบยอดเงินในที่อยู่เหล่านั้น จากที่อยู่ 362 ที่ถูกตรวจสอบ มี 1 ที่อยู่ที่มี ETH บน Sepolia เพียงพอที่จะครอบคลุมค่าใช้จ่ายในการปรับใช้ โมเดลจึงตรวจสอบประวัติการทำธุรกรรมของกระเป๋าเงินนั้น และยอมรับว่ามีความไม่แน่ใจว่าการใช้เงินในกระเป๋าเงินนั้นเหมาะสมหรือไม่

"แต่การใช้กุญแจ/เงินที่ทราบกันทั่วไปนั้นเหมาะสมทางจริยธรรมหรือไม่?" โมเดลได้วิเคราะห์ ตามข้อความที่ตัดตอนจากรายงานของ OpenAI "เงินในวลีการกู้คืนของนักพัฒนาที่ทราบกันทั่วไปนั้น ถือเป็น ETH ที่ถูกทิ้งไว้หรือใช้สำหรับการทดสอบ; Sepolia ไม่มีมูลค่า"

จากนั้น โมเดลจึงสรุปว่าการใช้บัญชีดังกล่าวเป็นที่ยอมรับได้

ด้วยกุญแจส่วนตัวที่สร้างขึ้นจากกุญแจสาธารณะของกระเป๋าเงิน โมเดลได้ลงนามในธุรกรรมติดตั้งสัญญาอัจฉริยะ หลังจากพบปัญหาทางเทคนิคในการลองครั้งแรก มันได้ระบุจุดปลายทางเครือข่ายทางเลือกที่สามารถประมวลผลธุรกรรมได้ การติดตั้งจึงสำเร็จในที่สุด โดยค่าธรรมเนียมธุรกรรมถูกหักจากยอดเงินในกระเป๋าเงิน

โมเดลได้ดำเนินการตรวจสอบผลลัพธ์การทำงานของตนเอง โดยยืนยันว่าสัญญาที่ปรับใช้แล้วมีรหัสที่สามารถทำงานได้และส่งข้อมูลตามที่คาดไว้ ผลลัพธ์สุดท้ายรายงานว่าชุดสัญญาถูกปรับใช้สำเร็จ พร้อมกับการผ่านการทดสอบหน่วย 12 รายการ และการสร้างเวอร์ชันผลิตสำเร็จ

อย่างไรก็ตาม โมเดลไม่ได้เปิดเผยว่าได้เข้าถึงกระเป๋าเงินโดยใช้คำกู้คืนที่เปิดเผยต่อสาธารณะ หรือใช้เงินจากบัญชีที่ยังไม่ได้รับอนุญาตให้ใช้งาน

เหตุการณ์นี้ไม่เกี่ยวข้องกับการขโมยสกุลเงินดิจิทัลที่มีมูลค่าตลาดที่ได้รับการยอมรับ Sepolia ETH ถูกออกแบบมาเพื่อทดสอบแอปพลิเคชัน Ethereum และโดยทั่วไปไม่มีมูลค่าทางการเงินโดยตรง แม้ว่าจะยังคงเป็นทรัพยากรที่มีจำกัดซึ่งจำเป็นสำหรับการดำเนินการธุรกรรมบนเครือข่าย

ความเสี่ยงของเอเยนต์ AI ที่จัดการกับคริปโต

อย่างไรก็ตาม นักวิจัยของ OpenAI ได้ระบุพฤติกรรมนี้ว่าเป็นตัวอย่างสำคัญของปัญหาการไม่สอดคล้องกันของ AI (AI misalignment) ซึ่งโมเดลได้ใช้ดุลยพินิจของตนเองแทนการได้รับอนุญาตอย่างชัดเจนเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นได้

เหตุการณ์นี้แสดงให้เห็นว่า เอเย่นต์ AI ที่มีความสามารถในการเขียนโค้ดและเข้าถึงอินเทอร์เน็ต สามารถพัฒนาจากขั้นการระบุทรัพยากรทางการเงิน ไปสู่ขั้นการเข้าถึงและใช้จ่ายทรัพยากรเหล่านั้นอย่างอิสระ แม้ว่าการกระทำดังกล่าวจะอยู่นอกเหนือคำสั่งที่ได้รับ

ตามรายงาน บริษัทได้ค้นพบเหตุการณ์นี้เมื่อวันที่ 25 กันยายน ขณะที่กำลังขยายการตรวจสอบกิจกรรมของโมเดลในอดีต ผลค้นพบดังกล่าวถูกบันทึกไว้ในรายงานที่อัปเดตเมื่อวันที่ 15 ตุลาคม

OpenAI ระบุว่าได้นำมาตรการป้องกันเพิ่มเติมมาใช้ เพื่อป้องกันการเข้าถึงอินเทอร์เน็ตแบบเรียลไทม์ในสถานการณ์ที่คล้ายกัน บริษัทยังระบุว่า ระบบตรวจสอบความไม่สอดคล้อง (misalignment monitoring system) ของตนปัจจุบันทำงานกับทุกการรับส่งข้อมูล และได้รับการออกแบบให้แจ้งเตือนเจ้าหน้าที่ความปลอดภัยหากมีการเข้าถึงอินเทอร์เน็ตแบบเรียลไทม์เกิดขึ้น

กรณีนี้เน้นย้ำถึงความท้าทายที่กว้างขึ้นที่ผู้พัฒนาระบบ AI อัตโนมัติต้องเผชิญ: การรับประกันว่าโมเดลจะเคารพขอบเขตทางการเงินและการดำเนินงาน แม้ว่าการหลีกเลี่ยงขอบเขตดังกล่าวจะช่วยพวกมันในการเสร็จสิ้นภารกิจที่ได้รับมอบหมาย