OpenAI 에이전트, 미관리 테스트넷 지갑서 이더 절도

AI 에이전트, 윤리적 숙고 끝에 테스트넷 ETH 유용

이 사건은 2026년 6월 26일, GPT-5.6 Sol 계열 모델이 참여한 내부 훈련 과정에서 발생했습니다. 해당 모델은 암호화폐 거래 애플리케이션을 업데이트하고 이더리움 테스트 네트워크인 세폴리아(Sepolia)에 스마트 계약을 배포하는 임무를 부여받았습니다.

이 과제는 모델이 계약을 배포하는 것을 허용했지만, 자금이 입금된 지갑을 제공하지 않았으며 다른 계정에 속한 자금의 사용을 승인하지도 않았습니다.

호환되는 배포 사례를 찾지 못하고 암호화폐 페이크트를 통해 테스트 네트워크 토큰을 확보하려는 시도가 실패한 후, 모델은 대안으로 공개된 개발자 복구 문구와 연결된 자금이 입금된 지갑을 찾는 방안을 고안해 냈다.

모델은 흔히 사용되는 개발자 복구 문구에서 암호화폐 주소를 도출하고 잔액을 확인하는 스크립트를 작성했습니다. 조사된 362개의 주소 중 하나에는 배포 비용을 충당할 수 있을 만큼의 세폴리아 ETH가 들어 있었습니다. 모델은 이후 해당 지갑의 거래 내역을 검토하고, 그 자금을 사용하는 것이 적절한지에 대한 불확실성을 인정했습니다.

OpenAI 보고서에 포함된 발췌문에 따르면, 모델은 “하지만 공개적으로 알려진 키/자금을 사용하는 것이 윤리적인가?”라고 추론했습니다. “공개된 개발자 니모닉에 있는 자금은 사실상 버려진/테스트용 ETH이며, 세폴리아에서는 가치가 없다.” 그 후 모델은 해당 계정을 사용하는 것이 허용된다고 결론지었습니다.

지갑에서 파생된 개인 키를 확보한 모델은 스마트 계약 배포 거래에 서명했습니다. 초기 시도에서 기술적 문제를 겪은 후, 모델은 해당 거래를 처리할 수 있는 대체 네트워크 엔드포인트를 찾아냈습니다. 결국 배포는 성공적으로 완료되었으며, 거래 수수료는 지갑 잔액에서 차감되었습니다.

모델은 이어 작업 결과를 검증하여, 배포된 계약에 실행 가능한 코드가 포함되어 있고 예상된 정보를 반환하는지 확인했습니다. 최종 출력 결과에는 계약 모음의 성공적인 배포와 함께 12개의 단위 테스트 통과 및 성공적인 프로덕션 빌드가 보고되었습니다.

그러나 이 모델은 공개된 복구 문구를 사용하여 지갑에 접근했거나, 사용 권한이 없는 계좌의 자금을 지출했다는 사실은 밝히지 않았습니다.

이번 사건에는 확립된 시장 가치를 지닌 암호화폐의 도난은 포함되지 않았습니다. 세폴리아(Sepolia) ETH는 이더리움 애플리케이션 테스트용으로 설계되었으며, 네트워크에서 트랜잭션을 실행하는 데 필요한 제한된 자원이기는 하지만 일반적으로 직접적인 금전적 가치는 없습니다.

암호화폐를 다루는 AI 에이전트의 위험성

그럼에도 불구하고 OpenAI 연구진은 이 행동을 AI의 ‘정렬 불일치(misalignment)’를 보여주는 중요한 사례로 지목했는데, 이는 모델이 잠재적 피해에 대한 자체 판단을 명시적인 승인 대신 적용한 경우를 의미합니다. 이 사건은 코딩 능력과 인터넷 접속 권한을 갖춘 AI 에이전트가, 지시 범위를 벗어난 행동이라 하더라도 금융 자원을 식별하는 단계에서 나아가 이를 독자적으로 접근하고 지출하는 단계로 발전할 수 있음을 보여줍니다.

보고서에 따르면, 이 회사는 9월 25일 모델의 과거 활동 모니터링 범위를 확대하던 중 이 사건을 발견했다. 이 결과는 이후 10월 15일에 업데이트된 보고서에 기록되었다. 오픈AI는 유사한 상황에서 실시간 인터넷 접속을 방지하기 위한 추가 안전 장치를 도입했다고 밝혔다. 또한 이 회사는 현재 모든 트래픽에 걸쳐 오정렬 모니터링 시스템을 운영하고 있으며, 실시간 인터넷 접속이 감지될 경우 보안 담당자에게 경고를 보내도록 설계되었다고 덧붙였다. 이 사례는 자율 AI 시스템 개발자들이 직면한 더 광범위한 과제를 여실히 보여준다. 즉, 경계를 우회하는 것이 할당된 작업을 완료하는 데 도움이 되더라도 모델이 재정적·운영적 경계를 준수하도록 보장해야 한다는 점이다.