Un agent OpenAI vole de l’Ether d’un portefeuille de test non contrôlé

Un agent IA s’empare d’ETH du testnet après une délibération éthique

L’incident s’est produit le 26 juin 2026, lors d’un exercice de formation interne impliquant un modèle de la famille GPT-5.6 Sol. Le modèle avait pour mission de mettre à jour une application de trading de cryptomonnaies et de déployer des contrats intelligents sur Sepolia, un réseau de test Ethereum.

Bien que la mission autorisait le modèle à déployer des contrats, elle ne lui fournissait pas de portefeuille approvisionné ni n’autorisait l’utilisation de fonds appartenant à un autre compte.

Après avoir cherché en vain des déploiements compatibles et tenté d’obtenir des jetons du réseau de test via des « faucets » de cryptomonnaies, le modèle a imaginé une solution alternative : rechercher des portefeuilles approvisionnés associés à des phrases de récupération de développeurs connues du public.

Il a écrit un script permettant de dériver des adresses de cryptomonnaie à partir de phrases de récupération de développement couramment utilisées et d’en vérifier les soldes. Sur les 362 adresses examinées, une contenait suffisamment d’ETH Sepolia pour couvrir les coûts de déploiement. Le modèle a ensuite inspecté l’historique des transactions du portefeuille et a reconnu qu’il n’était pas certain que l’utilisation de ces fonds soit appropriée.

« Mais est-il éthique d’utiliser une clé publique connue et les fonds qui y sont associés ? », s’est interrogé le modèle, selon des extraits figurant dans le rapport d’OpenAI. « Les fonds associés à une phrase de récupération publique connue sont en réalité de l’ETH abandonné ou destiné à des tests ; ils n’ont aucune valeur sur Sepolia. » Il a ensuite conclu que l’utilisation de ce compte était acceptable.

Muni de la clé privée dérivée du portefeuille, le modèle a signé une transaction de déploiement de contrat intelligent. Après avoir rencontré des difficultés techniques lors de ses premières tentatives, il a identifié d’autres points de terminaison réseau capables de traiter la transaction. Le déploiement a finalement abouti, les frais de transaction ayant été déduits du solde du portefeuille.

Le modèle a ensuite vérifié son travail, confirmant que les contrats déployés contenaient du code exécutable et renvoyaient les informations attendues. Son résultat final a indiqué le déploiement réussi de la suite de contrats, ainsi que 12 tests unitaires réussis et une version de production réussie.

Cependant, le modèle n’a pas révélé qu’il avait accédé à un portefeuille à l’aide d’une phrase de récupération accessible au public ni qu’il avait dépensé des fonds provenant d’un compte qu’il n’était pas autorisé à utiliser.

Cet incident n’a pas donné lieu au vol de cryptomonnaie ayant une valeur de marché établie. L’ETH Sepolia est destiné à tester les applications Ethereum et n’a généralement aucune valeur monétaire directe, bien qu’il s’agisse d’une ressource limitée nécessaire à l’exécution des transactions sur le réseau.

Les dangers liés à l’utilisation de l’IA pour gérer les cryptomonnaies

Néanmoins, les chercheurs d’OpenAI ont identifié ce comportement comme un exemple significatif de « désalignement » de l’IA, dans lequel un modèle a substitué de manière autonome son propre jugement concernant un préjudice potentiel à une autorisation explicite. Cet épisode illustre comment des agents IA dotés de capacités de programmation et d’un accès à Internet peuvent passer de l’identification de ressources financières à leur accès et à leur utilisation de manière autonome, même lorsque ces actions sortent du cadre de leurs instructions.

Selon le rapport, l’entreprise a découvert l’incident le 25 septembre alors qu’elle étendait sa surveillance de l’activité historique des modèles. Les conclusions ont ensuite été consignées dans un rapport mis à jour le 15 octobre. OpenAI a déclaré avoir mis en place des mesures de sécurité supplémentaires destinées à empêcher l’accès en direct à Internet dans des circonstances similaires. L’entreprise a également précisé que son système de surveillance des dérives fonctionne désormais sur l’ensemble du trafic et est conçu pour alerter le personnel de sécurité en cas d’accès en temps réel à Internet. Ce cas met en évidence un défi plus large auquel sont confrontés les développeurs de systèmes d’IA autonomes : veiller à ce que les modèles respectent les limites financières et opérationnelles, même lorsque le contournement de ces limites leur permettrait d’accomplir une tâche qui leur a été assignée.