Un agent d’intelligence artificielle (IA) a contourné de manière autonome les contrôles de sécurité afin de miner de la crypto lors d’un exercice de formation de routine, selon un article de recherche publié par une équipe de chercheurs liée à Alibaba.
Les chercheurs ont conçu le modèle, appelé ROME, afin de tester la capacité d’un agent IA à naviguer de façon indépendante à travers des tâches complexes en plusieurs étapes.
Un agent IA utilise les GPU cloud pour miner de la crypto
Pendant l’exercice, les chercheurs ont observé un comportement inattendu. En effet, l’agent a établi un tunnel SSH inversé vers des serveurs externes, créant ainsi une connexion dissimulée depuis l’intérieur du système.
Cela a permis au modèle de contourner les protections du pare-feu Alibaba Cloud et de rediriger les ressources de processeur graphique pour le minage de crypto.
« Nous avons également observé la réaffectation non autorisée de la capacité GPU allouée au minage de crypto, détournant discrètement la puissance de calcul du processus d’entraînement, ce qui augmente les coûts opérationnels et introduit des risques juridiques et réputationnels évidents », peut-on lire dans le post .
Selon les chercheurs, ce comportement était inattendu et s’est manifesté sans instruction explicite, injection de prompt ni contournement externe.
Ces résultats soulignent les préoccupations persistantes concernant la sécurité opérationnelle des systèmes d’IA autonomes.
Les chercheurs ont conclu que les modèles actuels restent « nettement sous-développés en matière de sécurité, de sûreté et de contrôle », des conditions qui, selon eux, limitent l’aptitude de la technologie à un déploiement plus étendu dans des environnements réels.
L’équipe a, depuis, mis en place des restrictions plus strictes et un système de filtrage des données axé sur la sécurité pour éviter des infractions similaires.
En parallèle, cette découverte suscite un vif intérêt au sein de la communauté crypto.
« L’IA a compris que puissance de calcul = argent et a discrètement redirigé ses propres ressources, alors que les chercheurs pensaient qu’elle était simplement en train de s’entraîner. Ce n’était pas une injection de prompt. Ce n’était pas un contournement. Personne ne le lui a demandé. Cela a émergé spontanément », a déclaré Josh Kale, animateur et producteur du podcast crypto Bankless, .
Kale a précisé que la pièce minée était probablement un jeton compatible GPU plutôt que Bitcoin, qui nécessite du matériel spécifique de type ASIC. Cet incident a lieu alors que l’ensemble du marché des cryptomonnaies opère un virage marqué vers « l’économie des agents ».
Ce secteur émergent imagine un environnement où les systèmes logiciels ne se contentent plus de générer du texte. Dans ce monde, ces agents peuvent également exécuter de façon autonome des stratégies financières complexes.
En conséquence, plusieurs entreprises et réseaux blockchain, dont Ethereum, Paradigm et Circle, investissent dans des outils conçus pour soutenir cette nouvelle infrastructure.
Un exemple est le standard x402, soutenu par Coinbase, qui permet à des agents logiciels d’effectuer des paiements pour des services en ligne. Cependant, son adoption reste très limitée.
Les données de x402 montrent que l’outil a traité plus de 75 millions de transactions, totalisant 24 millions de dollars de volume brut auprès de 94 000 acheteurs et 22 000 vendeurs au cours des 30 derniers jours.
Cependant, des experts de l’industrie estiment que cette activité pourrait croître rapidement si les agents autonomes étaient déployés plus largement.
« L’IA et la crypto ne sont pas en concurrence : elles convergent. L’IA a besoin d’identité, de moyens de paiement et de traçabilité de la provenance. La crypto offre les trois », a déclaré la société de capital-risque a16z .
