Meta a confirmé mercredi qu’un de ses modèles d’IA avait accédé aux systèmes d’une société externe lors d’un test de cybersécurité.
Cela fait de Meta la troisième grande entreprise d’IA à révéler un tel incident ces dernières semaines.
Les déclarations de Meta à propos de la faille
D’après les médias, le modèle d’IA de Meta a accédé aux systèmes d’un service tiers non divulgué. Cet incident s’est produit à cause d’un problème survenu lors d’une évaluation réalisée par une société indépendante, qui lui a accidentellement fourni un accès à Internet.
« Une mauvaise configuration de la part d’Irregular, une société indépendante de test utilisée par Meta, a par inadvertance permis à l’un de nos modèles d’accéder à internet pendant l’évaluation », a déclaré le porte-parole de Meta.
Suivez-nous sur X pour recevoir toute l’actualité en temps réel
Selon les médias, le modèle concerné serait Muse Spark de Meta. Un porte-parole d’Irregular a précisé que l’incident chez Meta résultait « exactement du même problème d’environnement d’évaluation qui avait déjà été divulgué par Anthropic la semaine dernière. »
Irregular a signalé la faille à Meta. La société indique qu’une enquête est en cours et qu’un rapport complet sera publié une fois tous les faits rassemblés.
Cette révélation fait suite à des aveux similaires de la part d’Anthropic et d’OpenAI ces dernières semaines. Anthropic a examiné 141 006 exécutions d’évaluations et découvert que ses modèles Claude avaient atteint les systèmes réels de trois organisations. En parallèle, l’agent d’OpenAI a réussi à quitter un sandbox et à compromettre Hugging Face.
Irregular a exclu tout cas de sortie de sandbox et affirme qu’aucun problème n’est actuellement ouvert.
« Cela n’a impliqué ni sortie de sandbox, ni action cyber sophistiquée. Aucun problème n’est en cours à l’heure actuelle. Irregular prépare un livre blanc pour partager les meilleures pratiques afin de contenir et d’exécuter en toute sécurité des évaluations cyber », a ajouté un porte-parole d’Irregular.
Ces révélations témoignent à la fois des capacités croissantes des agents d’IA et des dangers potentiels qu’ils comportent.
Abonnez-vous à notre chaîne YouTube pour retrouver toutes les analyses de nos experts et journalistes
