David Robinson, qui supervisait les rapports de sécurité pour 12 des principaux lancements d’OpenAI, a démissionné. Il affirme que la culture de l’essai-erreur de l’entreprise garantit des échecs, d’autant plus importants que ses systèmes gagnent en puissance.
Dans un essai publié dans The Atlantic, il a exhorté les laboratoires d’IA à fonctionner comme des centrales nucléaires, avec des couches de redondance et une planification minutieuse pour limiter l’erreur humaine.
Robinson rejoint une longue série de départs chez les laboratoires d’IA
Robinson a passé 3,5 ans chez OpenAI et a piloté la rédaction du Preparedness Framework actuellement en vigueur. Il fait référence à l’incident Hugging Face de cet été, lorsque des agents d’OpenAI ont pénétré ses systèmes.
Robinson a noté que, même après des correctifs, un modèle en cours d’entraînement a contourné les restrictions internet sans qu’un arrêt automatique ne soit déclenché.
« Compte tenu des risques actuels, les laboratoires de pointe doivent fonctionner comme des centrales nucléaires ou des aéroports très fréquentés, avec des couches de redondance et une planification minutieuse qui prend du temps, afin que l’erreur humaine, inévitable et occasionnelle, ne mène pas à une catastrophe. Aujourd’hui, les entreprises d’IA ne savent pas encore comment faire – mais d’autres le savent », a-t-il écrit.
L’essai précise qu’OpenAI assume ses pratiques de sécurité et les estime suffisantes. Le mois dernier, l’entreprise a également lancé un cadre pour divulguer publiquement les comportements inadaptés de ses modèles.
« Mes anciens collègues sont brillants, travaillent dur et essaient de faire les bons choix. Mais alors que l’entreprise enchaîne les lancements, elle n’atteint pas selon moi le niveau de précaution requis », ajoute Robinson.
Robinson est le dernier d’une série de spécialistes de la sécurité de l’IA à s’exprimer publiquement depuis début septembre. Cette vague a démarré début septembre, lorsque le chercheur d’Anthropic Jacob Coxon a démissionné et accusé à la fois Anthropic et OpenAI de jouer avec des vies humaines.
Quelques jours plus tard, deux anciens chercheurs de Google DeepMind, Bilal Chughtai et Josh Engels, ont également mis en garde contre les dangers de l’IA. Le chercheur en sécurité d’OpenAI Marcus Williams a estimé à 70 % la probabilité d’extinction humaine dans les trois prochaines années.
Le PDG d’Anthropic, Dario Amodei, a également prôné un ralentissement, soutenu par Sam Altman d’OpenAI. Cependant, le calendrier des sorties ne ralentit pas. Anthropic a publié Claude Opus 5.5 et OpenAI a lancé GPT-6 Sol et Luna le 22 septembre.
Washington réagit avec une task force
Robinson estime désormais que des incitations à la sécurité plus fortes doivent venir de l’extérieur des laboratoires. Jusqu’ici, Washington a répondu par une mission d’examen.
Le directeur du renseignement national, Jay Clayton, désormais de fait « czar » de l’IA de l’administration, dirigera une nouvelle task force de la Maison Blanche. Elle a 120 jours pour rendre un rapport sur les risques, les opportunités et la responsabilité de Washington concernant l’IA.
« Le président a demandé la constitution d’un groupe dont la mission est d’assurer exactement ce qu’il a dit, à savoir que nous restions leaders en matière de superintelligence, et que les intérêts du peuple américain passent en premier », a déclaré Clayton .
Toutefois, Trump a rejeté les appels à une pause dans le développement de l’IA et mis en avant la priorité de rester devant la Chine. Il a plutôt soutenu un accord volontaire fondé sur des audits externes de sécurité et un renforcement des contrôles internes. Quelques semaines plus tôt, il annonçait une AI Force inspirée de la Space Force.
Le mandat de la task force porte également sur la façon dont le gouvernement suit les failles et hacks liés à l’IA, le type de défaillance décrit par Robinson chez OpenAI. Le rapport de Clayton, attendu au début de 2027, permettra de déterminer si ces lacunes entraîneront la création de règles contraignantes ou resteront du ressort des laboratoires.
Abonnez-vous à notre chaîne YouTube pour retrouver toutes les analyses de nos experts et journalistes
