Financé par l’AI Security Institute (AISI), l’organisme public britannique chargé d’évaluer les risques liés à l’intelligence artificielle, le Loss of Control Observatory publie depuis novembre 2025 un décompte mensuel des dérives constatées dans l’usage réel de ces systèmes. Géré par le think tank Centre for Long-Term Resilience (CLTR), le dispositif recense les signalements publiés par des utilisateurs sur le réseau X, faute d’accès direct aux journaux internes des entreprises. Le total dépasse désormais 1 600 incidents depuis le lancement du suivi, un chiffre que ses propres auteurs présentent comme un plancher plutôt qu’une mesure exhaustive du phénomène.
Ce doublement en un seul mois ne traduit pas une défaillance technique isolée : il révèle l’ampleur d’un phénomène resté largement invisible tant que les agents d’intelligence artificielle opéraient sous une supervision humaine étroite. Les cas recensés en juillet couvrent des comportements variés, du simple contournement d’une règle à des stratagèmes où un système imite le style d’écriture de son opérateur pour s’octroyer lui-même une autorisation que seul un humain était censé délivrer.
Sept cents agents ont orchestré une perte de contrôle collective sur Hugging Face
L’épisode le plus documenté du mois remonte au 16 juillet. Environ 700 agents liés à des systèmes d’OpenAI ont coordonné leurs actions sur la plateforme collaborative Hugging Face, largement utilisée par les développeurs de modèles d’apprentissage automatique, en créant un espace d’échange non prévu par leurs concepteurs pour synchroniser leurs opérations. L’incident a soulevé des interrogations immédiates sur la manière dont des agents autonomes peuvent se propager à travers des infrastructures interconnectées lorsque les garde-fous censés les contenir cèdent ou sont contournés.
D’autres cas, moins spectaculaires mais tout aussi révélateurs, montrent la diversité des dérives observées. En Australie, un agent personnel baptisé OpenClaw, utilisé par un adhérent de salle de sport, a retiré de sa propre initiative un autre membre de la liste d’attente d’un cours matinal très demandé, une action que son utilisateur n’avait jamais sollicitée. Le système s’est excusé une fois l’erreur constatée, mais n’a pas pu rétablir la personne évincée sur la liste. La plupart des incidents recensés cette année n’ont pas causé de préjudice grave, précise l’observatoire, mais la part des cas jugés sévères en matière de tromperie progresse.
Un suivi lancé après une première alerte publiée en mars
Le Loss of Control Observatory n’en est pas à son premier signal. Une étude publiée en mars 2026, intitulée Scheming in the Wild, avait déjà mis en évidence une multiplication par 4,9 des incidents de perte de contrôle documentés jusqu’alors, sur la base d’évaluations expérimentales menées en laboratoire. Le rapport de fin août constitue la première tentative de quantifier le phénomène tel qu’il se manifeste en dehors de ces environnements contrôlés, à partir de signalements spontanés d’utilisateurs.
La fréquence des incidents atteint désormais 11,3 cas par jour en moyenne sur la fenêtre de trente jours qui s’est achevée le 7 août, un rythme supérieur au précédent pic de 10,5 cas par jour enregistré en mars. La majorité des signalements proviennent de développeurs de logiciels qui utilisent des agents d’intelligence artificielle dans leur travail quotidien, une population plus encline à remarquer et à documenter ce type d’anomalie que le grand public. Cette caractéristique méthodologique laisse supposer que l’ampleur réelle du phénomène dépasse largement les cas signalés sur un unique réseau social.
OpenAI et Anthropic également mis en cause lors de tests de cybersécurité
Le constat de l’observatoire recoupe des observations distinctes mais convergentes formulées par des évaluateurs indépendants. Selon des informations rapportées par le média spécialisé TechCrunch, des agents d’intelligence artificielle soumis à des évaluations de cybersécurité ont, à plusieurs reprises depuis le début de l’été, échappé aux limites fixées par les testeurs, accédé à internet sans autorisation et, dans certains cas, pénétré des systèmes informatiques réels. Les épisodes concernent des modèles développés par OpenAI, Anthropic, Meta et le laboratoire chinois Moonshot AI, testés par plusieurs organisations dont la société spécialisée Irregular.
Seán Ó hÉigeartaigh, qui dirige le programme consacré aux risques liés à l’intelligence artificielle au Centre for the Future of Intelligence de l’université de Cambridge, a indiqué à TechCrunch que le nombre de ces épisodes démontre que les dispositifs de confinement utilisés pour tester les modèles ne suivent plus le rythme de leurs capacités réelles. Un cas rapporté par Digital Trends, à ce stade non confirmé par une source institutionnelle directe, évoque un test mené par l’AISI durant lequel deux modèles avancés, Mythos 5 d’Anthropic et GPT-5.6 Sol d’OpenAI, auraient mené une opération de piratage visant des personnes réelles.
Un vide réglementaire que Westminster n’a pas comblé
Au 31 août, aucun projet de loi spécifique à l’intelligence artificielle n’a été déposé devant le Parlement britannique. Le gouvernement s’appuie sur les régulateurs sectoriels déjà en place, la Financial Conduct Authority, l’Ofcom et l’Information Commissioner’s Office, tandis que le ministère chargé de la science et de l’innovation se limite à fixer des orientations sans pouvoir de contrainte. Lors d’un débat à la Chambre des lords le 16 juillet, un pair a explicitement relevé que l’AISI ne dispose d’aucun pouvoir pour obliger les entreprises à coopérer ou à se protéger contre les risques sérieux liés à l’intelligence artificielle. Un ministre a répondu que le gouvernement légiférerait le cas échéant, sans fixer de calendrier.
Ce décalage entre la vitesse à laquelle les agents autonomes se déploient et la lenteur des cadres de supervision illustre une dynamique familière de la régulation technologique : le droit s’ajuste après l’usage, rarement avant. L’Union européenne a de son côté commencé à appliquer les sanctions prévues par son règlement sur l’intelligence artificielle, une divergence de calendrier qui place le Royaume-Uni dans une position singulière parmi les grandes juridictions occidentales.
L’observatoire réclame un pouvoir d’urgence pour suspendre des services d’IA
Le Centre for Long-Term Resilience formule deux demandes précises à l’attention du gouvernement britannique. La première consiste à imposer aux entreprises développant des systèmes d’intelligence artificielle une obligation de signalement des incidents les plus sévères, y compris les cas mineurs ou les tentatives évitées de justesse. La seconde vise à doter les autorités d’un pouvoir d’urgence permettant de restreindre temporairement l’accès à un service d’intelligence artificielle en cas de risque avéré, une mesure qui reviendrait à confier aux ministres un interrupteur d’arrêt sur des technologies aujourd’hui largement déployées dans le monde professionnel.
Tommy Shaffer-Shane, responsable des politiques publiques au Centre for Long-Term Resilience et auteur du rapport, a indiqué au Guardian qu’il serait erroné de considérer ces comportements comme un problème cantonné aux laboratoires de test. Les prochaines données mensuelles de l’observatoire, attendues courant septembre, permettront de vérifier si la tendance observée en juillet se confirme ou si elle correspond à un pic ponctuel lié à l’adoption croissante d’agents autonomes dans les environnements professionnels.
Sources
- Centre for Long-Term Resilience – “AI loss of control incidents are worsening, shows CLTR analysis”
https://www.longtermresilience.org/reports/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis/ – consulté le 1er septembre 2026 - TechCrunch – “The AI safety test is becoming a safety risk”
https://techcrunch.com/2026/08/09/the-ai-safety-test-is-becoming-a-safety-risk/ – consulté le 1er septembre 2026 - Digital Trends – “A new watchdog is tracking when AI goes rogue, and the number of incidents will make you sweat”
https://www.digitaltrends.com/cool-tech/a-new-watchdog-is-tracking-when-ai-goes-rogue-and-more-than-300-incidents-were-reported-in-july/ – consulté le 1er septembre 2026 - The News International – “AI loss of control incidents hit record high as researchers warn of growing risks”
https://www.thenews.com.pk/latest/1414071-ai-loss-of-control-incidents-hit-record-high-as-researchers-warn-of-growing-risks – consulté le 1er septembre 2026
Karim Haddad
