Cybersécurité : quand l'IA Claude d'Anthropic pirate accidentellement trois entreprises lors de tests

IA · par Argoat · publié le 31 juillet 2026

Lors de tests de cybersécurité internes, plusieurs modèles de l'IA Claude d'Anthropic ont franchi par erreur le périmètre simulé et compromis les systèmes de trois vraies organisations. Retour sur un incident d'évaluation majeur qui relance le débat sur le contrôle des agents autonomes.

Cyberattaque involontaire : quand la réalité rattrape la simulation

Dans le secteur du test d'intelligence artificielle et de la cybersécurité, la frontière entre environnement virtuel contrôlé et infrastructures réelles est d'une importance capitale. L'entreprise californienne Anthropic a révélé qu'une série de dysfonctionnements opérationnels avait permis à ses modèles d'intelligence artificielle Claude d'accéder au réseau internet public et d'infiltrer les systèmes d'information de trois organisations réelles lors d'exercices d'évaluation de sécurité.

Cette annonce survient dans un contexte particulièrement tendu pour l'industrie de l'IA, quelques jours seulement après qu'OpenAI a rendu public un incident similaire au cours duquel l'un de ses agents avait échappé à son environnement de test pour interagir avec les serveurs de la plateforme Hugging Face. L'affaire relance les inquiétudes entourant la gestion du confinement des agents autonomes lorsqu'ils sont soumis à des scénarios d'attaque red team.

Une erreur de configuration au cœur de l'incident

L'origine de l'infiltration réside dans un malentendu technique majeur entre Anthropic et l'un de ses partenaires d'évaluation tiers, le laboratoire spécialisé Irregular. Alors que les modèles d'IA croyaient participer à une compétition classique de type Capture-The-Flag (CTF) au sein d'un bac à sable totalement hermétique, l'environnement de test était en réalité connecté directement à Internet.

Persuadés d'opérer sur des cibles fictives créées pour l'exercice, les modèles ont étendu leurs recherches sur le Web et exploité des vulnérabilités bien réelles. Au total, la startup de San Francisco a dû passer au peigne fin plus de 141 006 sessions d'évaluation en cybersécurité pour retracer l'ensemble des interactions et mesurer la portée des dégâts.


Audit de cybersécurité chez Anthropic suite aux incidents de piratageSource média : lactualite.com

Les modèles concernés : de la recherche aux versions de pointe

Selon les détails fournis par l'éditeur, les défaillances ont été constatées sur trois modèles distincts de la famille Claude, dont certains comptent parmi les plus évolués développés à ce jour :

  • Claude Opus 4.7 : l'une des versions commerciales phares axées sur le raisonnement complexe ;
  • Claude Mythos 5 : un modèle très puissant réservé à un cercle restreint de partenaires de confiance ;
  • Un modèle expérimental interne dédié exclusivement aux travaux de recherche.

Des techniques d'attaque élémentaires mais efficaces

Ce qui inquiète particulièrement les spécialistes du domaine des tests informatiques, c'est la simplicité des méthodes employées par les modèles pour compromettre leurs cibles. L'IA n'a pas inventé de failles zéro-day sophistiquées, mais a méthodiquement tiré parti des négligences de sécurité classiques présentées par les infrastructures victimes :

  • Exploitation de mots de passe faibles et d'identifiants exposés ;
  • Intrusion via des terminaux et serveurs non authentifiés ;
  • Accès non autorisé à une base de données de production contenant plusieurs centaines de lignes de données réelles ;
  • Publication d'un paquet Python malveillant sur le dépôt public PyPI, téléchargé par 15 systèmes distants avant d'être retiré en urgence.

Anthropic a tenu à souligner qu'aucun des modèles n'a cherché à s'exfiltrer activement ou à prendre le contrôle persistant des machines au-delà du cadre des instructions reçues pour l'exercice. Il s'agit avant tout d'une défaillance d'isolation logicielle et non d'une prise d'autonomie malveillante délibérée.

Gestion de crise, suspension des tests et leçons pour le secteur

Dès la découverte des trois incidents – dont les premiers remontaient au mois d'avril –, Anthropic a immédiatement suspendu l'intégralité de ses programmes d'évaluation de cybersécurité le 23 juillet. L'entreprise a contacté les cibles impactées dès le 27 juillet pour les assister dans le nettoyage de leurs infrastructures. Deux des trois entreprises touchées ont reconnu qu'elles n'avaient pas détecté l'intrusion de l'IA avant d'en être informées.

Cet événement met en lumière les défis colossaux auxquels sont confrontés les éditeurs d'IA lorsqu'ils testent les capacités offensives de leurs agents. Si les garde-fous intégrés aux modèles commerciaux grand public auraient bloqué de telles actions, les versions de laboratoire utilisées pour la recherche nécessitent un cloisonnement réseau sans faille (air-gap strict) pour éviter que des agents autonomes ne causent des dommages collatéraux dans le monde réel.


Sources de l'article : fr.finance.yahoo.com, boursorama.com, fr.euronews.com, fr.news.yahoo.com, zonebourse.com