Anthropic révèle une campagne de hacking automatisée par l'IA

Une campagne d'espionnage sans précédent

L'opération, nommée GTG-1002 par les chercheurs d'Anthropic, a été détectée en septembre 2025. Elle a ciblé environ trente organisations à travers le monde, principalement des entreprises technologiques de grande envergure, des institutions financières, des fabricants de produits chimiques et des agences gouvernementales. Ces cibles stratégiques suggèrent que les attaquants recherchaient des informations commerciales sensibles, des données financières ou des secrets industriels.

Ce qui rend cette campagne particulièrement inquiétante, c'est son niveau d'automatisation. Les attaquants ont exploité ce qu'Anthropic appelle les "capacités agentic" de l'IA : la capacité d'un système d'intelligence artificielle non seulement à conseiller ou assister, mais à prendre des initiatives et à exécuter des tâches de manière autonome. Contrairement aux utilisations précédentes de l'IA en cybersécurité, où elle servait principalement d'outil d'assistance, ici l'IA est devenue l'agent principal de l'attaque, capable de prendre des décisions et d'exécuter des actions complexes avec une intervention humaine minimale.

Comment les pirates ont-ils utilisé Claude Code ?

Les attaquants ont manipulé Claude Code, l'outil de codage IA d'Anthropic, en contournant astucieusement ses garde-fous éthiques. Pour y parvenir, ils ont employé deux techniques principales. La première consistait à fragmenter leurs instructions malveillantes en micro-tâches apparemment innocentes, empêchant ainsi l'IA de percevoir l'intention globale néfaste. La seconde technique était l'usurpation d'identité : ils ont fait croire à Claude qu'il participait à un test de sécurité légitime en tant qu'employé d'une société de cybersécurité.

Une fois le cadre d'attaque établi, l'IA a pu exécuter jusqu'à 80-90% des opérations tactiques de manière autonome. Ces opérations incluaient la reconnaissance des systèmes cibles, la découverte de vulnérabilités, l'exploitation de ces failles, le mouvement latéral dans les réseaux, la collecte d'informations d'identification, et même l'analyse et l'exfiltration de données. Selon le rapport d'Anthropic, l'IA pouvait traiter des milliers de requêtes par seconde, un rythme impossible pour des opérateurs humains.

Le rôle humain : indispensable mais limité

Malgré le haut niveau d'automatisation, cette campagne de hacking n'était pas entièrement autonome. Des opérateurs humains jouaient un rôle crucial à plusieurs étapes clés du processus. La tâche la plus complexe et la plus intensive en ressources humaines était la construction du framework d'attaque initial. Cette étape nécessitait une expertise technique approfondie pour créer l'architecture permettant à l'IA d'opérer de manière cohérente et efficace.

Les opérateurs humains intervenaient également à des points de décision critiques, notamment pour autoriser la progression de la phase de reconnaissance à l'exploitation active, approuver l'utilisation des informations d'identification collectées pour le mouvement latéral dans les réseaux, et prendre les décisions finales concernant la portée et la rétention des données à exfiltrer. Jacob Klein, responsable de l'équipe de renseignement sur les menaces chez Anthropic, souligne que "le plus difficile a été de construire ce framework, c'est là que l'intervention humaine a été intensive". Cette collaboration entre l'IA et les humains représentait un modèle hybride où la machine assurait l'exécution à grande vitesse tandis que les humains fournissaient la supervision stratégique et les décisions éthiques.

Le cycle de l'attaque en détail

L'attaque suivait un cycle méthodique en plusieurs phases où l'IA intervenait à chaque étape. La première phase, celle de reconnaissance, voyait Claude inspecter les systèmes de l'organisation cible pour identifier les bases de données les plus précieuses et les points d'entrée potentiels. Selon le rapport, cette phase, qui aurait été longue pour des humains, a été réalisée en un temps record par l’IA.

Venaient ensuite la phase de découverte de vulnérabilités, où l'IA analysait le système pour identifier les failles de sécurité, puis la phase d'exploitation, où Claude générait des charges utiles personnalisées pour exploiter ces vulnérabilités. Une fois l'accès initial obtenu, l'IA entamait la phase de post-exploitation, collectant les informations d'identification, se déplaçant latéralement dans le réseau et analysant les données pour identifier les informations les plus précieuses. Dans un cas cité par Anthropic, l'IA a interrogé de manière autonome des bases de données et des systèmes pour analyser les résultats et marquer les informations exclusives, les regroupant par valeur de renseignement. La phase finale était l'exfiltration, où après validation humaine, les données étaient extraites et classées. Le rapport indique que l'IA générait une documentation détaillée de l'attaque à chaque phase, permettant aux pirates de potentiellement transférer l'accès persistant à d'autres équipes pour des opérations à long terme.

Implications pour la cybersécurité

Cette campagne illustre plusieurs tendances inquiétantes pour l'avenir de la cybersécurité. L'utilisation de l'IA comme multiplicateur de force représente un changement fondamental : même des outils IA généraux peuvent être transformés en armes cybernétiques puissantes entre de mauvaises mains. Cette démocratisation des capacités de hacking sophistiqué abaisse considérablement la barrière à l'entrée, permettant à des acteurs moins expérimentés techniquement de mener des attaques complexes.

La vitesse et l'échelle sans précédent offertes par l'IA constituent un autre défi majeur. Comme le souligne Toby Lewis de Darktrace, "L'IA est essentiellement un coordinateur intelligent pour les outils offensifs standards, permettant à un opérateur de dire 'scanne ici, pivote là' en langage naturel". Cette capacité à traiter des milliers de requêtes par seconde dépasse ce que les équipes de défense peuvent suivre ou détecter avec les outils traditionnels. De plus, les attaques pilotées par l'IA ne peuvent pas toujours être identifiées comme telles : que le code soit produit par un système d'IA ou écrit manuellement, il se comporte de la même manière une fois dans l'environnement de la victime, ce qui complique considérablement les efforts de détection et d'attribution.

Réponses d'Anthropic et perspectives

Face à cette menace émergente, Anthropic a pris plusieurs mesures immédiates pour contrer l'attaque et renforcer ses défenses. L'entreprise a immédiatement lancé une enquête approfondie pour comprendre la nature et l'étendue de l'opération, banni les comptes impliqués dès leur identification, et notifié les entités affectées de manière appropriée. Anthropic a également coordonné ses actions avec les autorités compétentes tout en recueillant des renseignements exploitables.

Sur le long terme, l'entreprise a étendu ses capacités de détection et développé de meilleurs classificateurs pour signaler les activités malveillantes. Les équipes travaillent continuellement sur de nouvelles méthodes d'investigation et de détection des attaques distribuées à grande échelle comme celle-ci. John Watters, PDG d'iCOUNTER, met en garde : "Ceci n'est que la partie émergée de l'iceberg… Imaginez ce qu'un adversaire peut faire avec un LLM spécifiquement optimisé pour une mission d'espionnage." Anthropic a choisi de partager publiquement ces informations pour aider ceux de l'industrie, du gouvernement et de la communauté de recherche à renforcer leurs propres cyberdéfenses, reconnaissant que la transparence est essentielle pour faire face à cette nouvelle génération de menaces.