Sur le dark web, les ventes de prompts privés (pré-prompt) se multiplient

Qu'est-ce qu'un prompt privé ?

Un prompt privé (ou pré-prompt) est un ensemble d'instructions système qui définit le comportement, la personnalité et les limites d'une intelligence artificielle. Contrairement aux requêtes utilisateurs classiques, ces prompts sont généralement confidentiels et propriétaires. Ils constituent en quelque sorte le "cerveau" caché des modèles d'IA comme ChatGPT, Claude ou Gemini.

Ces instructions déterminent comment l'IA doit répondre à certaines questions, quel ton adopter, quelles informations refuser de divulguer, et comment gérer les tentatives de manipulation. Dans les entreprises, ces prompts sont souvent le fruit d'un travail d'ingénierie complexe et représentent un avantage concurrentiel majeur.

Pourquoi ces prompts ont-ils tant de valeur ?

La valeur d'un prompt privé dépend de plusieurs facteurs :

• Spécialisation : Les prompts conçus pour des domaines spécifiques (médical, juridique, financier) sont particulièrement prisés car ils permettent de reproduire des réponses d'expert.
  
• Jailbreak : Les prompts qui contournent les garde-fous éthiques des IA sont très recherchés pour des usages malveillants.
  
• Personnalisation : Les prompts qui imitent une marque ou une personnalité spécifique permettent de créer des clones crédibles.
  

Sur le dark web, ces prompts s'échangent contre des cryptomonnaies comme le Monero (XMR), privilégié pour son anonymat. Les prix varient de quelques dizaines à plusieurs milliers d'euros, selon la rareté et l'efficacité du prompt.

Le cas des "dumps" de prompts

Le phénomène le plus inquiétant est celui des dumps de prompts : des fichiers contenant des centaines, voire des milliers d'instructions système volées à des entreprises. Ces dumps sont généralement obtenus par :

• Des fuites internes (employés mécontents)
  
• Des piratages de serveurs ou de bases de données
  
• Des attaques par ingénierie sociale
  

Récemment, un dump de 12 Ko de prompts OpenAI a été proposé à 150$ en XMR sur le forum "Ring-0", une place de marché Tor réputée pour ses zero-day exploits et données volées.

Comment se déroulent ces transactions ?

Les échanges de prompts privés sur le dark web suivent un schéma bien établi :

• Anonymisation : Vendeurs et acheteurs utilisent des pseudonymes et communiquent via des messageries chiffrées.
  
• Vérification : Les vendeurs fournissent souvent des échantillons pour prouver l'authenticité de leurs prompts.
  
• Paiement : Les transactions s'effectuent en cryptomonnaies, principalement en Monero pour garantir l'anonymat.
  
• Livraison : Les prompts sont transmis via des canaux sécurisés, parfois chiffrés avec des mots de passe à usage unique.
  

Les forums spécialisés comme "Ring-0", "BreachForums" ou des canaux Telegram privés servent de places de marché pour ces échanges illicites.

Qui sont les acheteurs et les vendeurs ?

Du côté des vendeurs, on trouve :

• Des employés mécontents ou anciens employés de grandes entreprises tech
  
• Des hackers spécialisés dans l'extraction de données
  
• Des chercheurs en IA qui monnayent leurs découvertes
  

Les acheteurs sont plus variés :

• Concurrents : entreprises cherchant à copier ou améliorer leurs propres systèmes
  
• Cybercriminels : à la recherche de prompts pour optimiser leurs attaques
  
• Développeurs indépendants : voulant accélérer leurs projets sans investir en R&D
  
• Chercheurs en sécurité : étudiant les vulnérabilités des systèmes IA
  

L'émergence des "prompt brokers"

Un nouveau profil d'intermédiaire est apparu : les prompt brokers. Ces spécialistes agissent comme des courtiers, connectant vendeurs et acheteurs potentiels, et prenant une commission sur chaque transaction. Ils garantissent également la qualité et l'authenticité des prompts, créant ainsi un marché structuré malgré son caractère illégal.

Les risques pour la sécurité des systèmes IA

La prolifération de ces prompts privés sur le dark web représente une menace sérieuse pour la sécurité des systèmes IA :

• Prompt injection optimisée : Les attaquants peuvent concevoir des injections beaucoup plus efficaces pour contourner les garde-fous des IA.
  
• Clonage de services : Des entreprises peuvent voir leurs produits IA copiés à moindre coût.
  
• Attaques ciblées : Les prompts spécialisés permettent de créer des attaques ultra-personnalisées.
  

Selon une étude récente, les mentions d'outils IA malveillants ont augmenté de 219% sur les forums cybercriminels en 2024, témoignant de l'engouement pour ces techniques.

Comment se protéger ?

Face à cette menace, les entreprises peuvent adopter plusieurs mesures :

• Sécuriser les prompts : Limiter l'accès aux instructions système, utiliser le chiffrement.
  
• Surveiller les fuites : Mettre en place des systèmes de détection d'anomalies.
  
• Diversifier les approches : Éviter de dépendre d'un seul type de prompt pour des fonctions critiques.
  
• Sensibiliser les employés : Former les équipes aux risques de fuites et aux bonnes pratiques.
  

Du côté des chercheurs, le développement de défenses contre les injections de prompts devient une priorité, avec des techniques comme la validation des entrées ou l'isolation des instructions système.

Un phénomène qui s'accentue

Le marché des prompts privés sur le dark web ne cesse de croître, porté par l'explosion des usages de l'IA et la recherche d'avantages concurrentiels. Selon les experts, cette tendance devrait s'accélérer avec la démocratisation des technologies d'IA et la sophistication des attaques.

Les autorités commencent à prendre conscience de ce phénomène, mais la lutte reste compliquée par l'anonymat du dark web et la nature immatérielle des biens échangés. Une coopération internationale sera nécessaire pour endiguer ce trafic en pleine expansion.