Midjourney : les polémiques autour de la modération se multiplient
Depuis plusieurs mois, une vague de mécontentement secoue la communauté Midjourney. De nombreux créateurs dénoncent une modération devenue trop stricte, parfois arbitraire, et des sanctions jugées disproportionnées. Entre bannissements soudains, refus de remboursement et sentiment de censure, la plateforme d’images génératives par IA fait face à une contestation sans précédent. Décryptage d’une polémique qui illustre les tensions croissantes entre liberté créative et encadrement éthique.
Le contexte : une promesse PG-13 vite remise en cause
Lors de son lancement, Midjourney s’était positionné comme une plateforme créative avec une politique de modération claire : le standard PG-13. Inspiré des classifications cinématographiques, ce cadre autorisait certains contenus suggestifs mais non explicites, une nudité non sexuelle ou des scènes de violence modérée.
Cette norme, mentionnée dans les Conditions d’utilisation et les Community Guidelines, devait permettre aux créateurs de s’exprimer librement tout en encadrant les contenus sensibles. Un équilibre délicat que la plateforme promettait de maintenir pour satisfaire à la fois créateurs et régulateurs.
Des utilisateurs dénoncent une modération incohérente
Progressivement, de nombreux utilisateurs ont signalé des dérives dans l’application des règles. Les critiques portent notamment sur :
- Des bannissements soudains pour des prompts pourtant conformes à la norme PG-13 annoncée ;
- Une application incohérente des règles, variant selon les modérateurs ;
- Des refus systématiques de remboursement pour les comptes bannis, y compris pour les abonnements annuels ;
- Un manque de transparence dans les décisions de modération.
Certains créateurs affirment avoir été bannis pour des descriptions comme "plunging neckline with a hint of allure" ou "expressively naughty" dans un contexte purement artistique, des termes pourtant censés rester dans le cadre PG-13.
Filtres automatiques : excès de zèle et faux positifs
Midjourney utilise un système de filtres dynamiques pour bloquer automatiquement certains mots ou expressions jugés inappropriés. Ces filtres couvrent plusieurs catégories :
- Contenu sexuel ou suggestif explicite ;
- Violence extrême ou gore ;
- Discours haineux ou discriminatoires ;
- Drogues et substances illicites ;
- Activités illégales.
Le problème : ces filtres sont parfois trop larges et bloquent des termes pourtant anodins ou artistiques. Des mots comme "voluptuous", "lingerie" ou "seductive" peuvent déclencher un rejet automatique, même dans un contexte parfaitement approprié. Pire encore, des contenus générés accidentellement par l’IA elle-même peuvent entraîner des sanctions contre le compte de l’utilisateur.
La réponse de Midjourney : ajustements techniques et retrait stratégique
Face à la contestation, Midjourney a tenté d’apporter des réponses, jugées insuffisantes par une partie de la communauté. En 2023, la plateforme a déployé un nouveau système de modération en deux étapes :
1. Un premier scan rapide du prompt pour détecter d’éventuelles violations ;
2. La possibilité pour l’utilisateur de faire appel en cas de blocage, avec réexamen par une IA plus performante.
Ce système visait à réduire les faux positifs en tenant compte du contexte plutôt que de bloquer des mots isolés. Parallèlement, début 2024, Midjourney a retiré discrètement la mention PG-13 de ses documents officiels, tout en ajoutant une clause précisant l’absence de remboursement pour les comptes bannis. Une décision qui a encore accru la méfiance des utilisateurs.
Des conséquences concrètes pour les créateurs
Pour de nombreux créateurs, ces polémiques ont des répercussions directes sur leur pratique. Certains rapportent :
- Une frustration croissante face à l’imprévisibilité de la modération ;
- Un sentiment de censure qui limite leur expression artistique ;
- La perte d’investissements (abonnements annuels non remboursés) ;
- La nécessité de s’auto-censurer en permanence pour éviter les sanctions.
Cette situation a poussé certains utilisateurs à annuler leur abonnement et à se tourner vers des alternatives open source comme Stable Diffusion, offrant plus de contrôle sur la modération. D’autres envisagent des recours collectifs ou des actions légales, estimant ne pas avoir reçu le service promis.
Un enjeu plus large : liberté créative vs responsabilité
Au-delà du cas Midjourney, cette controverse soulève des questions plus larges sur la modération des contenus génératifs par IA. Comment concilier liberté créative et prévention des abus ? Comment définir des règles claires et cohérentes dans un domaine où les limites restent subjectives ?
Ces défis concernent l’ensemble des plateformes d’IA générative, qui doivent trouver un équilibre entre :
- La nécessité d’encadrer les contenus potentiellement illégaux ou nuisibles ;
- Le respect de la liberté d’expression et de la création artistique ;
- Les pressions réglementaires croissantes ;
- Les attentes des utilisateurs en matière de transparence et d’équité.
La solution passera sans doute par des systèmes de modération plus nuancés et contextuels, associés à un dialogue plus ouvert avec les communautés d’utilisateurs.
Sources
- Another Midjourney Legal Timebomb? Millions of Users May Be Owed Refunds – Medium : Témoignage détaillé d’un utilisateur banni malgré le respect des règles PG-13.
- Midjourney Banned Words: What Users Need to Know – Cabina.AI : Analyse des catégories de mots bannis et du fonctionnement des filtres automatiques.
- Midjourney now has an easy mode and a new AI moderation system – The Decoder : Présentation du nouveau système de modération en deux étapes déployé en 2023.
Quelle est la politique de modération actuelle de Midjourney ?
Midjourney a retiré la mention PG-13 début 2024. La plateforme utilise désormais un système de modération automatisé avec des filtres dynamiques bloquant les contenus jugés inappropriés (violence, nudité, discours haineux, etc.). Un processus en deux étapes permet aux utilisateurs de faire appel en cas de blocage.
Pourquoi des utilisateurs dénoncent-ils des bannissements injustifiés ?
De nombreux créateurs affirment avoir été bannis pour des contenus conformes aux règles initiales PG-13. Ils pointent du doigt une application incohérente des règles, des filtres automatiques trop larges et un manque de transparence dans les décisions de modération.
Midjourney rembourse-t-il les abonnements en cas de bannissement ?
Non. Midjourney a ajouté une clause spécifiant l’absence de remboursement pour les comptes bannis, même pour des abonnements annuels déjà réglés. Cette politique est l’une des principales sources de contestation.
Quelles alternatives offrent une modération plus souple ?
Les utilisateurs cherchant plus de flexibilité se tournent vers des solutions open source comme Stable Diffusion, qui permet une installation locale et un contrôle complet de la modération. D’autres plateformes comme DALL·E 2 ou Leonardo.AI proposent également des approches différentes.
Comment éviter les problèmes de modération sur Midjourney ?
Pour limiter les risques, il est conseillé d’éviter les termes potentiellement sensibles même dans un contexte artistique, de rester en deçà des limites acceptables et de consulter régulièrement les mises à jour des Community Guidelines. Certains utilisateurs créent également des comptes séparés pour expérimenter des prompts plus risqués.
