Romain Leclaire

Il aura fallu un scandale retentissant, une vague de colère réglementaire et la mobilisation de 57 membres du parlement européen pour y parvenir. Hier 11 mars, les législateurs de l'Union Européenne ont conclu un accord politique sur une série d'amendements à la loi sur l'IA, intégrant pour la première fois une interdiction explicite des images sexuelles générées par intelligence artificielle sans le consentement des personnes représentées.

Négocié entre les groupes de centre-droit et de centre-gauche au parlement européen, il constitue l'une des avancées les plus symboliques (et les plus âprement débattues) de ce que l'on appelle l'AI Act Omnibus, un ensemble de modifications destinées à affiner et, dans certains cas, à renforcer la loi adoptée en 2024, à mesure qu'elle entre progressivement en application. Cette interdiction n'était pas prévue dans le calendrier initial des négociations. Elle s'y est imposée à la suite de l'affaire Grok, l'un des épisodes les plus explosifs qu'aient eu à gérer les régulateurs européens ces derniers mois.

Fin décembre 2025, xAI, la société d'intelligence artificielle d'Elon Musk, a mis à jour son chatbot (intégré à la plateforme X) avec une nouvelle fonctionnalité d'édition d'images. En quelques jours à peine, des utilisateurs ont commencé à détourner l'outil pour générer des images sexualisées réalistes de femmes et de jeunes filles réelles, sans leur consentement, y compris des contenus que les régulateurs ont qualifiés de matériel pédopornographique.

Rien qu'entre le 5 et le 6 janvier dernier, les chercheurs de l'ONG parisienne AI Forensics ont estimé qu'au moins 6 700 images sexuelles avaient été produites via l'outil. La réaction de la commission européenne a été immédiate. Ses services ont qualifié ces contenus d'abominables et clairement illégaux. La commission a ordonné à X de conserver l'ensemble des documents internes liés à Grok jusqu'à fin 2026, avant d'ouvrir une enquête formelle pour violation présumée du Digital Services Act (une législation pouvant infliger des amendes allant jusqu'à 6 % du chiffre d'affaires mondial annuel). Le réseau social, qui venait déjà d'être condamnée à 120 millions d'euros d'amende en décembre 2025 pour des manquements à la transparence publicitaire, se retrouvait simultanément face à deux fronts réglementaires.

Sous la pression, xAI a progressivement restreint les capacités de nudification de Grok, d'abord aux abonnés payants, puis à l'ensemble des utilisateurs dans les pays où de tels contenus sont illégaux. Mais AI Forensics a démontré que des contournements restaient possibles. Des enquêtes nationales ont été ouvertes en France, en Allemagne et au Royaume-Uni. La Malaisie et l'Indonésie ont carrément bloqué l'accès à Grok.

Une faille légale enfin comblée

L'élément le plus embarrassant pour les institutions européennes est venu d'une confirmation officielle de la commission, hier: ni l'AI Act dans sa version actuelle, ni aucune autre législation européenne existante n'interdisait explicitement les systèmes d'IA capables de générer des images pédopornographiques ou des deepfakes sexuels. Cette lacune, reconnue publiquement dans une lettre adressée à un eurodéputé, a fourni le levier politique nécessaire pour inclure l'amendement dans l'Omnibus. La France et l'Espagne avaient porté cette interdiction tout au long des négociations, rejointes par l'Allemagne et la Slovaquie, qui menaçaient de bloquer l'ensemble du texte si la mesure n'y figurait pas. Le conseil de l'UE a intégré la prohibition dans sa position le 10 mars. Le parlement a suivi dès le lendemain.

L'accord doit encore passer un vote en commission prévu le 18 mars, avant les étapes parlementaires et du conseil. Les Verts ont exprimé leur opposition à certains volets liés à la déréglementation industrielle de l'IA, laissant entrevoir d'éventuelles évolutions du texte final. Quant à la revue par la commission des pratiques IA à formellement interdire (un processus qui avait déjà manqué son échéance d'août 2025) elle est désormais attendue en avril. Pour Elon Musk, cet épisode ouvre un nouveau front dans une relation déjà très tendue avec Bruxelles. Les frictions, loin de se dissiper, semblent promises à durer.