La crise des deepfakes : pourquoi les garde-fous de l'IA comptent

En janvier 2026, les chercheurs de Copyleaks ont découvert que Grok, le chatbot intégré à X (l'ancien Twitter), générait environ une image sexualisée non consentie par minute. Pas des personnages fictifs. De vraies personnes, mineurs compris, à partir de photos qu'elles avaient publiées sur la plateforme.

Entre décembre 2025 et janvier 2026, Grok a généré plus de 4,4 millions d'images sur X. Jusqu'à 41 % contenaient des images sexuelles de vraies femmes. Au pic, l'outil produisait environ 6 700 deepfakes sexualisés par heure, publiés directement sur le réseau où vivaient les photos originales des victimes.

C'est ce qui arrive quand tu mets en production de la génération d'images sans garde-fous sérieux.

Ce qui s'est passé avec Grok

Mai 2025 : des utilisateurs découvrent que Grok peut "déshabiller" une personne sur une photo. Fin décembre, la pratique est devenue une tendance sur X. Photo habillée de quelqu'un, prompt à Grok pour une version sexualisée, publication ouverte, parfois virale.

Reuters a testé le système après l'annonce par xAI de garde-fous renforcés. Neuf journalistes, des dizaines de prompts contrôlés. Grok a produit des images sexualisées pour 45 prompts sur 55. Les mêmes requêtes se sont fait refuser par OpenAI, Google et Meta.

Les régulateurs ont réagi vite. La Commission irlandaise de protection des données a ouvert une enquête européenne. L'Espagne a demandé à ses procureurs d'enquêter sur X, Meta et TikTok pour des contenus de type CSAM générés par IA. Le procureur général de Californie a envoyé une mise en demeure à xAI. La France, l'Inde et l'Ofcom britannique ont lancé leurs propres enquêtes. Un recours collectif a été déposé devant le tribunal fédéral de Californie le 23 janvier.

Le recours avance un point qui mérite d'être lu attentivement : xAI savait que les abus avaient lieu. La réponse n'a pas été de corriger le problème mais de réserver la fonctionnalité aux abonnés payants. Monétiser le préjudice plutôt que le prévenir.

Le problème derrière Grok

Grok est le cas le plus visible. La crise des deepfakes va bien au-delà.

Une étude de 2023 montre que 98 % des vidéos deepfake en ligne sont pornographiques et ciblent massivement des femmes qui n'ont jamais donné leur consentement. La barrière technique s'est effondrée. Ce qui demandait des compétences en montage vidéo tient désormais en un prompt.

Les dégâts dépassent les images intimes. Des appels automatisés générés par IA ont imité le président Biden pendant la primaire du New Hampshire en 2024. Des deepfakes de personnalités politiques circulent à chaque cycle électoral. Distinguer le vrai du faux devient plus dur de mois en mois. Voix et visages synthétiques servent aussi à l'usurpation d'identité, aux arnaques au faux PDG, à la vérification client frauduleuse. La technologie est bon marché et le devient encore plus.

Les entreprises qui construisent ces modèles le savent.

Pourquoi "on lance et on corrige après" ne marche pas ici

Le scandale Grok illustre le playbook classique de la Silicon Valley appliqué à l'IA générative : on lance la fonctionnalité, on regarde ce qui se passe, on corrige plus tard.

Le "plus tard" arrive une fois que des millions d'images non consenties ont été générées et diffusées. Une image, on ne la dé-génère pas. On ne la supprime pas de chaque appareil qui l'a enregistrée. Le préjudice s'accumule à chaque heure où le système tourne sans contrôle.

Compare avec OpenAI, Google et Meta sur la même capacité. Les trois proposent de la génération d'images. Les trois ont refusé exactement les prompts que Grok a exécutés sans broncher. Pas par manque de capacité technique : parce qu'ils ont construit des mécanismes de refus avant de livrer.

Ces garde-fous ne sont pas parfaits, les gens trouvent des contournements. Mais un système qui essaie de prévenir les abus et échoue parfois, ce n'est pas la même chose qu'un système qui ne tente rien.

La sécurité en IA générative est une exigence d'ingénierie de base, comme la validation des entrées sur un formulaire web. Sans elle, on ne livre pas.

À quoi ressemblent de vrais garde-fous

La sécurité efficace pour les modèles de génération d'images tient sur plusieurs couches. Aucune n'est exotique.

Des classificateurs de contenu d'abord, qui signalent les schémas nocifs avant la génération. On les entraîne sur des catégories de contenu nuisible (images intimes non consenties, CSAM, contenu politique trompeur) et on les applique en entrée comme en sortie. Un prompt qui demande de "retirer les vêtements" d'une photo de personne réelle ne devrait jamais atteindre le modèle de génération.

Les protections d'identité sont plus complexes techniquement mais tout aussi importantes : empêcher de générer des images réalistes de personnes identifiables sans consentement. Certaines approches utilisent la reconnaissance faciale pour bloquer les générations correspondant à des visages connus. D'autres signalent tout prompt qui mentionne une personne réelle par son nom.

Vient ensuite la provenance. Le standard C2PA (Coalition for Content Provenance and Authenticity), soutenu par Adobe, Microsoft, Google et OpenAI, intègre des métadonnées cryptographiques de provenance dans les fichiers générés. Le Code de pratique de l'UE sur les contenus générés par IA promeut des étiquettes visibles combinées à des filigranes invisibles lisibles par machine. L'objectif : que le contenu synthétique reste identifiable même après une capture d'écran et un repartage.

Ajoute là-dessus de la limitation de débit (générer des milliers d'images sexualisées en peu de temps, c'est un signal évident), de la surveillance en temps réel des comportements abusifs, et des mécanismes de signalement qui donnent aux victimes un chemin rapide vers la suppression.

Ce sont des pratiques standard chez les laboratoires responsables. La question relève de la volonté, pas de la technique.

La réponse réglementaire

Les législateurs avancent, pas toujours assez vite, mais le cadre prend forme.

Le règlement européen sur l'IA, dont les dispositions entrent en vigueur le 2 août 2026, est le plus complet. L'article 50 exige que les contenus générés par IA soient "marqués dans un format lisible par machine et détectables comme générés artificiellement". Les déployeurs doivent signaler les contenus synthétiques dès la première interaction. L'article 99 prévoit des sanctions allant jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires mondial. Un Code de pratique sur la transparence devrait être finalisé d'ici mi-2026.

Aux États-Unis, le TAKE IT DOWN Act a été signé en mai 2025, l'un des rares textes bipartisans sur l'IA. Il interdit la publication de deepfakes intimes non consentis et impose aux plateformes des processus de retrait d'ici mai 2026. Côté États, 48 sur 50 ont désormais une législation sur les deepfakes : 30 traitent spécifiquement les images intimes deepfake non consenties, 45 criminalisent les contenus CSAM générés par IA.

Les autres juridictions suivent. Le Online Safety Act britannique couvre les images intimes synthétiques. L'Australie a proposé une législation. L'Inde et la France ont lancé leurs enquêtes en réponse directe au scandale Grok.

La direction est claire : les entreprises qui déploient de l'IA générative devront répondre de ce que leurs systèmes produisent. Intégrer la sécurité devient une obligation légale, pas juste une bonne pratique.

Ce que ça implique si tu déploies de l'IA générative

Si tu déploies un modèle qui génère des images, des vidéos ou de l'audio réaliste, le cas Grok est un avertissement.

Teste ton système avec des prompts adversariaux avant de livrer. Essaie de lui faire générer du contenu nuisible. Si tu y arrives, tes utilisateurs aussi. Ce n'est pas optionnel.

Aucun classificateur ne capte tout seul. Superpose tes défenses : filtrage des entrées, classification des sorties, métadonnées de provenance, limitation de débit, surveillance des abus. La défense en profondeur fonctionne pour la sécurité de l'IA comme pour la cybersécurité.

Construis tes mécanismes de retrait dès le premier jour. Quand quelqu'un signale que ton système a généré du contenu nuisible le concernant, il te faut une réponse rapide. J'ai vu des entreprises boulonner des flux de signalement en urgence après une crise. Ça ne se passe jamais bien.

Suis la réglementation. Les échéances du règlement européen sur l'IA approchent. Les obligations de retrait du TAKE IT DOWN Act entrent en vigueur en mai 2026. Les États américains votent de nouvelles lois chaque trimestre. Si ton produit sert des utilisateurs dans ces juridictions, la conformité est ton problème, pas celui de ton avocat.

La technologie de génération de médias synthétiques réalistes est là et elle ne va pas disparaître. Les entreprises qui intègrent la sécurité dès le départ seront celles qui opèrent encore quand l'application des règles commencera vraiment.

Si tu dois affronter ces questions dans tes propres déploiements d'IA, j'aborde la sécurité et la conformité dans le cadre de mon travail de conseil.