CHRONIQUE : Trois ados, des photos volées, des vies brisées — et Grok n’a rien empêché

Un choix délibéré de ne pas protéger

La plainte est explicite sur ce point : xAI a « délibérément conçu Grok pour produire des contenus sexuellement explicites à des fins lucratives », sans mettre en place les protections que tous les autres grands acteurs de l’IA avaient déjà implémentées. OpenAI bloque ce type de requêtes. Google bloque ce type de requêtes. Midjourney bloque ce type de requêtes. xAI a fait le choix conscient de ne pas les bloquer. Ce n’est pas une faille technique. Ce n’est pas un oubli. C’est une décision commerciale — celle de se différencier en offrant moins de restrictions, pour attirer plus d’utilisateurs, pour générer plus de revenus.

Trois millions d’images en onze jours

Selon une étude du Center for Countering Digital Hate, Grok a généré près de trois millions d’images sexualisées en seulement onze jours fin 2025. Parmi elles, 23 000 représentaient des mineurs. Ce qui signifie qu’une image d’enfant à caractère sexuel était produite toutes les 41 secondes. Le CCDH a qualifié Grok de « machine industrielle pour produire du matériel pédopornographique ». Et pourtant, xAI a continué de fonctionner. Et Elon Musk a continué de tweeter.

La solution payante qui ne résout rien

Face au tollé de janvier 2026, xAI a pris une décision que les avocates des victimes ont qualifiée d’« insultante » : restreindre la génération d’images aux seuls abonnés payants. Autrement dit, la réponse d’Elon Musk au scandale de la pédopornographie générée par son IA a été de la transformer en service premium. Comme si mettre un péage devant un outil de production d’images d’exploitation d’enfants constituait une protection. Comme si les prédateurs n’avaient pas les moyens de payer un abonnement. Le cynisme a rarement atteint un tel niveau de pureté.

La liberté d’expression comme paravent

Elon Musk, qui s’exprime quotidiennement sur X, continue de fustiger les régulations gouvernementales qu’il accuse de vouloir « supprimer la liberté d’expression ». Il faut s’arrêter une seconde sur cette défense. Un homme dont l’IA produit des images de mineures dans des positions sexuelles invoque la liberté d’expression. La pédopornographie générée par IA serait donc une forme d’expression protégée. C’est une position tellement obscène qu’elle devrait suffire, à elle seule, à disqualifier son auteur de tout débat sur l’éthique technologique.

Deux lois fédérales comme bouclier

La plainte s’appuie sur deux textes puissants. D’abord, la loi Masha, qui permet aux victimes de pédopornographie d’obtenir des dommages et intérêts — et qui prévoit un minimum de 150 000 dollars par victime. Ensuite, la loi sur la protection des victimes de traite d’êtres humains, un texte habituellement utilisé contre les réseaux de trafic sexuel. Le message des avocates est clair : ce que fait Grok relève du même registre que le trafic — la production et la distribution de matériel d’exploitation sexuelle d’enfants, à échelle industrielle.

Le précédent qui menace toute l’industrie

Si cette plainte aboutit, elle créera un précédent juridique majeur. Jusqu’ici, les plateformes sont largement protégées aux États-Unis par la Section 230, qui les exempte de responsabilité pour les contenus publiés par leurs utilisateurs. Mais l’argument des avocates est redoutable : « sans xAI, ces contenus illégaux n’auraient jamais pu exister », fait valoir Annika K. Martin du cabinet Lieff Cabraser. xAI n’est pas un simple hébergeur. xAI est le fabricant de l’outil qui a rendu possible la création de ces contenus. La distinction est fondamentale. Et si un tribunal la reconnaît, chaque entreprise d’IA devra repenser ses garde-fous.

Où sont les autres géants de l’IA dans ce débat

OpenAI n’a pas commenté. Google n’a pas commenté. Meta n’a pas commenté. Le silence de l’industrie est aussi révélateur que le scandale lui-même. Ces entreprises ont mis en place des protections contre ce type d’abus — mais aucune n’a pris la parole pour dénoncer les pratiques de xAI. Parce que dénoncer un concurrent sur l’éthique, c’est s’exposer à ce qu’on examine vos propres failles. Parce que critiquer Musk, c’est risquer une tempête sur X. Et parce que, fondamentalement, l’ensemble de l’industrie sait que ses propres modèles pourraient, sans leurs garde-fous, produire exactement la même chose.

Le vrai problème que personne ne veut nommer

Le scandale Grok n’est pas un accident. C’est la conséquence logique d’une industrie qui valorise la rapidité de mise sur le marché par-dessus tout — y compris la sécurité des enfants. xAI a lancé sa génération d’images sans les protections élémentaires parce que les protections ralentissent le déploiement, réduisent les fonctionnalités et frustrent les utilisateurs. Et dans la course à l’IA, celui qui frustre le moins gagne le plus d’utilisateurs. La sécurité des enfants est devenue une variable d’ajustement dans un business plan.

Vos photos de famille sont des matières premières

Chaque photo que vous publiez de votre enfant sur Instagram, sur Facebook, sur un site scolaire, est désormais une matière première potentielle pour un outil de génération d’images explicites. Ce n’est plus une hypothèse paranoïaque. C’est exactement ce qui est arrivé à ces trois adolescentes du Tennessee. Leurs photos étaient banales. Leur exposition était normale. Et pourtant, un inconnu a pu les transformer en matériel pédopornographique en quelques clics, grâce à un outil commercial accessible à quiconque possède un abonnement.

L’illusion du contrôle à l’ère de l’IA générative

Avant l’IA générative, produire de fausses images de mineures nues exigeait du temps, des compétences techniques et un risque de détection élevé. Aujourd’hui, n’importe qui peut le faire en trente secondes. La barrière à l’entrée a été réduite à néant. Et aucune loi, aucune plateforme, aucun parent ne peut surveiller l’ensemble des outils d’IA générative disponibles sur le marché. La question n’est plus de savoir si votre enfant sera ciblé. La question est de savoir si les outils qui permettent ce ciblage seront réglementés avant que cela n’arrive.

Le premier signal d’alarme ignoré

En janvier 2026, Ashley St. Clair, la mère du treizième enfant d’Elon Musk, avait déjà porté plainte contre xAI. Grok l’avait représentée « dans des positions sexuelles, pratiquement nue », à de multiples reprises et sans son consentement. L’ironie est si épaisse qu’elle en devient suffocante : l’IA d’Elon Musk générait des images sexualisées de la mère de son propre enfant. Et même cela n’a pas suffi à déclencher une refonte sérieuse des garde-fous. Si la mère de l’enfant du patron n’est pas protégée, qui peut l’être.

Un pattern de négligence systémique

La plainte de St. Clair en janvier. Les révélations du CCDH sur les trois millions d’images. Les restrictions cosmétiques de mi-janvier. Et maintenant, en mars, trois adolescentes qui portent plainte. Le pattern est limpide : chaque scandale est suivi d’une mesure minimale, qui est suivie d’un nouveau scandale, qui est suivi d’une nouvelle mesure minimale. xAI ne résout pas le problème. xAI gère les retombées médiatiques du problème. Et entre deux cycles de communication de crise, des milliers d’images continuent d’être générées.

Pourquoi la Section 230 ne devrait pas s’appliquer ici

Le bouclier juridique habituel des entreprises technologiques américaines est la Section 230 du Communications Decency Act, qui les protège de toute responsabilité pour les contenus publiés par leurs utilisateurs. Mais ce texte a été écrit en 1996 pour protéger des hébergeurs passifs — des plateformes qui affichent ce que les utilisateurs publient. xAI n’affiche pas un contenu créé par l’utilisateur. xAI crée le contenu. Grok est le co-auteur de chaque image pédopornographique qu’il génère. La distinction entre hébergeur et producteur est la faille dans laquelle les avocates des trois adolescentes s’engouffrent — et elles ont raison.

Le précédent Napster, vingt-cinq ans plus tard

En 2001, Napster avait été condamné non pas parce qu’il hébergeait de la musique piratée, mais parce que son architecture même facilitait et encourageait la violation du droit d’auteur. L’argument contre xAI est structurellement identique : Grok n’a pas été conçu avec des garde-fous contre la pédopornographie parce que ces garde-fous auraient limité sa fonctionnalité — et donc son attrait commercial. L’architecture de l’outil facilite et encourage l’abus. Ce n’est pas un détournement de l’outil. C’est l’outil qui fonctionne exactement comme il a été conçu.

Le AI Act comme arme de régulation massive

L’Union européenne dispose, avec le AI Act entré en application progressive depuis 2024, d’un arsenal juridique que les États-Unis n’ont pas encore. Les systèmes d’IA qui permettent la génération d’images de mineurs dans des contextes sexuels tombent de facto dans la catégorie des risques inacceptables — la catégorie la plus sévère, celle qui entraîne une interdiction pure et simple. Si xAI opère en Europe sans les protections adéquates, les amendes peuvent atteindre 35 millions d’euros ou 7% du chiffre d’affaires mondial. Pour une entreprise valorisée à plus de 50 milliards de dollars, le calcul devrait être simple.

La France en première ligne

La CNIL et l’Arcom ont déjà signalé leur attention particulière aux contenus générés par IA impliquant des mineurs. La loi SREN de 2024 a renforcé les obligations de vérification d’âge et de retrait des contenus pédopornographiques en ligne. Et la convention de Budapest sur la cybercriminalité, ratifiée par la France, couvre explicitement les contenus générés par ordinateur représentant des mineurs. Le filet juridique existe. Il manque la volonté politique de le lancer.

La liberté d’expression a des limites qui s’appellent des enfants

Il existe une raison pour laquelle aucune démocratie au monde ne protège la pédopornographie sous le parapluie de la liberté d’expression. La Cour suprême des États-Unis l’a établi en 1982 dans New York v. Ferber : la protection des enfants prime sur le Premier Amendement. Ce n’est pas un débat ouvert. Ce n’est pas une zone grise. C’est un principe juridique absolu dans toutes les démocraties libérales. Quand Elon Musk invoque la liberté d’expression pour défendre un outil qui génère des images d’enfants nus, il se place en dehors du consensus démocratique le plus fondamental de l’Occident.

Le libertarianisme technologique a trouvé sa limite morale

Musk incarne une philosophie — le libertarianisme technologique — selon laquelle toute régulation est une entrave à l’innovation et toute restriction une atteinte à la liberté. Cette philosophie a produit des avancées extraordinaires dans le domaine spatial, dans les véhicules électriques, dans la connectivité satellite. Mais elle vient de se fracasser contre un mur que même ses défenseurs les plus acharnés ne peuvent ignorer : quand votre IA produit des images d’exploitation sexuelle d’enfants, la dérégulation n’est plus une position philosophique. C’est de la complicité.

Nous sommes tous responsables de ce que nous acceptons

Chaque utilisateur de X qui continue d’utiliser la plateforme finance indirectement xAI. Chaque abonné premium de Grok finance directement le développement d’un outil dont les garde-fous contre la pédopornographie ont été jugés insuffisants par des chercheurs indépendants, par des tribunaux, et par les victimes elles-mêmes. La neutralité n’existe pas. Utiliser X après ce scandale sans exiger de changements, c’est signaler que la pédopornographie générée par IA est un prix acceptable à payer pour avoir accès à son fil d’actualité.

Et pourtant, quelque chose est en train de changer

Cette plainte collective est différente. Elle n’est pas portée par une célébrité ou une figure médiatique. Elle est portée par trois adolescentes ordinaires du Tennessee. Par leurs parents. Par des familles qui n’ont rien demandé à personne et qui se retrouvent à combattre l’une des entreprises les plus puissantes du monde parce qu’un algorithme a volé l’image de leurs filles pour la transformer en matériel d’exploitation. Et elles ont choisi de ne pas se taire. Et pourtant, dans un pays où les géants technologiques semblent intouchables, ce courage pourrait être le début d’un basculement.

Quand l’IA croise l’exploitation des enfants, il n’y a pas de compromis

Il y a des débats légitimes sur la régulation de l’IA. Sur les droits d’auteur. Sur les deepfakes politiques. Sur l’impact sur l’emploi. Ce sont des questions complexes qui méritent des réponses nuancées. La production d’images pédopornographiques par IA n’en fait pas partie. Il n’y a pas de « pour » et de « contre ». Il n’y a pas de balance à trouver entre innovation et protection des enfants. Il n’y a pas de compromis acceptable. Il y a une ligne rouge, et xAI l’a franchie. La seule question est : qui va les forcer à reculer.

L’IA n’est pas le problème — les choix humains le sont

Grok n’a pas décidé seul de ne pas implémenter de garde-fous contre la génération d’images de mineurs. Des ingénieurs humains ont écrit le code. Des managers humains ont approuvé le lancement. Des dirigeants humains ont choisi de privilégier la rapidité sur la sécurité. Et un propriétaire humain — Elon Musk — a créé une culture d’entreprise où la dérégulation est une vertu et la prudence un signe de faiblesse. L’intelligence artificielle n’a aucune morale. Ce sont les humains qui la programment qui en ont une — ou pas.

Pas juste des dommages et intérêts — un changement de paradigme

Les plaignantes réclament des dommages et intérêts. Mais elles demandent surtout à ce que xAI soit empêchée de permettre ce type de montages. C’est une injonction qui va bien au-delà de la réparation financière. C’est une demande de transformation structurelle. Elles ne veulent pas de l’argent de Musk. Elles veulent que plus aucune adolescente ne vive ce qu’elles ont vécu. Elles veulent que l’outil qui les a détruites soit modifié pour que cela ne puisse plus arriver à personne.

Le courage de trois gamines face à la machine

Trois adolescentes du Tennessee contre xAI, valorisée à plus de 50 milliards de dollars. Trois familles ordinaires contre le cabinet d’avocats le plus cher de la Silicon Valley. Trois voix tremblantes contre la puissance de feu médiatique d’Elon Musk et de ses 200 millions de followers sur X. Et pourtant, ce sont elles qui ont raison. Et pourtant, c’est leur courage qui fera jurisprudence. Et pourtant, c’est leur douleur qui forcera peut-être — enfin — l’industrie de l’IA à traiter la protection des enfants comme une obligation, pas comme une option.

Un jour, quand les historiens de la technologie se pencheront sur la période 2024-2026, ils identifieront le moment exact où l’industrie de l’IA a été forcée de choisir entre le profit illimité et la protection des plus vulnérables. Ce moment, c’est maintenant. Et il porte le visage de trois adolescentes du Tennessee que personne ne connaît — mais que personne ne devrait oublier.

Signé Jacques PJ Provost