Berliner Abendpost - Grok : "Il faut industrialiser le retrait des contenus intimes", estime une association

En 2025, cette association historique spécialisée dans la lutte contre les contenus illicites et désignée "signaleur de confiance" par l'Arcom (le régulateur du numérique), a reçu plus de 100.000 signalements, nombre qui a triplé en un an, précise sa directrice Alejandra Mariscal dans un entretien à l'AFP.

Comment avez-vous perçu le tollé provoqué par Grok ?

On parle de Grok (outil d'intelligence artificielle du réseau social X qui permet d'éditer des images de personnes réelles, notamment de femmes et de mineurs, et de les dénuder, ndlr) mais on sait depuis longtemps qu'il y a de nombreuses applications qui permettent de déshabiller des femmes.

L'intelligence artificielle montre que désormais la diffusion non consentie de contenus intimes est quelque chose qui peut arriver malheureusement à tout le monde.

Dès qu'on met une photo de nous sur les réseaux sociaux, elle peut être détournée en ligne.

Combien de signalements avez-vous reçu en 2025?

En 2024, nous avions reçu 42.000 signalements, en 2025 on en a reçu un peu plus de 120.000, soit le triple.

A ce stade, on en a traité à peu près 80.000 et sur ces 80.000, 46.000 signalements étaient illicites, dont 35.000 environ relèvent de la pédocriminalité et l'autre grosse partie de la pornographie adulte accessible aux mineurs et de la diffusion non consentie de contenus intimes impliquant des adultes.

Sur les contenus traités, il y a à peu près 10% des contenus qui relèvent des grandes plateformes et le reste, donc 90 %, de plus petits forums moins connus et prisés des criminels.

Comment faire pour signaler?

Pour faire un signalement, il suffit d'aller sur notre site, remplir un formulaire, cocher quelle infraction on souhaite signaler.

Si la personne laisse son adresse mail, on lui dira si on a pu faire retirer le contenu et si ce contenu est vraiment illicite et si ce n'est pas le cas, on lui expliquera pourquoi.

Si le contenu est illégal, on va envoyer tout d'abord un signalement à Pharos (la plateforme gouvernementale de lutte contre les contenus illégaux, ndlr), on va attendre entre 3 et 6 heures puis on va faire la notification à l'hébergeur.

Les services numériques suppriment-ils les contenus signalés?

Tout dépend de l'infraction qu'on va signaler.

On est compétents pour tout ce qui est atteinte aux personnes, protection de l'enfance, protection de la dignité, de l'identité, lutte contre les violences sexuelles et et lutte contre les discours illicites (haine en ligne et terrorisme).

En matière de pédocriminalité, les plateformes et les hébergeurs, de manière générale, sont assez réactifs. Ils le sont en revanche moins lorsqu'il s'agit d'autres infractions, comme celles relatives à la haine en ligne, ou à la diffusion non consentie impliquant des adultes.

Sur ce dernier point, vous parlez d'angle mort ?

Pour nous, la lutte contre la diffusion non consentie de contenu intime, dont les femmes sont les premières victimes, est une priorité absolue.

Or Pharos est limité pour traiter ce type de contenus parce que ce ne sont pas des contenus manifestement illicites.

Aujourd'hui, la victime peut nous signaler un contenu et on va l'aider à le faire retirer. Mais si l'hébergeur n'est pas coopératif, le contenu va rester en ligne.

La victime va donc devoir déposer plainte et on sait très bien le temps que ça peut prendre. Le dispositif de protection n'est pas du tout adapté.

Certaines autorités ont commencé à se mobiliser, je pense à l'Arcom ou au parquet de Paris mais il faut une mobilisation générale, il est crucial de renforcer l'arsenal de lutte contre ce fléau.

Les États-Unis ont adopté une loi, "Take it down act", à ce sujet qui impose aux plateformes de retirer ces contenus dans un délai de 48 heures lorsqu’ils sont signalés par la victime ou l'association d'aide la représentant.

On aimerait en France que ces contenus, signalés par des signaleurs de confiance, soient temporairement bloqués en attendant la réponse de la justice. Il est essentiel d'industrialiser leur retrait.

F.Lang--BlnAP