Communiqué de l’Arcom relatif aux contenus intimes non consentis générés par Grok sur la plateforme X

Face aux incidents rapportés depuis plusieurs jours faisant état de la diffusion publique, sur la plateforme en ligne X, de contenus illicites générés par la fonctionnalité Grok proposée par le service, l’Arcom invite les victimes de diffusion d’images à caractère sexuel non consenties d’une part, et les témoins de diffusion d’images pédopornographiques d’autre part, générées par la fonctionnalité Grok de X à se saisir des droits garantis par le règlement européen sur les services numériques (dit « RSN » ou DSA pour Digital Services Act).

1 - Il est essentiel que les utilisateurs signalent les contenus illicites à la plateforme. En effet, le signalement d’un contenu illicite engage automatiquement la responsabilité de la plateforme si elle n’agit pas rapidement pour en faire cesser la diffusion. Le RSN impose à X, comme à toute plateforme en ligne, de permettre à ses utilisateurs de lui signaler facilement des contenus illicites. À l’issue de l’examen du signalement, X doit tenir l’utilisateur informé de sa décision et lui permettre de demander un deuxième examen de celle-ci. Ce réexamen doit être opéré sous le contrôle d’une personne humaine.

Au titre du RSN, le rôle de l’Arcom n’est pas de faire cesser la diffusion de contenus illicites sur les réseaux.  Les victimes peuvent à cette fin solliciter l’appui de l’association Point de Contact, signaleur de confiance désigné par l’Arcom. Elles peuvent également s’adresser aux autorités judiciaires pour faire valoir leurs droits.

2- L’Arcom invite également les personnes ayant été victimes de la diffusion, sur X, d’une image à caractère sexuel d’elles-mêmes, non consentie et générée par Grok, ainsi que les personnes témoins de la diffusion sur X d’une image pédopornographique générée par Grok, à la saisir lorsqu’elles n’ont pas réussi à faire cesser la diffusion après avoir eu recours aux étapes de signalement décrites ci-dessus, ou lorsqu’elles constatent que les mécanismes prévus par le RSN ne sont pas correctement mis en œuvre par la plateforme.

Les preuves et la description des faits peuvent être adressées à recueil-preuves-rsn@arcom.fr .

En tant que coordinateur des services numériques (CSN) chargé de veiller en France à la bonne application du RSN, le rôle de l’Arcom est en effet de réunir des preuves qui contribueraient à caractériser, le cas échéant, des manquements de X à ses obligations. Comme le prévoit l’article 53 du RSN, elle pourra alors les transmettre au CSN irlandais, compétent selon le principe européen du pays d’origine, pour faire respecter le RSN par X (conjointement avec la Commission européenne), qui a, d’ailleurs, invité ses 26 homologues à lui fournir de tels éléments.

Les faits en cause étant susceptibles de poursuite pénale, l’Arcom, qui agit en coordination avec le Parquet de Paris, est susceptible de communiquer à celui-ci les infractions dont elle aurait connaissance.

La diffusion de contenus illicites, y compris lorsque de tels contenus sont générés par IA, étant interdite, le recueil de preuves ouvert par l’Arcom ne constitue en aucun cas une incitation à en créer, fût-ce dans le but d’établir des éléments de preuve.

Consulter la politique de confidentialité de l’Arcom ici.