La Commission européenne a officiellement ouvert une enquête sur le réseau social X, mettant en lumière la diffusion de fausses images sexualisées générées par l'intelligence artificielle Grok. Cette action s'inscrit dans un cadre régulatoire visant à protéger les utilisateurs, en particulier les plus vulnérables, des contenus illégaux.
Ursula von der Leyen, présidente de la Commission, a déclaré : « L'Europe ne tolérera pas les comportements irresponsables des plateformes numériques. Notre mission est de garantir le consentement et la protection des enfants, et nous ne laisserons pas ces obligations à des entreprises technologiques ». Elle invite également à renforcer les mesures de protection des citoyens, que ce soit en ligne ou hors ligne.
Cette enquête se concentre sur la vérification de la conformité du réseau, auparavant connu sous le nom de Twitter, aux règles rigoureuses de l'Union européenne en matière de protection des utilisateurs. La Commission a décidé d'élargir une enquête préalable lancée en décembre dernier, toujours en rapport avec la législation sur les services numériques (DSA).
Des images troubles sous surveillance
Un aspect central de l'enquête concerne une fonctionnalité de Grok permettant la création d'images dénudées à partir de photos de femmes et de mineurs. La forte réaction du public face à la prolifération de ces contenus inappropriés a conduit à des actions judiciaires en France et au Royaume-Uni, ainsi qu'à des restrictions sur l'accès à X dans plusieurs États.
Le Center for Countering Digital Hate a récemment publié une étude alarmante, indiquant que Grok avait généré près de trois millions d'images sexualisées en seulement onze jours. À cette cadence, cela représente environ 190 images par minute. Une autre recherche de l'organisation AI Forensics révèle qu'une majorité de ces images mettaient en scène des femmes, souvent d'âge mineur.
Simultanément à cette nouvelle enquête, la Commission a intensifié son action en lien avec la précédente procédure, qui avait déjà conduit à une amende significative infligée à X.
Des risques de tension diplomatique
Cette enquête pourrait également susciter des tensions diplomatiques, notamment avec les États-Unis. Le réseau social est sous le radar de l'Union européenne depuis plusieurs semaines, après que Bruxelles a ordonné la conservation des documents relatifs à Grok. Des ramifications potentiellement négatives peuvent survenir, notamment des répercussions de la part de l'administration du président Trump, qui a précédemment accusé l'Europe de cibler les entreprises technologiques américaines. En résumé, l'Europe agit pour protéger les utilisateurs tout en naviguant dans un environnement international complexe.
