Le réseau social X, dirigé par Elon Musk, a récemment annoncé des mesures visant à interdire son outil d'intelligence artificielle (IA), Grok, de produire des images dénudées de personnes réelles. Dans un communiqué, X a déclaré qu'il avait mis en place des dispositifs techniques pour prévenir la génération de contenu illégal, notamment d'images où des individus apparaissent dans des tenues suggestives, comme des bikinis.
Bien que ces restrictions concernent l'ensemble des utilisateurs, y compris les abonnés payants, l'entreprise a précisé que le blocage géographique ne s'appliquerait qu'aux juridictions où une telle génération est prohibée. Cela soulève des questions sur l'efficacité de ces mesures, soulignées par la Commission européenne, qui s'est dite prête à intervenir si les nouvelles règles ne garantissent pas une protection suffisante des citoyens.
Thomas Regnier, porte-parole de l'UE, a déclaré : "Nous examinerons ces changements de près pour nous assurer qu'ils sont efficaces." De son côté, le Premier ministre britannique, Keir Starmer, a également exprimé des réserves, insistant sur le fait que X doit prouver sa conformité avec la législation.
X a exprimé son intention de lutter contre les contenus inappropriés, déclarant avoir déjà pris des mesures pour supprimer les images illégales telles que celles à caractère pédopornographique.
Malgré ces annonces, X est sous le feu des critiques, particulièrement après qu'une étude de l'ONG AI Forensics ait révélé que plus de 50 % des images générées par Grok mettaient en scène des individus légèrement vêtus. Ces résultats ont contribué à la suspension temporaire de Grok en Indonésie et en Malaisie, des pays l'ayant jugé dangereux.
La situation est également sous le radar de la justice californienne, où le procureur général Rob Bonta a lancé une enquête pour déterminer si xAI a enfreint des lois concernant la création d'images intimes et sans consentement. Bonta a déclaré : "Nous avons une tolérance zéro pour la diffusion de contenus illégaux par l'IA."
Elon Musk, connu pour son attachement à la liberté d'expression, a, lui, renvoyé la responsabilité aux utilisateurs, affirmant que ceux créant du contenu illégal par Grok subiraient les mêmes conséquences que pour tout autre contenu illicite sur la plateforme.
Alors que les enquêtes se poursuivent dans plusieurs pays, dont la France et l'Inde, la pression sur X pourrait croître si des mesures concrètes ne sont pas mises en place rapidement. La protection de l'image et de la dignité des utilisateurs sur internet est désormais au cœur des préoccupations, et X devra prouver qu'il prend la question au sérieux.
