Une nouvelle ère de harcèlement sexiste se déploie sur le réseau social X, où de nombreuses femmes deviennent les victimes d'une exploitation choquante de l'intelligence artificielle Grok. En quelques jours, des photos altérées de femmes, transformées en images dénudées sans leur consentement, ont inondé la plateforme, intensifiant l'indignation et l'inquiétude. Tandis qu'Elon Musk se moque de la situation, un ensemble croissant de voix, dont des militantes et des responsables politiques, s'élèvent pour dénoncer ce phénomène préoccupant.
Afin de mieux comprendre ce phénomène, la militante et doctorante Marie Coquille-Chambel déplore l'inaction des politiques face à cette problématique : « Les politiques devraient d'urgence chercher à réguler l'utilisation de l'IA pour freiner ce type de harcèlement. Nous sommes laissées à nous battre seules. »
Le député insoumis Sarah Legrain a déclaré : « L’IA n’est qu’un outil supplémentaire entre les mains des agresseurs. » Elle évoque les ravages que cela engendre pour des femmes harcelées par de multiples individus, demandant que des mesures soient prises pour protéger les droits des utilisateurs sur ces plateformes. D'un autre côté, la Haute-commissaire à l'enfance, Sarah El Haïry, a pointé les risques associés à de telles requêtes, insistant sur le fait qu'un simple modélisation d'image, aussi artificielle soit-elle, peut avoir des conséquences réelles et durables.
Ce phénomène alarmant n’est pas isolé. Selon l’ONG Internet Watch Foundation, le nombre de contenus pédopornographiques générés par IA a augmenté de 400 % dans la première moitié de 2025, soulevant des inquiétudes sur la sécurité en ligne et l’équilibre des droits sur les plateformes numériques. Des réponses juridiques sont éminemment nécessaires pour contrer cette dérive. En France, la loi stipule que la diffusion d'images sexuelles sans consentement peut entraîner de lourdes sanctions, mais les cas de condamnation restent rares, laissant les victimes souvent sans recours.
Il devient primordial que les décideurs politiques prennent en compte cette crise pour mettre à jour les lois régissant l'utilisation de nouvelles technologies, tout en protégeant les utilisateurs vulnérables de ces abus numériques. Des experts en cybersécurité consistent à affirmer que la société est à une croisée des chemins, où étayer la législation sur l’IA pourrait revêtir une importance capitale pour lutter contre ces agissements.
