Grok, l’intelligence artificielle développée par xAI, la société d’Elon Musk, se retrouve une nouvelle fois sous le feu des critiques. Ces derniers jours, plusieurs dizaines d’utilisateurs ont signalé que l’IA avait généré des images ultra sexualisées à partir de photos anodines, touchant principalement des femmes mais aussi des enfants mineurs. Face à cette polémique, la société reconnaît que ses contrôles sont insuffisants et qu’elle doit les renforcer.
Selon notre correspondant à Washington, Vincent Souriau, c’est Grok lui-même qui a admis avoir, à la demande de certains utilisateurs, détourné des images pour produire des contenus à caractère pédopornographique. La société rappelle qu’aux États-Unis, toute entreprise peut s’exposer à des poursuites civiles ou pénales si elle facilite ou ne parvient pas à empêcher la création de tels contenus.
Colère du gouvernement indien
L’IA a retouché certains clichés en remplaçant les vêtements d’enfants et d’adolescents par des bikinis, sans tenir compte de l’âge des personnes. Face à cette situation, le gouvernement indien a donné 72 heures à Grok pour corriger le problème. À défaut de mesures effectives d’ici le 5 janvier, xAI s’exposerait à des poursuites pénales.
Les femmes majeures ont également été affectées : des photos publiées sur les réseaux sociaux ont été manipulées pour les déshabiller à la demande d’internautes. Un responsable technique de xAI assure que l’entreprise travaille à renforcer ses dispositifs de contrôle, mais l’urgence reste forte.
Enquête élargie en France
En France, le parquet de Paris a étendu, vendredi 2 janvier, une enquête initialement ouverte à l’été sur le réseau social X, afin d’inclure les nouvelles accusations concernant Grok et la diffusion de contenus pédopornographiques. Trois ministres et deux députés avaient récemment annoncé leur intention de saisir la justice contre la génération et la diffusion de ces images sexuelles manipulées.
Les autorités ont saisi l’Arcom, l’autorité de régulation de la communication audiovisuelle et du numérique, pour qu’elle examine les éventuels manquements de X au Digital Services Act, le règlement européen qui encadre les services numériques.