Jusqu’où peut aller la dérive de l’intelligence artificielle de X ? Alors que Grok génère des deepfakes explicites de personnalités célèbres comme Taylor Swift, la question de la modération et de la responsabilité des IA génératives se pose avec urgence. On connaît Elon Musk et sa tendance à être borderline dans ses déclarations ou choix. Ce n’est donc pas surprenant que Grok, l’intelligence artificielle d’X (feu Twitter), soit lui aussi très limite dans ses déclarations ou générations d’images. Contrairement à d’autres IA qui refusent bien souvent de reproduire de fausses images de personnalités connues, Grok n’a lui pas beaucoup de limites à ce propos. Une enquête de The Verge va plus loin encore, en dénonçant la création de deepfakes sexuels de la chanteuse américaine Taylor Swift. La modération intégrée à Grok serait visiblement en cause, et bien trop laxiste. Lors des premières requêtes, l’IA refuse en avançant des raisons de droits à l’image, mais en insistant et en modifiant quelque peu la requête, certains sont parvenus à obtenir des images et vidéos très douteuses. Certaines images obtenues auprès de Grok sont bluffantes de réalisme. © The Verge Le pire, c’est que ces images obtenues grâce à l’IA peuvent très rapidement être transformées en vidéo grâce à Grok Imagine. En sélectionnant un des quatre préréglages (Custom, Normal, Fun et Spicy), l’IA génère très rapidement une vidéo à partir de l’image. Ni xAI, ni Taylor Swift n’ont réagi à propos de cette affaire. La chanteuse américaine, elle, fait régulièrement l’objet de deepfakes créés par IA. S’ils n’étaient jusqu’ici pas très méchants, ceux créés par Grok pourraient réellement nuire à Taylor Swift. C’est dans ce contexte que de nouvelles réglementations américaines et européennes visent à encadrer sévèrement les IA génératives.