Des groupes nationalistes, racistes, sexistes se saisissent des outils d’intelligence artificielle pour propager à bas coût ses idées sur le web. Cette tendance, qui ne semble pas prête de s’arrêter, est remarquée par les médias indés internationaux.
Qui sont ces jeunes influenceuses qui, le même jour, à la même heure, se sont postées en portant des uniformes qui ressemblaient à ceux des SS nazis ? Dans son podcast hebdomadaire, *Expo* part de ce mystère pour décrypter l’usage des contenus générés par intelligence artificielle pour promouvoir des idées nationalistes.
« L’IA peut être un outil utile, un divertissement amusant ou, pour certains, même un interlocuteur. Mais entre les mains de l’extrême droite, elle est également devenue un outil de propagande important », résume le magazine suédois spécialisé dans l’observation de ce champ politique.
L’IA pour « amplifier les divisions sociales »
Le journal britannique *The Guardian* a également remarqué cette tendance, plutôt récente selon lui : « Selon les experts, les élections parlementaires européennes de cette année ont servi de tremplin au lancement d’une campagne électorale générée par l’IA par l’extrême droite européenne, qui n’a cessé de se développer depuis. »
Cette « vague de contenus de droite générés par l’IA sur les réseaux sociaux » est spécifique à ce camp politique, qui ne s’embarrasse pas ni des considérations éthiques liées à l’usage de l’IA, ni de dépeindre la réalité. Pour les nationalistes en France, en Allemagne, au Royaume-Uni comme en Italie, l’IA sert à modeler une réalité fantasmée, à décrédibiliser des adversaires, ou simplement à créer du contenu facilement sans avoir besoin de compétences préalables.
Après les élections européennes de 2024, « le rapport postélectoral de la Commission européenne a corroboré cette tendance, avertissant que les acteurs politiques avaient utilisé ce type de contenu pour “diffuser des discours trompeurs et amplifier les divisions sociales” », complète *EUobserver*. Et les conséquences sont toujours là, écrit le média européen : « 37 députés européens actuellement en fonction ont été élus sous la bannière de partis reconnus pour avoir utilisé des contenus générés ou manipulés par l’IA pendant la campagne : 29 issus du Rassemblement national, huit de la Ligue [de Salvini, en Italie] et un de Reconquête. »
Grok antisémite
La professeure d’histoire Michelle Lynn Kahn, de l’Université du Richmond (États-Unis), voit en cette usage récent le résultat d’une longue histoire : « Des décennies avant l’intelligence artificielle, Telegram et les livestreams du nationaliste blanc Nick Fuentes, les extrémistes d’extrême droite ont adopté les débuts de l’informatique domestique et d’internet. Ces nouvelles technologies leur ont offert un bastion de liberté d’expression et une plateforme mondiale. Ils pouvaient partager leur propagande, répandre la haine, inciter à la violence et gagner des adeptes internationaux comme jamais auparavant. »
Mais cela ne se limite pas aujourd’hui à la création de « chat bots » d’Hitler sur d’obscurs réseaux sociaux d’extrême droite, ou à des partages d’images racistes sur des comptes personnels. Certains modèles eux-mêmes sont teintés par l’extrême droite, note l’historienne : « Grok, le chatbot sur X d’Elon Musk, s’est récemment qualifié de “MechaHitler”, a tenu des propos antisémites haineux et a nié l’Holocauste. »
Ce même Grok a servi récemment à re-victimiser des personnes, notamment des enfants, effacés des « Epstein files », remarque *Bellingcat*. Le média d’enquête en sources ouvertes a dénombré au moins deux dizaines de tweets demandant explicitement à Grok de désanonymiser « notamment des photos montrant les corps visibles d’enfants ou de jeunes femmes, dont les visages étaient recouverts de cases noires ».
Ce n’est pas un phénomène isolé. À la fin de l’année dernière, « une analyse réalisée par le Center for Countering Digital Hate a révélé que Grok avait généré publiquement environ trois millions d’images à caractère sexuel, dont 23 000 représentant des enfants, en seulement 11 jours ». Que ce soit pour perpétrer des violences en ligne contre les femmes et les enfants ou pour partager au plus grand nombre une propagande raciste et mensongère, les modèles d’IA sont des outils de rêve pour l’extrême droite et les masculinistes.