États-Unis : une élection sous IA aborde l’utilisation croissante de l’intelligence artificielle (IA) générative dans la communication politique et l’influence, notamment aux États-Unis, en particulier dans le cadre de la campagne présidentielle. En se concentrant sur l’impact de cette technologie dans la manipulation d’informations et la création de fausses vidéos ou images, ce nouveau numéro de la fabrique du mensonge montre comment elle devient une arme puissante dans la guerre de l’information.
États-Unis : une élection sous IA : contexte et premières utilisations de l’IA générative
Paul Carpenter, consultant en IA, ouvre ce passionnant travail en racontant sa fascination pour l’illusion et la magie, qu’il relie à la capacité de l’IA de manipuler la réalité. Récemment, un message vidéo trafiqué, commandé par un consultant rival de Joe Biden, a illustré l’usage de l’IA générative dans la politique. Ce message marque l’une des premières utilisations publiques de l’IA pour influencer les élections présidentielles américaines. Désormais, il est possible de manipuler l’image et la voix d’une personne pour lui faire dire ce que l’on veut, avec un réalisme troublant.
Accessibilité et danger de l’IA générative
L’IA générative est aujourd’hui accessible à tous, permettant de produire des contenus nombreux et variés à moindre coût. Ce nouvel outil pose la question de savoir si la population pourra encore discerner le vrai du faux, notamment dans le contexte des élections présidentielles. Aux États-Unis, des partisans de Trump utilisent déjà ce type de technologies pour propager de fausses informations, notamment en ciblant les démocrates.
Utilisation de l’IA générative par les partisans de Trump
Depuis plusieurs années, certains partisans de Trump utilisent des images manipulées pour discréditer les adversaires des républicains. Avec la candidature de Kamala Harris, ils reprennent ces méthodes, la dépeignant sous divers aspects scandaleux (appartenance à un groupe pédophile, origine étrangère, etc.) pour influencer les électeurs. Ces messages, même s’ils sont satiriques, ancrent les croyances des conservateurs en manipulant l’information. Ils sont souvent ridicules mais renforcent les préjugés et valeurs de la droite trumpiste.
Quel impact des fausses informations sur l’opinion publique ?
Les montages vidéo et images générés par l’IA, même lorsqu’ils sont démasqués, continuent d’exercer une influence. Cette avalanche de fausses informations peut être si bien conçue qu’elle apparaît crédible. Certains faux contenus, par exemple des articles prétendant exposer les positions de Kamala Harris, semblent rédigés par des journalistes mais sont en réalité produits par l’IA. Ces informations persistantes, bien que fausses, nourrissent des narratifs antikamalistes et créent une perception déformée de la réalité.
Synthèse : la montée de l’IA générative dans le paysage politique américain soulève des questions cruciales sur la véracité de l’information et la stabilité de la démocratie. En manipulant l’opinion publique avec des contenus fabriqués, elle favorise la polarisation et pourrait potentiellement fragiliser davantage les valeurs démocratiques américaines.
La suite du documentaire explore l’impact de l’intelligence artificielle (IA) générative dans les campagnes électorales américaines, en se concentrant sur son rôle dans la création de fausses informations et son potentiel de manipulation. En s’appuyant sur le cas de la campagne de Donald Trump, il montre comment l’IA devient un outil stratégique pour influencer les opinions et semer la peur.
Observations de Mackenzie Sadji et rôle des soutiens de Trump
La journaliste Mackenzie Sadji, travaillant pour Newsguard, suit la prolifération de contenus créés par l’IA durant les périodes électorales. À l’annonce de la candidature de Kamala Harris, de nombreux faux sites pro-Trump sont apparus, profitant des capacités de l’IA pour produire rapidement et à faible coût des contenus trompeurs. En 2024, Sadji a déjà recensé plus de mille sites de ce genre, dont certains créés depuis l’étranger, notamment la Russie, où des sites en anglais publient de la désinformation favorable à Trump et anti-Ukraine.
Rôle des opérations russes et influence de John Marc Dougan
La Russie joue un rôle actif dans la diffusion de désinformation pro-Trump, encouragée par la position de ce dernier contre le soutien américain à l’Ukraine. Derrière cette opération se cache John Marc Dougan, un ancien policier américain recherché par le FBI, aujourd’hui réfugié en Russie et proche de responsables du Kremlin. Depuis la fin 2023, ses contenus auraient atteint 37,7 millions de personnes, renforçant la base pro-Trump et sa « bataille finale ».
Discours de vengeance de Trump et réaction de l’opposition
Lors d’un discours au National Harbor, Trump se présente comme le défenseur des Américains face à un système corrompu, promettant vengeance pour l’élection de 2020. En réaction, Joe Biden annonce sa candidature à la réélection, ce qui déclenche une offensive immédiate des républicains. Ils publient une vidéo alarmiste montrant les États-Unis en ruine sous un second mandat de Biden. Cette vidéo, marquée « image générée par IA », cherche à semer la peur auprès de l’électorat religieux et conservateur en prédisant un futur apocalyptique.
L’IA générative, une arme de manipulation à grande échelle
L’IA générative permet de créer des contenus visuels, textuels ou audio imitant le style humain, grâce à des réseaux neuronaux qui s’inspirent de milliers d’exemples pour fabriquer de nouvelles images ou phrases. Des outils comme ChatGPT ou Midjourney démocratisent cette technologie, désormais utilisée dans divers domaines. Cependant, sa capacité à produire des fausses informations en quelques minutes, comme des images d’agents électoraux jetant des bulletins de vote, la rend dangereuse et peu coûteuse, avec des conséquences potentiellement néfastes sur la démocratie.
Synthèse : États-Unis : une élection sous IA met en garde contre l’usage croissant de l’IA générative pour influencer les opinions politiques et diffuser de la désinformation à grande échelle. En facilitant la création de contenus trompeurs accessibles à tous, elle pourrait compromettre les valeurs démocratiques, avec des utilisateurs peu scrupuleux prêts à exploiter ce pouvoir pour manipuler l’opinion publique.
Le documentaire examine ensuite l’usage croissant de l’intelligence artificielle générative pour la création de contenus trompeurs et manipulateurs dans le cadre de la campagne présidentielle américaine de 2024. Il met en avant des acteurs, tels que le magicien Paul Carpenter, qui, malgré leur profil non professionnel, exploitent des outils d’IA pour manipuler les voix et les images de personnalités publiques.
Paul Carpenter et l’utilisation des outils IA
Paul Carpenter, un magicien passionné de théories du complot, se met à utiliser des outils d’IA pour imiter des personnalités comme Joe Biden. Son processus est simple et peu coûteux, utilisant la plateforme Eleven Labs pour créer des voix artificielles crédibles. Carpenter se défend en rejetant la responsabilité de l’utilisation finale de ses créations sur ses clients. Pourtant, Eleven Labs a tenté de limiter les deepfakes politiques en interdisant la création de voix de personnalités comme Biden ou Harris. Cependant, en dehors des États-Unis, les restrictions sont faibles, permettant la création de voix de nombreux leaders politiques européens.
L’insuffisance des régulations IA
Le Centre de lutte contre la haine numérique, représenté par Imed, a testé ces interdictions, démontrant que la création de deepfakes politiques restait possible en Europe. Malgré les engagements de régulation, Eleven Labs et d’autres plateformes n’ont pas pris de mesures concrètes. L’administration Biden tente de contrôler l’usage de l’IA, mais les mesures paraissent faibles, surtout face au risque d’exploitation par des acteurs étatiques.
Propagande et désinformation démocrates et républicaines
La campagne démocrate répond de manière limitée aux attaques numériques de l’armée pro-Trump, qui diffuse massivement des contenus anti-Biden. Les démocrates, tout en restant minoritaires dans cette pratique, ont parfois diffusé des images trafiquées, comme celles de Trump avec Jeffrey Epstein. Cependant, cette désinformation démocrate est moins organisée et moins systématique comparée aux contenus pro-Trump.
Influenceurs conservateurs et la création de contenus satiriques
La fabrique du mensonge expose ensuite un groupe d’influenceurs conservateurs qui utilise des mèmes et de la satire pour ridiculiser Joe Biden et les démocrates. Ces contenus sont conçus pour toucher l’électorat jeune, avec des vidéos partagées sur TikTok et X (anciennement Twitter). Grâce à leur humour, ils parviennent à diffuser leurs messages à grande échelle en se défendant par la satire. Ces vidéos ont convaincu de nombreux Américains que Biden, âgé de 82 ans, est inapte à diriger le pays en raison de sa santé et de ses gaffes fréquentes.
Brandon Dilly et l’équipe des mèmes pro-Trump
Brandon Dilly, un podcaster conservateur et fervent partisan de Trump, est le chef d’orchestre de cette campagne de mèmes. Il joue un rôle central dans l’organisation de cette offensive numérique visant à décrédibiliser Biden et les démocrates, utilisant des plateformes pour capter l’attention des jeunes et renforcer le soutien à Trump.
Synthèse : l’IA générative devient un levier puissant dans la campagne présidentielle américaine, permettant de manipuler facilement et à faible coût des contenus vidéo et audio pour influencer les électeurs. Le manque de régulation, l’accès généralisé à ces outils et les tactiques de désinformation de certains groupes pro-Trump posent de sérieux défis pour l’intégrité des élections américaines.
L’usine à mèmes de Trump et le lien avec son équipe de campagne
Trump s’est entouré de créateurs de mèmes et d’influenceurs numériques, qui, bien qu’indépendants de l’organisation officielle, jouent un rôle clé dans la diffusion de messages anti-démocrates. La « D Team » est une équipe semi-professionnelle de créateurs de contenus visuels anti-Biden, qui travaillent sous l’impulsion d’influenceurs tels que Brandon Dilly et Brian, alias « C3P Meme« . Ces derniers reconnaissent avoir été sollicités pour renforcer leurs créations dans le but de ridiculiser davantage Biden, ce qui montre une coordination non-officielle entre l’équipe Trump et ce réseau de propagande numérique. Leurs productions, reprises par Trump lors de ses meetings et sur ses réseaux sociaux, font partie d’une stratégie visant à délocaliser l’impact de sa campagne hors des circuits républicains traditionnels, marquant ainsi l’originalité de sa tactique.
La stratégie numérique et communautaire de Victor Mor
Victor Mor, un ancien Marine et partisan de Trump, combine ses activités conservatrices avec une campagne de désinformation. Propriétaire d’une clinique et de Patriot TV, une chaîne conservatrice en ligne, il cherche à former une « armée numérique » dédiée à la cause de Trump. Il offre également des cours de maniement des armes à des enfants, cultivant une vision conservatrice extrême. Dans le cadre de la campagne de Trump, il déploie ses contenus de manière ciblée dans les « swing states » — des États clés pour l’élection — afin d’influencer les électeurs indécis en utilisant des techniques publicitaires sur Facebook. Il explique sa stratégie dans sa « cellule de crise », une pièce où les États-clés sont analysés selon leur niveau de « fraude supposée », accentuant ainsi les inquiétudes autour de la légitimité électorale.
La portée du mouvement pro-Trump et son discours anti-système
Le documentaire conclut en soulignant comment Trump, depuis sa première élection, a construit un discours anti-système qui continue de fédérer différents groupes en colère contre les institutions. Ce mouvement, qui gagne en intensité depuis sa défaite de 2020, est alimenté par des créateurs comme ceux de la « D Team » et des plateformes comme Patriot TV, qui diffusent des messages anti-démocrates. En 2024, Trump revient sur le devant de la scène, suscitant un soutien renforcé par son rôle de figure de proue pour les conservateurs et les électeurs désillusionnés.
Synthèse : l’IA, les médias sociaux et les plateformes de streaming servent de leviers puissants pour la campagne de Trump, qui reste axée sur une rhétorique populiste et un engagement anti-système. La force de sa stratégie réside dans la capacité à mobiliser une large gamme d’influenceurs et de plateformes indépendantes, adaptant ses messages pour toucher des électeurs clés dans des États décisifs.
L’après-élection et la montée des milices pro-Trump
Après la défaite de Donald Trump en 2020, des milliers de ses partisans défilent dans les rues, convaincus par des messages en ligne affirmant que l’élection a été truquée. Ce mouvement attire l’attention sur des milices paramilitaires et complotistes, longtemps marginalisées, qui bénéficient d’une visibilité nouvelle. Des groupes comme les Proud Boys et les Oath Keepers (ou « gardiens du serment »), composés de vétérans et d’anciens policiers, émergent au grand jour, diffusant leur idéologie anti-gouvernementale. Ils cultivent un discours où l’État fédéral est perçu comme un oppresseur marxiste, stimulant un appel à l’insurrection pour défendre ce qu’ils estiment être leurs droits fondamentaux.
Le témoignage de Dakota Adams, fils de Stewart Rhodes
Le fils de Stewart Rhodes, chef des Oath Keepers, décrit une enfance marquée par l’extrémisme et l’entraînement aux armes. Dakota Adams évoque un isolement social et familial, mêlé à une éducation fondée sur les théories complotistes de l’extrême droite. Immergé dans une vision apocalyptique et paranoïaque, il confie avoir été convaincu de la proximité de la fin du monde et entièrement dévoué à cette idéologie.
En grandissant, Dakota s’est détaché de ce milieu extrémiste et milite désormais pour dénoncer les méthodes de la milice. Il explique que son père, convaincu de l’importance de sa mission, voyait dans chaque situation une menace de l’État fédéral et exerçait un contrôle sévère sur sa famille. Stewart Rhodes considérait Trump comme le dernier espoir de la République et incitait ses proches à propager ce message, renforçant ainsi l’influence de ses idéaux.
Le trumpisme a non seulement permis à des groupes paramilitaires de s’affirmer publiquement, mais a également contribué à diffuser une idéologie de défiance vis-à-vis des institutions. L’exemple de Dakota Adams illustre l’impact profond de cette radicalisation sur les individus et leurs familles, souvent pris dans une spirale de peur et de propagande.
L’influence de l’Internet et la désillusion de Dakota Adams
Pour alimenter la communauté des Oath Keepers, la mère de Dakota crée de faux comptes sur les réseaux sociaux pour faire gonfler l’engagement des partisans en simulant des conversations fictives. C’est cependant par Internet que Dakota découvre des points de vue divergents, qui l’aident peu à peu à sortir de l’idéologie conspirationniste. En interagissant avec des personnes aux opinions différentes, il commence à remettre en question ses croyances inculquées depuis l’enfance. Désormais, bien qu’il ait coupé les ponts avec son père, il reste attentif à la montée des mouvements anti-système aux États-Unis.
L’adhésion d’un partisan, Michael, et ses convictions de fraude électorale
Michael, un mécanicien de Floride, partage la conviction que l’élection de 2020 a été « volée » et se déclare fervent partisan de Trump. Ancien détenu ayant côtoyé des suprémacistes blancs, il alimente ses suspicions de fraude en se nourrissant de théories diffusées en ligne. Il est persuadé que des vidéos montrent des actes de fraude dans des bureaux de vote en Géorgie, où des ballots auraient prétendument été dissimulés pour favoriser Biden. Bien que ces théories soient rapidement démenties par des vérifications officielles, il refuse de croire en la légitimité de la victoire de Biden, considérant cette dernière incompatible avec les valeurs américaines qu’il défend.
La marche vers le Capitole
Sous l’influence des discours anti-système et complotistes, une part de l’Amérique trumpiste est prête à remettre en question les fondements de la démocratie. Le 6 janvier 2021, alors que le Congrès est sur le point de certifier la victoire de Joe Biden, une foule de partisans se rassemble à Washington en réponse à l’appel de Trump, qui continue à contester la légitimité de l’élection. Parmi eux se trouvent Michael et de nombreux autres manifestants venus de tout le pays. Lorsqu’ils entendent l’appel de Trump à marcher vers le Capitole, Michael et ses compagnons s’exécutent. Ce jour-là, il franchit les portes du Capitole, soutenu par une foule qui s’engouffre dans le bâtiment, symbolisant l’attaque de la démocratie américaine.
Synthèse : ce passage montre comment Internet, bien que vecteur de radicalisation et d’adhésion aux théories du complot, peut paradoxalement devenir un outil de libération et de prise de recul pour certains individus. Les actions de Michael et de milliers de manifestants illustrent les conséquences d’années de discours anti-système, qui ont préparé le terrain pour l’assaut du Capitole et une remise en question sans précédent du système démocratique des États-Unis.
L’assaut et la traque de Nancy Pelosi
Lors de l’assaut du 6 janvier, la violence augmente à l’intérieur du Capitole. Parmi les assaillants, certains sont animés par une haine particulière envers Nancy Pelosi, figure démocrate symbolisant la résistance au trumpisme. La sécurité intervient rapidement pour l’exfiltrer, mais la menace devient tangible pour elle et ses proches. Ce jour marque une escalade dans les tensions politiques, incitant de nombreux observateurs à se demander si cet événement signe la fin de Trump et de son influence politique, ou bien le début d’une radicalisation encore plus profonde. Depuis cet événement, plus de 1 350 personnes ont été inculpées, dont plusieurs condamnées à des peines de prison. Pourtant, le mythe de la fraude électorale persiste.
L’impact des médias complotistes
Michael continue de croire en la fraude électorale, malgré les enquêtes officielles et les processus de vérification. Son opinion est renforcée par les contenus qu’il consulte régulièrement sur les réseaux sociaux, où il suit des figures influentes qui soutiennent des théories complotistes. Il explique être critique face à ce qu’il lit, affirmant vouloir vérifier les informations, mais il reste en réalité enfermé dans une bulle médiatique polarisée. Cette influence médiatique maintient le sentiment de trahison parmi certains partisans de Trump, créant une division profonde dans la société américaine.
Les conséquences dramatiques de la polarisation et l’attaque contre Paul Pelosi
La polarisation de la société américaine engendre des conséquences concrètes et parfois violentes. En octobre 2022, influencé par des théories complotistes circulant en ligne, David DePape, un charpentier canadien, s’introduit dans la maison de Nancy Pelosi, armé d’un marteau. Convaincu que les démocrates sont des menteurs et des manipulateurs, il s’en prend au mari de Nancy, Paul Pelosi, âgé de 82 ans, dans un acte qui est capturé par une caméra de sécurité. Ce drame symbolise les effets des discours complotistes diffusés en ligne et leur capacité à motiver des actions violentes. La situation illustre les dangers d’une radicalisation persistante, alimentée par les contenus polarisants des réseaux sociaux.
La fin de ce récit montre comment les idées conspirationnistes et anti-système, répandues au départ sur Internet, ont pu avoir un impact réel et tangible sur les individus et la société. Les événements du 6 janvier et l’agression de Paul Pelosi démontrent les dangers d’une société divisée, où la radicalisation est encouragée par une consommation médiatique cloisonnée. L’influence de Trump et de ses partisans continue de se faire sentir, et bien que le trumpisme ait survécu au mandat de Trump, il a profondément altéré le paysage politique américain, favorisant la montée de tensions politiques extrêmes et un rejet grandissant des institutions démocratiques.
Le récit d’une alter vérité et ses effets
Un homme, apparemment dérangé, a tenté d’enlever la fille de l’auteur et a agressé son père, qui a été hospitalisé. Le 16 novembre 2023, David, l’agresseur, a été condamné à 30 ans de prison. Lors de son procès, il a affirmé que la rhétorique de Donald Trump l’avait influencé, arguant que les médias étaient injustes envers Trump et que ce dernier manipulait les électeurs avec des mensonges. Il a suggéré que cette situation pourrait inciter d’autres à passer à l’acte.
Trump, confronté à plusieurs affaires judiciaires, notamment l’assaut du Capitole, se prépare à affronter des membres de son propre parti qui cherchent à le dépasser. Des candidats républicains, comme Ron DeSantis, s’opposent à lui, mais sont rapidement attaqués par des campagnes de désinformation. Trump et ses partisans exploitent les réseaux sociaux pour diffuser des contenus dénigrants à l’encontre de ses rivaux.
La plateforme X (anciennement Twitter) permet une propagation massive de désinformation, notamment grâce à la vérification des comptes par une pastille bleue. Cela renforce la crédibilité apparente de ces comptes et leur capacité à influencer le débat public, rendant la lutte contre la désinformation de plus en plus difficile.
Stratégies électorales et engagement communautaire
Trump s’efforce de conquérir des électeurs issus des communautés latino et afro-américaine, autrefois considérées comme acquises par les démocrates. Il utilise des rassemblements pour montrer une image unifiée des Américains, malgré une situation politique tendue. Parallèlement, des images fausses générées par intelligence artificielle circulent, compliquant la capacité des électeurs à distinguer la vérité des manipulations.
Ainsi le documentaire met en lumière la complexité de la situation politique actuelle aux États-Unis, où la rhétorique de Trump, les stratégies de désinformation, et l’engagement des communautés minoritaires jouent un rôle crucial dans le paysage électoral. La difficulté à discerner la vérité dans une mer de fausses informations pose un défi majeur pour les électeurs américains.
Perspectives de désinformation par l’IA
Le documentaire poursuit en abordant la montée de la désinformation générée par l’intelligence artificielle (IA) et ses implications sur la perception de la vérité. Des images trompeuses, qu’elles soient réelles ou générées par IA, soulèvent des questions sur leur véracité. La discussion commence par des exemples d’images falsifiées et la difficulté à distinguer le vrai du faux.
Progrès technologique et incertitude
L’informaticien Jofyinton explique que le développement de l’IA progresse rapidement, rendant bientôt impossible la distinction entre les images réelles et celles générées artificiellement. Cela soulève des préoccupations quant à la confiance que nous pouvons accorder aux médias, et la question demeure : jusqu’où la désinformation peut-elle aller avant d’être indiscernable de la réalité ?
On souligne que la désinformation représente un risque pour la démocratie, notamment dans un contexte politique déjà polarisé. Les citoyens sont confrontés à une surcharge d’informations, ce qui rend difficile la confiance en ce qu’ils voient et entendent. Cette incertitude peut alimenter des tensions sociales et politiques, augmentant les risques de violence.
Un incident tragique lors d’un meeting républicain, où un candidat est blessé par balle, illustre comment des événements peuvent être détournés par des narrations partisanes. L’ancien président Trump, transformé en martyr, suscite un élan de soutien de son électorat, renforçant ainsi les théories du complot et les accusations contre les opposants politiques.
Rôle d’Elon Musk et des médias sociaux
L’influence d’Elon Musk, via sa plateforme X, est mise en avant comme un facteur aggravant de la désinformation. Musk offre une tribune à Trump et promeut des contenus qui alimentent la controverse, contribuant à la propagation de fausses informations. Ce phénomène soulève des questions sur la responsabilité des plateformes de médias sociaux dans le maintien de l’intégrité des informations.
Questions sur l’avenir de la démocratie
La fabrique du mensonge conclut en soulevant des préoccupations quant à la capacité des démocrates à lutter contre la désinformation sans tomber dans la fabrication de mensonges. Il met en lumière un dilemme moral où la déontologie pourrait être sacrifiée dans le combat politique. La possibilité d’une guerre civile est évoquée, tant en cas de victoire que de défaite de Trump, illustrant la tension extrême dans le climat politique actuel.
Conclusion
Le documentaire met parfaitement en exergue le défi majeur que pose la désinformation à la démocratie contemporaine. Avec la montée de l’IA et des techniques de manipulation des images, il devient crucial de renforcer l’esprit critique des citoyens et de promouvoir des pratiques responsables sur les plateformes de communication.
***
Ce documentaire dispose d’un potentiel pédagogique énorme avec des élèves, en EMC, en HGGSP. La démocratie, les médias, l’information, les IAs, sont autant de pistes.
Le documentaire États-Unis : une élection sous IA offre une ressource précieuse pour aborder les impacts de l’intelligence artificielle sur les processus démocratiques. Dans un contexte d’HGGSP, il permet ainsi aux élèves de comprendre comment des outils technologiques influencent aujourd’hui les campagnes électorales, de la manipulation des opinions à la stratégie politique numérique. Cette exploration invite les élèves à s’interroger sur les valeurs démocratiques essentielles : la transparence, la fiabilité des informations, et l’influence croissante des algorithmes sur la prise de décision citoyenne. En exploitant des exemples concrets, le documentaire offre un terrain de réflexion critique sur l’intégrité électorale et les dérives possibles de l’IA, suscitant ainsi des discussions sur les limites nécessaires à encadrer dans les systèmes politiques modernes. C’est une occasion de renforcer chez les élèves une conscience citoyenne éclairée, prête à affronter les enjeux complexes de la démocratie au 21ᵉ siècle.
Surtout, les faits d’une histoire en marche sont éclairés par ce travail qui prend, maintenant, une tout autre saveur. Ce n’est plus de la fiction ou une uchronie.
