Étiquette : fake news

Deepfakes, vidéos truquées, n’en croyez ni vos yeux ni vos oreilles !

Temps de lecture : 5 minutes >

[THECONVERSATION.COM, 8 juillet 2024] Les spécialistes en fact-checking et en éducation aux médias pensaient avoir trouvé les moyens de lutter contre les ‘deepfakes’, ou hypertrucages, ces manipulations de vidéos fondées sur l’intelligence artificielle, avec des outils de vérification comme Invid-Werify et le travail des compétences d’analyse d’images (littératie visuelle), avec des programmes comme Youverify.eu. Mais quelques cas récents montrent qu’une nouvelle forme de cyberattaque vient de s’ajouter à la panoplie des acteurs de la désinformation, le deepfake audio.

Aux États-Unis, en janvier 2024, un robocall généré par une intelligence artificielle et prétendant être la voix de Joe Biden a touché les habitants du New Hampshire, les exhortant à ne pas voter, et ce, quelques jours avant les primaires démocrates dans cet État. Derrière l’attaque, Steve Kramer, un consultant travaillant pour un adversaire de Biden, Dean Phillips.

En Slovaquie, en mars 2024, une fausse conversation générée par IA mettait en scène la journaliste Monika Tódová et le dirigeant du parti progressiste slovaque Michal Semecka fomentant une fraude électorale. Les enregistrements diffusés sur les réseaux sociaux pourraient avoir influencé le résultat de l’élection.

Le même mois, en Angleterre, une soi-disant fuite sur X fait entendre Keir Starmer, le leader de l’opposition travailliste, insultant des membres de son équipe. Et ce, le jour même de l’ouverture de la conférence de son parti. Un hypertrucage vu plus d’un million de fois en ligne en quelques jours.

Un seul deepfake peut causer de multiples dégâts, en toute impunité. Les implications de l’utilisation de cette technologie affectent l’intégrité de l’information et du processus électoral. Analyser comment les hypertrucages sont générés, interpréter pourquoi ils sont insérés dans les campagnes de déstabilisation et réagir pour s’en prémunir relève de l’Éducation aux médias et à l’information.

Analyser : un phénomène lié à la nouvelle ère des médias synthétiques

Le deepfake audio est une composante des médias synthétiques, à savoir des médias synthétisés par l’intelligence artificielle, de plus en plus éloignés de sources réelles et authentiques. La manipulation audio synthétisée par l’IA est un type d’imitation profonde qui peut cloner la voix d’une personne et lui faire dire des propos qu’elle n’a jamais tenus.

C’est possible grâce aux progrès des algorithmes de synthèse vocale et de clonage de voix qui permettent de produire une fausse voix, difficile à distinguer de la parole authentique d’une personne, sur la base de bribes d’énoncés pour lesquels quelques minutes, voire secondes, suffisent.

L’évolution rapide des méthodes d’apprentissage profond (Deep Learning), en particulier les réseaux antagonistes génératifs (GAN) a contribué à son perfectionnement. La mise à disposition publique de ces technologies à bas coût, accessibles et performantes, ont permis, soit de convertir du texte en son, soit de procéder à une conversion vocale profonde. Les vocodeurs neuronaux actuels sont capables de produire des voix synthétiques qui imitent la voix humaine, tant par le timbre (phonation) que la prosodie (accentuation, amplitude…)

Comment repérer les « deepfakes » ? (France 24, mars 2023).

Les deepfakes sonores sont redoutablement efficaces et piégeants parce qu’ils s’appuient également sur les avancées révolutionnaires de la psycho-acoustique – l’étude de la perception des sons par l’être humain, notamment en matière de cognition. Du signal auditif au sens, en passant par la transformation de ce stimulus en influx nerveux, l’audition est une activité d’attention volontaire et sélective. S’y rajoutent des opérations sociocognitives et interprétatives comme l’écoute et la compréhension de la parole de l’autre, pour nous faire extraire de l’information de notre environnement.

Sans compter le rôle de l’oralité dans nos cultures numériques, appuyée sur des usages en ligne et en mobilité, comme en témoigne la vogue des podcasts. Les médias sociaux se sont emparés de cette réalité humaine pour construire des outils artificiels qui instrumentent la voix comme outil narratif, avec des applications comme FakeYou. La voix et la parole relèvent du registre de l’intime, du privé, de la confidence… et la dernière frontière de la confiance en l’autre. Par exemple, la radio est le média en qui les gens ont le plus confiance, selon le dernier baromètre de confiance Kantar publié par La Croix !

Interpréter : des opérations d’influence facilitées par l’intelligence artificielle

Le clonage vocal présente un énorme potentiel pour détruire la confiance du public et permettre à des acteurs mal intentionnés de manipuler les appels téléphoniques privés. Les deepfakes audio peuvent être utilisés pour générer des falsifications sonores et diffuser de la désinformation et du discours de haine, afin de perturber le bon fonctionnement de divers secteurs de la société, des finances à la politique. Ils peuvent aussi porter atteinte à la réputation des personnes pour les diffamer et les faire chuter dans les sondages.

Le déploiement de deepfakes audio présente de multiples risques, notamment la propagation de fausses informations et de « fake news », l’usurpation d’identité, l’atteinte à la vie privée et l’altération malveillante de contenus. Les risques ne sont pas particulièrement nouveaux mais néanmoins réels, contribuant à dégrader le climat politique, selon le Alan Turing Institute au Royaume-Uni.

Le deepfake, expliqué (Brut, 2021)

Il ne faut donc pas sous-estimer cette amplification à échelle industrielle. Les deepfakes audio sont plus difficiles à détecter que les deepfakes vidéo tout en étant moins chers et plus rapides à produire : ils se greffent facilement sur une actualité récente et sur les peurs de certains secteurs de la population, bien identifiés. En outre, ils s’insèrent avantageusement dans l’arsenal des extrémistes, lors de campagnes d’ingérence en temps de paix comme les élections.

Réagir : de la détection des fraudes à la régulation et à l’éducation

Il existe plusieurs approches pour identifier les différents types d’usurpation audio. Certaines mesurent les segments silencieux de chaque signal de parole et relèvent les fréquences plus ou moins élevées, pour filtrer et localiser les manipulations. D’autres entraînent des IA pour qu’elles distinguent des échantillons authentiques naturels d’échantillons synthétiques. Toutefois, les solutions techniques existantes ne parviennent pas à résoudre complètement la question de la détection de la parole synthétique.

Cette détection reste un défi car les manipulateurs tentent de supprimer leurs traces de contrefaçon (par des filtres, des bruits…), avec des générateurs de deepfake audio qui sont de plus en plus sophistiqués. Face à ces vulnérabilités démocratiques restent donc des solutions humaines diverses, qui vont de l’autorégulation à la régulation et impliquent divers types d’acteurs.

Les journalistes et les fact-checkeurs ont augmenté leurs techniques de recherche contradictoire, pour tenir compte de cette nouvelle donne. Ils s’en remettent à leurs stratégies de vérification des sources et de validation du contexte d’émission. Mais ils font aussi appel, via Reporters sans Frontières, au corps juridique, pour la protection des journalistes, afin qu’ils créent un ‘délit de deepfake‘ capable de dissuader les manipulateurs.

Les plates-formes de médias sociaux (Google, Meta, Twitter et TikTok) qui les véhiculent et les amplifient par leurs algorithmes de recommandation sont soumises au nouveau Code de pratique de l’UE en matière de désinformation. Renforcé en juin 2022, il interdit les deepfakes et enjoint les plates-formes à utiliser leurs outils (modération, déplatformisation…) pour s’en assurer.

Les enseignants et les formateurs en Éducation aux Médias et à l’Information se doivent à leur tour d’être informés, voire formés, pour pouvoir alerter leurs étudiants sur ce type de risque. Ce sont les plus jeunes qui sont les plus visés. A leurs compétences en littératie visuelle, ils doivent désormais ajouter des compétences en littératie sonore.

Les ressources manquent à cet égard et réclament de la préparation. C’est possible en choisissant de bons exemples comme ceux liés à des personnalités politiques et en faisant attention aux 5D de la désinformation (discréditer, déformer, distraire, dévier, dissuader). S’appuyer sur le contexte et le timing de ces cyberattaques est aussi fructueux.

Aux personnalités politiques, somme toute concernées mais très peu formées, le Alan Turing Institute propose une stratégie partageable par tous, les 3I : informer, intercepter, insulariser. En phase de pré-élection, cela consiste à informer sur les risques des deepfakes audio ; en phase de campagne, cela implique d’intercepter les deepfakes et de démonter les scénarios de menace sous-jacents ; en phase post-électorale, cela oblige à renforcer les stratégies d’atténuation des incidents relevés et à les faire connaître auprès du public.

Toutes ces approches doivent se cumuler pour pouvoir assurer l’intégrité de l’information et des élections. Dans tous les cas, soignez votre écoute et prenez de l’AIR : analysez, interprétez, réagissez !

Divina Frau-Meigs

[INFOS QUALITE] statut : validé, republié à partir de The Conversation sous licence Creative Commons | mode d’édition : partage, édition et iconographie | sources : theconversation.com | contributeur : Patrick Thonart | crédits illustrations : en-tête, © DP ; © France 24 ; © Brut.

Plus de presse en Wallonie…

HALIMI & RIMBERT : Voyage en feinte vérité

Temps de lecture : 7 minutes >
Dessin de Selçuk © Le Monde diplomatique

Si retard, réforme et ouverture ont constitué les mots-clés de la pensée dominante des trente dernières années, fake news semble résumer sa hantise actuelle. Un fil rouge unit d’ailleurs les deux périodes : seules les fausses informations qui ciblent le parti de la réforme et de l’ouverture indignent journalistes professionnels et dirigeants libéraux. Aux États-Unis ou en Allemagne comme en France, ces derniers élèvent la lutte contre les infox au rang de priorité politique. “La montée des fausses nouvelles, a expliqué M. Emmanuel Macron lors de ses vœux à la presse en janvier dernier, est aujourd’hui totalement jumelle de cette fascination illibérale.” Pendant ce temps, la désinformation traditionnelle prospère. Son écho sans cesse répercuté lui confère un caractère de vérité — sans stimuler l’ardeur des décodeurs.

Bernard-Henri Lévy

Chroniqueur au Point, Bernard-Henri Lévy assimile tous ceux qui lui déplaisent — la liste est infinie — à des nazis [Lire Serge Halimi, Tous nazis !, Le Monde diplomatique, novembre 2007]. En décembre 2010, trop content de son coup pour vérifier son fait, il confond le journaliste du Monde diplomatique Bernard Cassen avec le pamphlétaire d’extrême droite anti-musulman Pierre Cassen. L’hebdomadaire refuse la publication d’un droit de réponse ; il est condamné à s’exécuter par la 17e chambre correctionnelle (jugement du 23 avril 2013). Laquelle, soulignant “l’insuffisance de rigueur et la carence de fond” de Bernard-Henri Lévy, “la gravité et la virulence” de sa diffamation, estime que “le bénéfice de la bonne foi ne saurait lui être accordé” et impose également au Point de payer 3 500 euros d’amende. Pourtant, dans le même journal, le même falsificateur a lancé l’idée, le 7 février dernier, d’un « hall of shame » (mur de la honte) qui “listerait en temps réel les fake news les plus mondialement dévastatrices“. “BHL” invite “le peuple du Web à proposer le texte, la vidéo, l’œuvre dont la puissance de vérité ou la drôlerie vitrifieraient les fake news les plus nuisibles“.

C’est, pour Bernard-Henri Lévy, prendre un risque… Plutôt que de rappeler la liste de ses impostures — une page de ce journal n’y suffirait pas [lire le volumineux dossier du Monde diplomatique en ligne L’imposture Bernard-Henri Lévy]. —, limitons-nous à ses dernières facéties. Son ouvrage L’Empire et les cinq rois (Grasset, 2018) vient d’être traduit aux États-Unis, au moment où les dirigeants de ce pays cherchent à asphyxier l’Iran. L’année dernière, des journalistes ou chroniqueurs français aussi soucieux d’exactitude et de fact checking que Patrick Cohen (sur Europe 1, le 30 mars), Ali Baddou (sur France Inter, un 1er avril…) et Laurent Ruquier (sur France 2, le 7 avril) l’ont laissé débiter “une histoire incroyable que très peu de gens savent“. En 1935, racontait l’essayiste, “l’Allemagne nazie propose aux Persans le deal du siècle. Elle leur dit : “On va faire (…) une chouette aventure commune, on va dominer le monde.” Et les Iraniens acceptent le deal“. Et voilà pourquoi, selon lui, la Perse changea de nom pour devenir l’Iran, pays des Aryens.

Plusieurs spécialistes de l’Iran se récrient aussitôt. Au point que, quelques jours plus tard, “BHL” en invoque d’autres, dont certains, horrifiés d’être à leur tour mêlés à ce dangereux canular, démentent les analyses que le chroniqueur leur prête [Ardavan Amir-Aslani : N’en déplaise à BHL, la Perse n’est pas devenue l’Iran pour faire plaisir à Hitler !, L’Opinion, Paris, 23 mai 2018]. Parue il y a quelques semaines, l’édition en anglais de son ouvrage ajoute par conséquent une pièce à conviction que l’auteur juge irrécusable, “un article du New York Times du 26 juin 1935“. Or l’article en question parle bien d’une “suggestion” de l’ambassade d’Allemagne, mais sans fonder cette explication du changement de nom — assez floue, au demeurant — sur aucune source. En tout cas, il ne conclut certainement pas, comme l’a prétendu “BHL”, à un “ordre de Berlin à l’ambassade iranienne qui est transmis au chah“. Et cet article du New York Times, publié dans la rubrique « Voyages-Croisières-Excursions » du quotidien, relate le cas iranien parmi beaucoup d’autres — Saint-Domingue était devenu Ciudad Trujillo ; Smyrne, Izmir ; Christiania, Oslo, etc. Autant dire que la force probatoire du bout de texte (cent cinquante mots) auquel Bernard-Henri Lévy s’accroche telle une moule à son rocher est nulle. Son auteur est mort, et notre spécialiste autoproclamé de l’Iran n’est même pas capable de citer précisément sa pièce à conviction. Car l’article du New York Times destiné aux grands randonneurs fut publié le 26 janvier 1936, pas le 26 juin 1935 [Oliver McKee junior, Change of Santo Domingo to Trujillo City recalls others, The New York Times, 26 janvier 1936].

Et quel rapport, au fait, entre la décision du chah de 1935 et l’actuelle République islamique d’Iran, cible des États-Unis, de l’Arabie saoudite et d’Israël ? Un lien évident, selon “BHL” : l’ayatollah Rouhollah Khomeiny aurait refusé de revenir au nom de « Perse » quand il a pris le pouvoir en 1979 parce que figuraient dans son entourage trois “théoriciens qui vivaient dans la fascination absolue de la pensée heideggérienne“. Comment le sait-il ? Grâce à “l’un des cameramen de [son] film, un intellectuel kurde iranien doté d’une solide culture philosophique“.

Depuis 1978, tous les présidents français, sans exception, ont reçu et écouté Bernard-Henri Lévy. Puisque, désormais, il encense M. Emmanuel Macron avec une régularité de métronome, ce dernier serait bien avisé de lui confier une mission d’enquête sur les fake news.

Robert Menasse

Écrivain autrichien, lauréat du prix du livre allemand en 2017 pour son ouvrage La Capitale (Verdier, 2019), Robert Menasse milite pour une Europe débarrassée des archaïsmes nationaux. Mais le romancier est aussi un essayiste qui détaille depuis des années ses convictions dans des articles publiés par la presse de référence germanophone. Ainsi, dans un texte enflammé écrit avec une politiste et intitulé Vive la République européenne, paru le 24 mars 2013 dans la Frankfurter Allgemeine Zeitung et, le même jour, dans les colonnes de Die Presse sous le titre Manifeste pour la fondation d’une république européenne, Menasse écrit : “Le premier président de la Commission européenne, Walter Hallstein, un Allemand, a déclaré : “L’abolition de la nation, c’est l’idée européenne.”” » Avant d’ajouter, bravache : “Une phrase que ni l’actuel président de la Commission ni l’actuel chancelier allemand n’oseraient prononcer. Sans doute n’osent-ils même pas y penser. Et pourtant cette phrase est la vérité, même si elle a été oubliée.” Problème : Hallstein (1901-1982) n’a jamais prononcé cette phrase.

En octobre 2017, le grand historien Heinrich August Winkler exprime ses doutes dans l’hebdomadaire Der Spiegel et somme Menasse de citer ses sources. En vain. Il relève dans la foulée d’autres propos attribués par Menasse à Hallstein : “L’objectif est et demeure d’organiser une Europe postnationale“, ou encore : “L’objectif du processus d’unification européenne est le dépassement des États-nations“. Las ! “Non seulement il n’existe aucune preuve attestant que ces phrases ont été prononcées, mais elles contredisent diamétralement ce que Hallstein a réellement dit” [Heinrich August Winkler, Zerbricht der Westen ? Über die gegenwärtige Krise in Europa und Amerika, C. H. Beck, Munich, 2017]. Décidément inventif, l’essayiste-romancier a également prétendu que Hallstein avait, en 1958, prononcé son premier discours de président de la Communauté économique européenne à Auschwitz. “C’est un fait“, martelait Menasse, impatient de démontrer à quel point “la Commission européenne est la réponse à Auschwitz“. C’est un faux [Patrick Bahners, « Menasses Bluff » et « Fall Menasse. Psychopathologe », Frankfurter Allgemeine Zeitung, 2 et 6 janvier 2019].

Pour Winkler, ces tripatouillages sont le “produit d’une vision postfactuelle de l’histoire” [Der Spiegel, Hambourg, 21 octobre 2017]. Des fake news d’autant plus graves que, malgré les avertissements de l’historien, elles sont régulièrement reprises par des personnalités politiques et intellectuelles, comme, en novembre dernier, M. Manfred Weber, président du groupe conservateur au Parlement européen et candidat à la présidence de l’Union européenne.

Au début de cette année, l’infox selon laquelle les signataires du traité franco-allemand d’Aix-la-Chapelle du 22 janvier dernier entendaient livrer l’Alsace-Lorraine à l’Allemagne fut aussitôt démentie par les médias français, et son auteur, un député européen du parti Debout la France, cloué au pilori. Enfin relevées et prises au sérieux par la presse allemande plus d’un an après leur mise au jour, les fake news de Menasse n’ont ébranlé ni les journalistes hexagonaux, qui ne tarissent pas d’éloges à son égard, ni le faussaire lui-même. “D’un point de vue scientifique, les guillemets étaient une erreur“, a concédé ce dernier après avoir invoqué un philosophe relativiste pour justifier sa contrefaçon [Die Welt, 5 janvier 2019]. Le 19 janvier, il a reçu la médaille Carl-Zuckmayer, une distinction littéraire remise par le ministre-président du Land de Rhénanie-Palatinat. Lequel salua son “combat engagé en faveur de l’idée européenne” [Spiegel Online, 7 janvier 2019].

France Inter

Le 7 février dernier, Nicolas Demorand et Léa Salamé, dont l’antipathie pour les gilets jaunes croît chaque semaine, reçoivent dans leur émission de France Inter un professeur au Collège de France, Patrick Boucheron, qui ne les aime pas davantage. Tous trois communient également dans la détestation des fausses informations. Au cours de l’entretien, Boucheron pourfend la petite came insurrectionnelle des intellectuels favorables aux gilets jaunes et cite l’un de ces dealers, spécialiste des mouvements populaires : “Je trouvais intéressant d’entendre Gérard Noiriel dire : “C’est une jacquerie”, alors que d’autres historiens médiévistes disaient : “Non, ce n’est pas ça, la jacquerie.” Or, quelques semaines plus tôt, Noiriel avait été interrogé pour savoir si “la comparaison du mouvement des “gilets jaunes” avec les jacqueries ou le poujadisme [était] justifiée“. Et il avait répondu : “Aucune de ces références historiques ne tient vraiment la route. Parler, par exemple, de jacquerie à propos des “gilets jaunes” est à la fois un anachronisme et une insulte. (…) La grande jacquerie de 1358 fut un sursaut désespéré des gueux sur le point de mourir de faim, dans un contexte marqué par la guerre de Cent Ans et la peste noire.” [Le Monde, 28 novembre 2018]

C’est ensuite l’heure de la revue de presse de France Inter. Claude Askolovitch en consacre une bonne part à la dénonciation, rituelle sur cette antenne, des fake news de M. Donald Trump et des médias russes, puis enchaîne : “Et, dans Le Monde diplomatique, le théoricien des Nuits debout, Frédéric Lordon, trouve que [la chaîne russe] RT, même si elle fait un peu trop de propagande poutinienne, est “le seul média audiovisuel honorable”.” Charlie Hebdo s’en exaspère. “RT, dit Charlie, c’est Signal, ce journal de la propagande nazie qui montrait patte blanche en interrogeant Cocteau sous l’occupation.” Il n’y a que deux petits problèmes dans la citation de France Inter. D’abord, il ne s’agit pas d’un article publié dans Le Monde diplomatique, mais d’un billet du blog personnel de Frédéric Lordon sur le site du Monde diplomatique. Ensuite et surtout, son texte est falsifié. Lordon avait en effet écrit ceci : “La honte du journalisme français se mesure à ce paradoxe tout à fait inattendu que RT est devenu à peu près le seul média audiovisuel honorable !” Grâce à la principale radio publique française, le paradoxe tout à fait inattendu, le à peu près et le point d’exclamation (destiné à souligner le paradoxe tout à fait inattendu) ont disparu. [Relevée sur les réseaux sociaux, l’omission du « à peu près » a été corrigée dans la retranscription, par conséquent inexacte, de la chronique sur le site de France Inter]

Une semaine plus tard, Demorand n’a plus qu’à rappeler les vertus de sa profession aux auditeurs de sa matinale : “On a affaire avec les journalistes à des gens dont le métier de base est de produire des faits vérifiés et aujourd’hui de faire du fact checking pour lutter contre le flot de fausses nouvelles.”

Serge HALIMI & Pierre RIMBERT

Pour lire l’article original de Serge HALIMI & Pierre RIMBERT sur MONDE-DIPLOMATIQUE.FR (mars 2019)…

Plus de presse…