Deepfakes, vidéos truquées, n’en croyez ni vos yeux ni vos oreilles !

Temps de lecture : 5 minutes >

[THECONVERSATION.COM, 8 juillet 2024] Les spécialistes en fact-checking et en éducation aux médias pensaient avoir trouvé les moyens de lutter contre les ‘deepfakes’, ou hypertrucages, ces manipulations de vidéos fondées sur l’intelligence artificielle, avec des outils de vérification comme Invid-Werify et le travail des compétences d’analyse d’images (littératie visuelle), avec des programmes comme Youverify.eu. Mais quelques cas récents montrent qu’une nouvelle forme de cyberattaque vient de s’ajouter à la panoplie des acteurs de la désinformation, le deepfake audio.

Aux États-Unis, en janvier 2024, un robocall généré par une intelligence artificielle et prétendant être la voix de Joe Biden a touché les habitants du New Hampshire, les exhortant à ne pas voter, et ce, quelques jours avant les primaires démocrates dans cet État. Derrière l’attaque, Steve Kramer, un consultant travaillant pour un adversaire de Biden, Dean Phillips.

En Slovaquie, en mars 2024, une fausse conversation générée par IA mettait en scène la journaliste Monika Tódová et le dirigeant du parti progressiste slovaque Michal Semecka fomentant une fraude électorale. Les enregistrements diffusés sur les réseaux sociaux pourraient avoir influencé le résultat de l’élection.

Le même mois, en Angleterre, une soi-disant fuite sur X fait entendre Keir Starmer, le leader de l’opposition travailliste, insultant des membres de son équipe. Et ce, le jour même de l’ouverture de la conférence de son parti. Un hypertrucage vu plus d’un million de fois en ligne en quelques jours.

Un seul deepfake peut causer de multiples dégâts, en toute impunité. Les implications de l’utilisation de cette technologie affectent l’intégrité de l’information et du processus électoral. Analyser comment les hypertrucages sont générés, interpréter pourquoi ils sont insérés dans les campagnes de déstabilisation et réagir pour s’en prémunir relève de l’Éducation aux médias et à l’information.

Analyser : un phénomène lié à la nouvelle ère des médias synthétiques

Le deepfake audio est une composante des médias synthétiques, à savoir des médias synthétisés par l’intelligence artificielle, de plus en plus éloignés de sources réelles et authentiques. La manipulation audio synthétisée par l’IA est un type d’imitation profonde qui peut cloner la voix d’une personne et lui faire dire des propos qu’elle n’a jamais tenus.

C’est possible grâce aux progrès des algorithmes de synthèse vocale et de clonage de voix qui permettent de produire une fausse voix, difficile à distinguer de la parole authentique d’une personne, sur la base de bribes d’énoncés pour lesquels quelques minutes, voire secondes, suffisent.

L’évolution rapide des méthodes d’apprentissage profond (Deep Learning), en particulier les réseaux antagonistes génératifs (GAN) a contribué à son perfectionnement. La mise à disposition publique de ces technologies à bas coût, accessibles et performantes, ont permis, soit de convertir du texte en son, soit de procéder à une conversion vocale profonde. Les vocodeurs neuronaux actuels sont capables de produire des voix synthétiques qui imitent la voix humaine, tant par le timbre (phonation) que la prosodie (accentuation, amplitude…)

Comment repérer les « deepfakes » ? (France 24, mars 2023).

Les deepfakes sonores sont redoutablement efficaces et piégeants parce qu’ils s’appuient également sur les avancées révolutionnaires de la psycho-acoustique – l’étude de la perception des sons par l’être humain, notamment en matière de cognition. Du signal auditif au sens, en passant par la transformation de ce stimulus en influx nerveux, l’audition est une activité d’attention volontaire et sélective. S’y rajoutent des opérations sociocognitives et interprétatives comme l’écoute et la compréhension de la parole de l’autre, pour nous faire extraire de l’information de notre environnement.

Sans compter le rôle de l’oralité dans nos cultures numériques, appuyée sur des usages en ligne et en mobilité, comme en témoigne la vogue des podcasts. Les médias sociaux se sont emparés de cette réalité humaine pour construire des outils artificiels qui instrumentent la voix comme outil narratif, avec des applications comme FakeYou. La voix et la parole relèvent du registre de l’intime, du privé, de la confidence… et la dernière frontière de la confiance en l’autre. Par exemple, la radio est le média en qui les gens ont le plus confiance, selon le dernier baromètre de confiance Kantar publié par La Croix !

Interpréter : des opérations d’influence facilitées par l’intelligence artificielle

Le clonage vocal présente un énorme potentiel pour détruire la confiance du public et permettre à des acteurs mal intentionnés de manipuler les appels téléphoniques privés. Les deepfakes audio peuvent être utilisés pour générer des falsifications sonores et diffuser de la désinformation et du discours de haine, afin de perturber le bon fonctionnement de divers secteurs de la société, des finances à la politique. Ils peuvent aussi porter atteinte à la réputation des personnes pour les diffamer et les faire chuter dans les sondages.

Le déploiement de deepfakes audio présente de multiples risques, notamment la propagation de fausses informations et de « fake news », l’usurpation d’identité, l’atteinte à la vie privée et l’altération malveillante de contenus. Les risques ne sont pas particulièrement nouveaux mais néanmoins réels, contribuant à dégrader le climat politique, selon le Alan Turing Institute au Royaume-Uni.

Le deepfake, expliqué (Brut, 2021)

Il ne faut donc pas sous-estimer cette amplification à échelle industrielle. Les deepfakes audio sont plus difficiles à détecter que les deepfakes vidéo tout en étant moins chers et plus rapides à produire : ils se greffent facilement sur une actualité récente et sur les peurs de certains secteurs de la population, bien identifiés. En outre, ils s’insèrent avantageusement dans l’arsenal des extrémistes, lors de campagnes d’ingérence en temps de paix comme les élections.

Réagir : de la détection des fraudes à la régulation et à l’éducation

Il existe plusieurs approches pour identifier les différents types d’usurpation audio. Certaines mesurent les segments silencieux de chaque signal de parole et relèvent les fréquences plus ou moins élevées, pour filtrer et localiser les manipulations. D’autres entraînent des IA pour qu’elles distinguent des échantillons authentiques naturels d’échantillons synthétiques. Toutefois, les solutions techniques existantes ne parviennent pas à résoudre complètement la question de la détection de la parole synthétique.

Cette détection reste un défi car les manipulateurs tentent de supprimer leurs traces de contrefaçon (par des filtres, des bruits…), avec des générateurs de deepfake audio qui sont de plus en plus sophistiqués. Face à ces vulnérabilités démocratiques restent donc des solutions humaines diverses, qui vont de l’autorégulation à la régulation et impliquent divers types d’acteurs.

Les journalistes et les fact-checkeurs ont augmenté leurs techniques de recherche contradictoire, pour tenir compte de cette nouvelle donne. Ils s’en remettent à leurs stratégies de vérification des sources et de validation du contexte d’émission. Mais ils font aussi appel, via Reporters sans Frontières, au corps juridique, pour la protection des journalistes, afin qu’ils créent un ‘délit de deepfake‘ capable de dissuader les manipulateurs.

Les plates-formes de médias sociaux (Google, Meta, Twitter et TikTok) qui les véhiculent et les amplifient par leurs algorithmes de recommandation sont soumises au nouveau Code de pratique de l’UE en matière de désinformation. Renforcé en juin 2022, il interdit les deepfakes et enjoint les plates-formes à utiliser leurs outils (modération, déplatformisation…) pour s’en assurer.

Les enseignants et les formateurs en Éducation aux Médias et à l’Information se doivent à leur tour d’être informés, voire formés, pour pouvoir alerter leurs étudiants sur ce type de risque. Ce sont les plus jeunes qui sont les plus visés. A leurs compétences en littératie visuelle, ils doivent désormais ajouter des compétences en littératie sonore.

Les ressources manquent à cet égard et réclament de la préparation. C’est possible en choisissant de bons exemples comme ceux liés à des personnalités politiques et en faisant attention aux 5D de la désinformation (discréditer, déformer, distraire, dévier, dissuader). S’appuyer sur le contexte et le timing de ces cyberattaques est aussi fructueux.

Aux personnalités politiques, somme toute concernées mais très peu formées, le Alan Turing Institute propose une stratégie partageable par tous, les 3I : informer, intercepter, insulariser. En phase de pré-élection, cela consiste à informer sur les risques des deepfakes audio ; en phase de campagne, cela implique d’intercepter les deepfakes et de démonter les scénarios de menace sous-jacents ; en phase post-électorale, cela oblige à renforcer les stratégies d’atténuation des incidents relevés et à les faire connaître auprès du public.

Toutes ces approches doivent se cumuler pour pouvoir assurer l’intégrité de l’information et des élections. Dans tous les cas, soignez votre écoute et prenez de l’AIR : analysez, interprétez, réagissez !

Divina Frau-Meigs


[INFOS QUALITE] statut : validé, republié à partir de The Conversation sous licence Creative Commons | mode d’édition : partage, édition et iconographie | sources : theconversation.com | contributeur : Patrick Thonart | crédits illustrations : en-tête, © DP ; © France 24 ; © Brut.


Plus de presse en Wallonie…

WINAND : Hide’N’Seek 2 (Bye Bye Belgium) (2016, Artothèque, Lg)

Temps de lecture : 2 minutes >

WINAND Frédéric, Hide’N’Seek 2 (Bye bye Belgium)

(photographie numérique sur Plexiglas, 42 x 60 cm, 2016)

Frédéric WINAND est né le 15 février 1990 à  Liège, où il réside actuellement. Il obtient une licence d’arts plastiques et visuels à l’Ecole Supérieure des Arts Saint-Luc où il présente, pour clôturer ses trois années d’études, Utopitev, une balade photographique au travers de la nuit. Depuis lors, il poursuit ses recherches sur la nuit et le noir, les interactions entre les humains et les corps célestes, le vide et le plein, le plein de vide, le temps et la distance, les années-lumière, les jeux et les mots, les jeux de mots, et la solitude des étoiles. (F. Winand)

La photo est floue. A tel point que le spectateur doit l’observer un certain temps avant de discerner un personnage, vêtu d’une chemise orange. Le texte : “een land valt uiteen in twee kampen. het ene streeft naar onhafankelijkheid. misschien is dit geen fictie.” vient alors nous éclairer. Il s’agit d’une référence à l’émission Bye bye Belgium émission spéciale de la RTBF diffusée le 13 décembre 2006. Il s’agissait d’un faux documentaire. Alors que les téléspectateurs viennent de regarder le Journal télévisé, une édition spéciale diffusée en direct interrompt la programmation. Le présentateur du journal télévisé, François de Brigode, annonce la déclaration unilatérale d’indépendance de la Flandre…

Et pourquoi pas emprunter cette oeuvre gratuitement à l’Artothèque de la Province de Liège ? N’attendez plus, foncez au 3ème étage du B3, le centre de ressources et de créativité situé place des Arts à B-4000 Liège…

[INFOS QUALITE] statut : actualisé | mode d’édition : compilation (droits cédés) et mise à jour par wallonica.org  | source : Artothèque Chiroux | commanditaire : Province de Liège – Culture | contributeur : Philippe Vienne | crédits illustrations : © Frédéric Winand ; cidj.com | remerciements à Bénédicte Dochain, Frédéric Paques et Pascale Bastin

FITOUSSI S., Woke fiction (2023)

Comment le wokisme transforme-t-il les films, les séries et, plus largement, l’imaginaire de notre époque ? Un essai stimulant et rigoureux qui plonge au coeur des débats d’aujourd’hui. Pourquoi Friends, Psychose, Intouchables et Game of Thrones ne pourraient-ils plus être produits tels quels aujourd’hui ? Pourquoi les séries Netflix se ressemblent-elles toutes ? Pourquoi les films Disney ne font-ils plus rêver ? Dans cet essai percutant, Samuel Fitoussi répond à ces questions et brosse un tableau édifiant du monde de la culture. Il montre que la pression idéologique fait tout d’abord une victime : la liberté artistique. En s’appuyant sur l’analyse de films et de séries à succès, il identifie les injonctions morales qui pèsent sur la création et transforment – le plus souvent à notre insu – notre imaginaire en champ de bataille politique. Avec lucidité et rigueur, Woke Fiction éclaire les grands clivages idéologiques de notre époque, dévoilant les erreurs de raisonnement dans les discours militants dominants. Une lecture essentielle, à la fois érudite et vivante, pour comprendre ce qui se joue dans la fiction contemporaine et se munir d’arguments solides pour participer au débat d’idées.

LIBREL.BE

DUBOIS : Le magazine Imagine, comme un air de John Lennon

Temps de lecture : 4 minutes >

[DIACRITIK.COM, 6 avril 2022] Voici un magazine assez magnifique, très chatoyant aussi et qui porte bien son enseigne à la John Lennon. Il se réclamait du parti Écolo à l’origine puis en garda l’esprit tout en prenant quelque distance envers ce parti. C’est en ce sens que la couverture de ce bimestriel porte fièrement trois surcharges : DEMAIN LE MONDE ; la triade ÉCOLOGIE / SOCIÉTÉ / NORD-SUD ; et la mention quelque peu énigmatique SLOW PRESS (est-ce la formule employée à propos d’un vin à pression lente ou bien est-elle d’un journal à parution peu pressée — mais stressée néanmoins ?).

Ainsi “Demain le monde” nous parle de mutation et d’un univers qui propose en lieu et place du capitalisme dominant un bouleversement résolu. Quant à la triade “Écologie / Société / Nord-Sud”, elle rassemble en une seule trois disciplines de pointe et qui visent à réconcilier la Terre avec l’Humanité. Quant à cette “Slow Press”, qui continue à nous tarabuster, nous la traduirons joyeusement comme un équivalent du bon vieux latin festina lente, c’est-à-dire “hâte-toi lentement”, ce qui fait pleinement notre affaire.

Si Imagine a quelque peu tenu à distance luttes et controverses politiques, c’est pour mieux se régénérer dans les temps troublés que nous connaissons. Une pandémie, une guerre continentale, des cataclysmes naturels, on conviendra que c’est beaucoup et que c’est même trop. Imagine entend jouer à cet égard “un rôle de sentinelle des catastrophes en cours“. Et c’est pourquoi ce magazine défend “une pensée complexe et nuancée, apaisée et féconde, libre et non conformiste“. Et d’ajouter joliment encore qu’il “libère les imaginaires (…), est porteur d’idées nouvelles et inspirantes, d’histoires audacieuses et inattendues, de petits ou grands récits.

Est-ce à dire que la critique sociale et politique ne trouve plus sa place dans une revue telle que celle que l’on évoque ici ? Ou bien qu’elle ne se reconnaît plus dans les combats qui sont menés par la gauche au point qu’on voit se déliter les partis les plus combatifs, au risque de laisser toute la place aux populismes ou aux néolibéralismes dans ce que ceux-ci montrent de plus trivial aux quatre coins du continent et des environs.

Le magazine a par ailleurs déterminé son découpage et son rythme de lecture selon une cartographie pleinement évocatrice et même largement métaphorique à travers ce qu’il désigne comme ses divers territoires. Nous aurons ainsi au long de la revue :

    1. Sur le volcan qui accorde la priorité à la sphère politique à travers le mouvement des luttes, des résistances et des interventions, croisant par ailleurs des thèmes du jour comme le populisme, le patriarcat, la marchandisation du monde, soit autant de dérives ;
    2. Le sixième continent qui désigne un article de long format à la croisée de divers territoires ou thématiques ; prendront ainsi forme de “grands entretiens” qui donneront la parole à des personnalités en vue parmi les plus représentatives du monde intellectuel ;
    3. Zones fertiles qui veut qu’Imagine propose des alternatives sur des thématiques de base relatives à l’agriculture, au climat, à l’énergie, à la démocratie, à l’économie, toutes essentielles à la survie des espèces ;
    4. Terra incognita qui se projette vers le futur et favorise la pensée utopique, donnant en particulier la parole à des personnalités porteuses de changement et qui sont prêtes à aborder des sujets comme l’effondrement ou l’adaptation ;
    5. Les confluents qui font se croiser différentes disciplines, depuis la philosophie jusqu’à l’histoire et la sociologie. Éducation et transmission seront ici des thèmes de premier plan ;
    6. Au large donne la parole à toutes les disciplines qui se réclament de l’esthétique et des formes d‘art. C’est là encore que place est faite aux minorités mises à l’écart comme au monde vivant dans sa pluralité (personnes vulnérables, animaux, végétaux). La perspective activée est celle d’un monde réconcilié dans toutes ses composantes.

On notera que les “Grands Entretiens” seront selon toute vraisemblance rassemblés dans une livraison de fin d’année “hors série”.

Si Imagine fonctionne avec une Rédaction minimale à Liège et à Bruxelles Hugues Dorzée étant son rédacteur en chef, elle ne sortira que difficilement de l’espace belge francophone. Demeure néanmoins la possibilité pour les lecteurs de se procurer le magazine par abonnement ou par livraison ciblée. Une diffusion qui exista vers la France pendant une période devrait pourtant reprendre en ce pays. Mais, par ailleurs, le groupe rédactionnel s’élargit volontiers à des groupes de travail et de réflexion de durée variable. Et l’on a vu récemment se constituer et s’instituer l’assemblée mobile des Pisteurs d’Imagine auquel le magazine peut faire appel en matière de conseils et d’orientations. Il compte actuellement une quinzaine d’intervenants. Parmi ceux-ci, on compte notamment Olivier De Schutter, Caroline Lamarche, Ariane Estenne, Charlotte Luyckx, Arnaud Zacharie, soit autant de personnalités fortes.

Il est donc toute une vie sociale autour d’un magazine qui aime à scander l’année de rencontres, de mises au vert, de séances d’écriture collective, de workshops, etc. C’est ainsi tout un brassage procédant par groupes restreints et cellules productives et qui se donne pour objectif d’inventer le monde de demain.

Jacques DUBOIS

Imagine, c’est un magazine belge, bimestriel et alternatif, qui traite des questions d’écologie, de société et de relations Nord-Sud. Il est édité par une asbl, indépendante de tout groupe de presse et de tout parti politique, et géré par l’équipe qui le réalise. Imagine s’inscrit dans le courant slow press et défend un journalisme d’impact, au long cours, à la fois vivant et critique, apaisé et constructif. Tous les deux mois, il recherche la qualité plutôt que la quantité. Il ralentit pour offrir à ses lecteurs une information originale, fiable et nuancée. Contact : Imagine, boulevard Frère-Orban 35A, B-4000-LIEGE (site du magazine).


[INFOS QUALITÉ] statut : validé | sources  : diacritik.com (article du 6 avril 2022) | mode d’édition : partage et iconographie | commanditaire : wallonica.org | contributeur : Patrick Thonart | crédits illustrations : © Imagine Magazine.


Il y a presse et presse…