C’est une vidéo plutôt banale, qui, en d’autres temps, n’aurait pas suscité grande émotion. Le 6 février, Donald Trump publie sur Twitter un montage moquant le geste de Nancy Pelosi qui avait déchiré ses feuilles à l’issue du discours sur l’état de l’Union du président américain. La vidéo met en regard des passages du discours de Trump - hommage à une famille de militaire ou célébration de la baisse du chômage - avec le geste de dédain de la présidente démocrate de la Chambre des représentants. Le montage est de parfaite mauvaise foi mais ce n'est rien d’extraordinaire dans une campagne présidentielle américaine où tous les coups sont permis.
Pourtant, cette vidéo va déclencher la fureur de l’équipe Pelosi et relancer le débat autour de la modération des réseaux sociaux. «Les Américains savent que le président n’a aucun scrupule quand il s’agit de leur mentir - mais c’est une honte de voir Twitter et Facebook, sources d’informations pour des millions de personnes, faire la même chose», a dénoncé Drew Hammill, le chef de cabinet de Nancy Pelosi, qui réclame la suppression de cette vidéo sur ces plateformes. «Cette fausse vidéo de Nancy Pelosi est conçue pour tromper les Américains et leur mentir. En la laissant en ligne, ces plateformes nous rappellent à nouveau qu’elles s’intéressent davantage aux intérêts de leurs actionnaires qu’à ceux des citoyens», a-t-il poursuivi.
Facebook n’a guère apprécié d’être mis en cause dans cette affaire. «Suggérez-vous que le Président n'a pas fait ces remarques et que la présidente de la Chambre n'a pas déchiré le discours ?», a répondu sèchement le porte-parole de la firme, Andy Stone. Facebook estime que cette vidéo ne viole pas ses règles d’utilisation. Celles-ci avaient été fraîchement mises à jour, en janvier : est désormais banni tout contenu pouvant «induire en erreur quelqu'un en lui faisant croire qu'un sujet de la vidéo a dit des mots qu'il n'a pas dit en réalité». En clair, Facebook prohibe les deepfakes, des vidéos réalisées grâce à une technologie d’intelligence artificielle permettant de remplacer un visage par un autre ou de faire tenir à une personne des propos qu’elle n’a jamais tenus. La vidéo de Pelosi ne relève à l’évidence pas de cette technologie. La vidéo distort la réalité, mais à l’aide d’un outil bien connu, vieux comme la télévision : le montage. Les émissions politiques satiriques usent et abusent de ce genre d'artifice sans que cela ne choque personne. Il serait étrange de vouloir imposer des règles plus strictes sur le web qu’à la télévision.
La vidéo devient sujet à caution
Si cette vidéo a créé tant d’émoi, c’est qu’elle s’inscrit dans le débat, pour ne pas dire dans la panique, concernant les deepfakes. Cette technologie, qui s’est récemment démocratisée, fait peser une menace sourde sur l’élection américaine. Il est un précédent qui est resté dans toutes les mémoires : en mai 2019, des images de Nancy Pelosi avait été fortement ralenties afin de donner l’impression qu’elle était ivre ou droguée. Là encore, la technologie à l’oeuvre était basique mais cette tentative de manipulation des images avait suscité une vive émotion. C’est un changement philosophique profond qu’il faut intégrer aux campagnes : la vidéo, longtemps vue comme une preuve, devient elle aussi sujet à caution.
Les état-majors des candidats craignent ce moment de bascule où il ne sera plus possible de distinguer si des paroles diffusées en vidéo ont bien été prononcées. Fait significatif : l’équipe du démocrate Pete Buttigieg assure filmer le candidat «pendant toutes ses heures éveillées» pour contrer une éventuelle vidéo manipulée. Tout archiver permet d'avoir une contre-preuve en cas de surgissement d’un tel contenu.
Pour l’instant, aucun contenu de cette nature n’est venu perturber la démocratie américaine. D'après un audit mené sur la question, 96% des deepfakes publiés sur le web sont cantonnés au contenu adulte. Le reste de l’échantillon est essentiellement constitué de parodies de célébrité réalisées à des fins récréatives. C’est parfois très probant, comme cette version de Retour vers le futur dans laquelle les acteurs Michael J. Fox and Christopher Lloyd ont été remplacés par Tom Holland et Robert Downey Jr.
Un contenu dans une autre langue
Côté politique, Buzzfeed US s’est essayé à la technique en publiant une vidéo où Barack Obama traite Trump de «deep shit» (grosse merde). Il s’agissait uniquement de démontrer la maturité de la technologie mais il est aisé d’imaginer un usage malveillant de celle-ci lors de la campagne.
Le premier cas mondial d’utilisation politique d’un deepfake est survenu en Inde il y a quelques semaines. Et il est inattendu : la technologie n’a pas été utilisée pour nuire à un adversaire politique mais pour permettre de diffuser un contenu dans une autre langue. Ne pratiquant pas l’anglais, Manoj Tiwari, un candidat du BJP aux législatives dans l’Etat de Delhi, a fait réaliser par une agence une version de sa vidéo, initialement en hindi, dans la langue de Shakespeare. L’illusion est parfaite : le texte est lu par un anglophone tandis que le mouvement de ses lèvres a été modifié grâce à un outil d’intelligence artificielle.
Nos démocraties ont intégré depuis longtemps le risque de manipulation des documents photographiques. La possibilité technique de la duperie n’en a pas pour autant fait un outil politique usuel. «Qui se souvient de Photoshop, accueilli avec des cris d'horreur, qui allait modifier à jamais notre rapport à l'authenticité documentaire ?», rappelle André Gunthert, chercheur en histoire visuelle à l’EHESS. L’émergence du deepfake suscite des craintes légitimes mais rien n’indique que son usage malveillant puisse devenir la norme en politique. Le parti démocrate s’inquiète d’éventuelles fausses vidéos de Nancy Pelosi ou de Joe Biden, mais il est possible que la révolution du deepfake n’accouche en définitive que de vidéos de Donald Trump s’exprimant en espagnol. Une prouesse que seule la technologie peut réaliser.
Lire aussi :
- Épisode 1 : Pour 2020, Trump part avec une longueur d'avance sur le web
- Épisode 2 : Limiter le micro-targeting ne résout pas le problème des fake news
- Episode 3 : Le dilemne des démocrates : gagner sans se salir les mains
