Alors, ça fait un très long moment que je voulais parler du phénomène qu'on appelle Deep Fake... Et qui n'en est pas encore vraiment un d'ailleurs, mais il faut comprendre que c'est une réalité qui va arriver très vite et avec laquelle il va falloir composer. Très sérieusement.

Pourtant, tout commence par de la technologie pour l'Entertainment, et rien d'autre.

La technologie des VFX est maintenant telle qu'on peut recréer des personnages entiers, basés uniquement sur de la Motion Capture ou de la Performance Capture, de Gollum à Alita... Ou même carrément basés sur le talent des animateurs derrière, comme Rocket des Gardiens de la Galaxie, 100% animé à la main.

Mais ça, c'est l'artillerie lourde... Et dans les faits, Hollywood a trouvé d'autres moyens, restants relativement complexes techniquement, mais plus souples d'utilisation, pour réussir à donner vie à des personnages improbables... Ou, ce qui nous intéresse dans notre cas d'étude, faire faire à quelqu'un d'autre les actions d'un personnage, voir carrément un acteur connu, et remplacer la « doublure » par l'acteur en question sans que personne ne capte quoi que ce soir à l'écran.

Ce qui est un peu le cœur du Deep Fake.

Dans le cinéma, voici l'exemple qu'on peut voir dans cet article de Cartoon Brew très justement titré « Les acteurs CG dans le film Logan donc vous ignoriez la présence à l'écran », ou l'on vous montre que dans certaines scène, y compris en plan relativement serré, ce n'est en fait pas Hugh Jackman qui est à l'écran mais un cascadeur sur lequel on a recollé un faux Hugh Jackman par la suite. Et je pense que 99% du public s'est fait avoir par le trucage.

L'article en parle brièvement mais cette technique était aussi utilisé pour que certains personnages de Saga puisse réapparaître à l'écran malgré le fait que les acteurs qui les incarnaient soient mort depuis parfois très longtemps... Comme le cas de Peter Cushing alias le Grand Moff Tarkin de Star Wars IV qui réapparaît dans Rogue One.

Et ça marche... Très bien... Trop bien même... Car j'ai croisé IRL ou Online un paquet de gens qui en fait ne savaient pas qui était Peter Cushing, et n'avaient pas en tête le fait que le premier Star Wars datait de 1977, ni que Cushing était mort en 1994... Soit 22 ans avant la sortie de Rogue One. Et donc qui ont cru que c'était tout simplement le même acteur qui reprenait du service... Bien conservé pour un type sensé avoir 103 ans.

Alors ne rigolez pas trop vite, car le public au sens large n'a pas forcément ces infos en tête, ni même l'intérêt personnel d'aller les chercher. Le public lambda s'en fout, mais de par ce fait ça le rend plus facile à être trompé, ce qui pour le coup est le but : lui faire croire que le Grand Moff Tarkin dans Rogue One est réel.

Mais c'est aussi un peu la base du Deep Fake : profiter du manque d'info du public et du manque de volonté d'aller chercher plus loin, pour lui présenter quelque chose comme réel alors que ça ne l'est pas du tout, en partant du principe qu'il va le prendre pour argent comptant, sans se poser plus de questions.

A noter qu'Hollywood c'est de la grosse machine, et ils peuvent avoir l'intention d'aller très loin dans les délires que leur permet la technologie. Preuve en est de cet autre projet dont parle Cartoon Brew : un film avec pour acteur principal... James Dean... Mort en 1955.

J'imagine bien la réunion de Prod :

- Je verrais bien James Dean dans le rôle titre moi !
- Mais... Il est mort depuis plus de 60 ans !
- Oui ? Et ? C'est vraiment un problème ?...

Dans tous les cas, ça reste théoriquement, comme je le disais plus haut, des affaires de grosses machines, avec des budgets de plusieurs millions de $ et des équipes de spécialistes. Du coup, pour le Deep Fake c'est pas très exploitable non ?

C'est bien le « problème » avec la technologie : ça commence comme un truc totalement délirant qu'une poignée de spécialistes blindés de pognon peuvent se permettre de réaliser... Et à un moment, le développement allant bon train et la maîtrise du procédé trouvant des chemins plus simples, ça devient accessible à un bien plus grand nombre. Alors certes, ce n'est pas sous la forme la plus pure et la plus poussée comme ce que peut avoir Hollywood dans sa boîte à outils...

Mais ça reste relativement convainquant à l’œil.

Pour le coup, on va regarder des Obvious Deep Fake, ce qui veut dire que les références sont tellement connues que la grande majorité des gens vont se rendre compte que ce n'est pas possible sans trucage... Et pourtant ça reste quand même assez bluffant.

On commence par ce Trailer de Retour vers le Futur...

https://youtu.be/w8BIeFJurOI

Alors oui c'est bien Tom Holland dans le rôle de Marty, à la place de Michael J. Fox !

Mais on peut aller encore plus loin !

Maintenant on rajoute Robert Downey Jr dans le rôle de Doc Brown !

Un autre exemple ?
Celui là, c'était le fantasme d'un paquet de gens, et maintenant ça existe... 

Oui, c'est bien Chris Pratt dans le rôle d'Indiana Jones !

Et tous ces trucs la, ce n'est pas du tout, mais alors pas du tout grâce à une quelconque machinerie fantastique à coup de millions de $ d'Hollywood... C'est du « fait maison » par des fans qui s'y connaissent un minimum et qui ont un logiciel entièrement dédié à cette tâche (et y'en a pas qu'un ).

Donc oui, actuellement la technologie est suffisamment poussée pour que le Deep Fake se démocratise de plus en plus... Et donc commence à envahir internet.

Pour le moment, les gens s'en servent pour des choses fun comme ce qui passe plus haut... Et pour des trucs moins fun et un peu plus glauques ou faut aller dans les coins peu recommandables du Net pour mettre la main dessus et dont je ne parlerais pas forcément ici parce que ce n'est pas mon propos... (même si ça reste moche )

Non, moi ce qui m'intéresse c'est quand quelqu'un va se mettre à en faire un arme de désinformation ou d'intox.

Soyons clair, nous vivons à l'ère des Théories du Complot. Ce genre de chose a toujours existé, mais internet leur a donné un terrain de jeu assez inespéré... Et l'accès à un paquet de gens peu informé, ou naïf, ou autre, suffisamment nombreux pour donner un élan que le phénomène n'avait jamais eu auparavant.

Mais tant qu'on reste dans du Obvious Deep Fake, donc dans le cadre d'une vidéo que l'on peut clairement identifier et ou les personnages qui ont été modifiés n'ont clairement pas leur place dans la version originale, ce n'est pas pour autant très grave...

… Même si les personnes qui n'ont, par exemple, jamais vu Retour vers le Futur ou Indiana Jones et n'y connaîtraient rien en cinéma, pourraient potentiellement se faire avoir, je le rappelle.

Cas récent et agaçant pour les acteurs du film en question, et assez important car il touche directement à la politique : le président américain, Donald Trump, a récemment Retweeté sur Twitter une vidéo Deep Fake tirée du Film Independence Day, centrée sur le discours du président dans le film, mais avec le visage de Donald Trum à la place de l'acteur Bill Pullman, et même plusieurs membres du gouvernement Trump dans les gens assistant au discours.

Il est évident que c'est faux puisque la voix, la morphologie générale reste celles des acteurs d'origine... Et inutile de dire que ça ne leur a pas vraiment plu, pour le coup. Vous avez un seuil de tolérance ou on peut voir d'un œil amusé les Deep Fake que j'ai montré plus haut, mais très mal le fait d'utiliser le même procédé pour véhiculer un message politique.

Pour le moment on est donc dans l'agaçant mais pas dangereux car visible comme le nez au milieu de la figure (ou alors faudrait être complètement débile pour se faire avoir à ce stade... Mais je veux bien admettre qu'on doit pouvoir trouver une poignée d'abrutis sur cette planète qui ont le niveau pour ).

Mais si on commençait à produire des situations totalement fausses, avec la possibilité de faire coller morphologie et voix avec le visage « emprunté » de quelqu'un de connu ?

C'est la qu'intervient la vidéo de l'imitateur Jim Meskimen...

Impressionnant et... Un peu flippant quand même ?

Vous avez dans cette vidéo des passages qui sont encore Obvious Deep Fake, mais on arrive très largement à saisir le potentiel d'avoir une personne qui pourrait être capable d'imiter une voix, avec un maquillage / costume extérieur lui donnant l'apparence général de quelqu'un d'autre, et par dessus lequel on appliquerait le procédé de Deep Fake.

On pourrait créer des situations entièrement fausses ayant pourtant l'apparence d'être réelles. Après, imaginez les utilisations possibles en politique, pour des arnaques économiques, du chantage...

Vous allez me dire que dans tous les cas, ça doit rester possible de prouver que ces vidéos sont des Deep Fakes... Et c'est vrai. Sauf que le danger c'est la diffusion en large sur internet, et le fait que même quand on aura prouvé par A + B que la vidéo était fausse... Vous aurez encore un paquet de gens qui continuerons à croire que c'est vrai, que c'est le Fact Check qui ment pour protéger les gens, En Full Mode Théorie du Complot.

Partez du principe qu'à l'heure actuelle, alors qu'on est encore assez loin de voir ces Deep Fakes nocifs de façon ultra-massive sur le Net, comme ça sera sans doute le cas dans un futur assez proche, on a quand même des gens capables de croire que Bill Gates a crée le COVID-19 dans un laboratoire secret, pour diminuer la population mondiale de 30% et aurait déjà crée un vaccin qui permettrait d'implanter dans le reste de la population mondiale des micro-puces lui donnant la possibilité de contrôler les individus via les ondes 5G... Mais n'aurait visiblement pas été foutu d'empêcher le fait que Juliette Binoche l’apprenne à un moment ou un autre (c'est ballot ).

Dans les « preuves » que les complotistes jugent suffisante pour y croire, le TED Talk de Bill Gates en 2015 !...

Oui, alors, ok, dans les classiques le Méchant fini toujours par faire un monologue au héros, lui expliquant sont plan démoniaque au lieu de le tuer, c'est connu... Mais le Méchant qui vous fait un TED Talk de plus de 8 minutes, 5 ans avant d'implanter son plan démoniaque, j'avais encore jamais vu (faut-il penser à le rajouter aux Rules of the Overlord ? ).

Bref, ce niveau la est déjà suffisant à l'heure actuelle pour qu'un trop grand nombre de gens arrivent à croire des choses totalement impossible à prouver (principalement parce qu'elle sont à 99% fausses à la base... Cela dit, je ne désespère pas de pouvoir rencontrer un Reptilien un de ces 4, ça serait trop cool ! ).

Donc maintenant prenez cette population actuelle et ajoutez lui celle des gens peu informé et peu curieux qui n'iront pas chercher plus loin quand un Deep Fake bien lourd et bien méchant sortira... Sachant qu'à un moment ou un autre, on arrivera vraiment à un niveau ou il sera difficile pour tout le monde de pouvoir trier le vrai du faux au premier coup d’œil.

Et c'est aussi la le problème... Parfois il pourra arriver qu'une vraie vidéo grave remonte à la surface mais que les personnes incriminées par cette dernière puissent crier au Deep Fake pour la discréditer... Et même si pour le coup on arrive à prouver, à l'inverse, que la vidéo est non truquée, vous aurez quand même encore des gens pour ne pas le croire, et ça sera encore plus tendu que les cas récents que j'ai cité plus haut.

Bref, j'espère que vous êtes prêt psychologiquement parce que je pense qu'à un moment ou un autre, ça va vraiment devenir un phénomène qui va être difficile d'ignorer comme le gadget que c'est un peu encore à l'heure actuelle.