18:37 pm
26 juin 2013
Alors, ça fait un très long moment que je voulais parler du phénomène qu'on appelle Deep Fake... Et qui n'en est pas encore vraiment un d'ailleurs, mais il faut comprendre que c'est une réalité qui va arriver très vite et avec laquelle il va falloir composer. Très sérieusement.
Pourtant, tout commence par de la technologie pour l'Entertainment, et rien d'autre.
La technologie des VFX est maintenant telle qu'on peut recréer des personnages entiers, basés uniquement sur de la Motion Capture ou de la Performance Capture, de Gollum à Alita... Ou même carrément basés sur le talent des animateurs derrière, comme Rocket des Gardiens de la Galaxie, 100% animé à la main.
Mais ça, c'est l'artillerie lourde... Et dans les faits, Hollywood a trouvé d'autres moyens, restants relativement complexes techniquement, mais plus souples d'utilisation, pour réussir à donner vie à des personnages improbables... Ou, ce qui nous intéresse dans notre cas d'étude, faire faire à quelqu'un d'autre les actions d'un personnage, voir carrément un acteur connu, et remplacer la « doublure » par l'acteur en question sans que personne ne capte quoi que ce soir à l'écran.
Ce qui est un peu le cœur du Deep Fake.
Dans le cinéma, voici l'exemple qu'on peut voir dans cet article de Cartoon Brew très justement titré « Les acteurs CG dans le film Logan donc vous ignoriez la présence à l'écran », ou l'on vous montre que dans certaines scène, y compris en plan relativement serré, ce n'est en fait pas Hugh Jackman qui est à l'écran mais un cascadeur sur lequel on a recollé un faux Hugh Jackman par la suite. Et je pense que 99% du public s'est fait avoir par le trucage.
L'article en parle brièvement mais cette technique était aussi utilisé pour que certains personnages de Saga puisse réapparaître à l'écran malgré le fait que les acteurs qui les incarnaient soient mort depuis parfois très longtemps... Comme le cas de Peter Cushing alias le Grand Moff Tarkin de Star Wars IV qui réapparaît dans Rogue One.
Et ça marche... Très bien... Trop bien même... Car j'ai croisé IRL ou Online un paquet de gens qui en fait ne savaient pas qui était Peter Cushing, et n'avaient pas en tête le fait que le premier Star Wars datait de 1977, ni que Cushing était mort en 1994... Soit 22 ans avant la sortie de Rogue One. Et donc qui ont cru que c'était tout simplement le même acteur qui reprenait du service... Bien conservé pour un type sensé avoir 103 ans.
Alors ne rigolez pas trop vite, car le public au sens large n'a pas forcément ces infos en tête, ni même l'intérêt personnel d'aller les chercher. Le public lambda s'en fout, mais de par ce fait ça le rend plus facile à être trompé, ce qui pour le coup est le but : lui faire croire que le Grand Moff Tarkin dans Rogue One est réel.
Mais c'est aussi un peu la base du Deep Fake : profiter du manque d'info du public et du manque de volonté d'aller chercher plus loin, pour lui présenter quelque chose comme réel alors que ça ne l'est pas du tout, en partant du principe qu'il va le prendre pour argent comptant, sans se poser plus de questions.
A noter qu'Hollywood c'est de la grosse machine, et ils peuvent avoir l'intention d'aller très loin dans les délires que leur permet la technologie. Preuve en est de cet autre projet dont parle Cartoon Brew : un film avec pour acteur principal... James Dean... Mort en 1955.
J'imagine bien la réunion de Prod :
- Je verrais bien James Dean dans le rôle titre moi !
- Mais... Il est mort depuis plus de 60 ans !
- Oui ? Et ? C'est vraiment un problème ?...
Dans tous les cas, ça reste théoriquement, comme je le disais plus haut, des affaires de grosses machines, avec des budgets de plusieurs millions de $ et des équipes de spécialistes. Du coup, pour le Deep Fake c'est pas très exploitable non ?
C'est bien le « problème » avec la technologie : ça commence comme un truc totalement délirant qu'une poignée de spécialistes blindés de pognon peuvent se permettre de réaliser... Et à un moment, le développement allant bon train et la maîtrise du procédé trouvant des chemins plus simples, ça devient accessible à un bien plus grand nombre. Alors certes, ce n'est pas sous la forme la plus pure et la plus poussée comme ce que peut avoir Hollywood dans sa boîte à outils...
Mais ça reste relativement convainquant à l’œil.
Pour le coup, on va regarder des Obvious Deep Fake, ce qui veut dire que les références sont tellement connues que la grande majorité des gens vont se rendre compte que ce n'est pas possible sans trucage... Et pourtant ça reste quand même assez bluffant.
On commence par ce Trailer de Retour vers le Futur...
Alors oui c'est bien Tom Holland dans le rôle de Marty, à la place de Michael J. Fox !
Mais on peut aller encore plus loin !
Maintenant on rajoute Robert Downey Jr dans le rôle de Doc Brown !
Un autre exemple ?
Celui là, c'était le fantasme d'un paquet de gens, et maintenant ça existe...
Oui, c'est bien Chris Pratt dans le rôle d'Indiana Jones !
Et tous ces trucs la, ce n'est pas du tout, mais alors pas du tout grâce à une quelconque machinerie fantastique à coup de millions de $ d'Hollywood... C'est du « fait maison » par des fans qui s'y connaissent un minimum et qui ont un logiciel entièrement dédié à cette tâche (et y'en a pas qu'un ).
Donc oui, actuellement la technologie est suffisamment poussée pour que le Deep Fake se démocratise de plus en plus... Et donc commence à envahir internet.
Pour le moment, les gens s'en servent pour des choses fun comme ce qui passe plus haut... Et pour des trucs moins fun et un peu plus glauques ou faut aller dans les coins peu recommandables du Net pour mettre la main dessus et dont je ne parlerais pas forcément ici parce que ce n'est pas mon propos... (même si ça reste moche )
Non, moi ce qui m'intéresse c'est quand quelqu'un va se mettre à en faire un arme de désinformation ou d'intox.
Soyons clair, nous vivons à l'ère des Théories du Complot. Ce genre de chose a toujours existé, mais internet leur a donné un terrain de jeu assez inespéré... Et l'accès à un paquet de gens peu informé, ou naïf, ou autre, suffisamment nombreux pour donner un élan que le phénomène n'avait jamais eu auparavant.
Mais tant qu'on reste dans du Obvious Deep Fake, donc dans le cadre d'une vidéo que l'on peut clairement identifier et ou les personnages qui ont été modifiés n'ont clairement pas leur place dans la version originale, ce n'est pas pour autant très grave...
… Même si les personnes qui n'ont, par exemple, jamais vu Retour vers le Futur ou Indiana Jones et n'y connaîtraient rien en cinéma, pourraient potentiellement se faire avoir, je le rappelle.
Cas récent et agaçant pour les acteurs du film en question, et assez important car il touche directement à la politique : le président américain, Donald Trump, a récemment Retweeté sur Twitter une vidéo Deep Fake tirée du Film Independence Day, centrée sur le discours du président dans le film, mais avec le visage de Donald Trum à la place de l'acteur Bill Pullman, et même plusieurs membres du gouvernement Trump dans les gens assistant au discours.
Il est évident que c'est faux puisque la voix, la morphologie générale reste celles des acteurs d'origine... Et inutile de dire que ça ne leur a pas vraiment plu, pour le coup. Vous avez un seuil de tolérance ou on peut voir d'un œil amusé les Deep Fake que j'ai montré plus haut, mais très mal le fait d'utiliser le même procédé pour véhiculer un message politique.
Pour le moment on est donc dans l'agaçant mais pas dangereux car visible comme le nez au milieu de la figure (ou alors faudrait être complètement débile pour se faire avoir à ce stade... Mais je veux bien admettre qu'on doit pouvoir trouver une poignée d'abrutis sur cette planète qui ont le niveau pour ).
Mais si on commençait à produire des situations totalement fausses, avec la possibilité de faire coller morphologie et voix avec le visage « emprunté » de quelqu'un de connu ?
C'est la qu'intervient la vidéo de l'imitateur Jim Meskimen...
Impressionnant et... Un peu flippant quand même ?
Vous avez dans cette vidéo des passages qui sont encore Obvious Deep Fake, mais on arrive très largement à saisir le potentiel d'avoir une personne qui pourrait être capable d'imiter une voix, avec un maquillage / costume extérieur lui donnant l'apparence général de quelqu'un d'autre, et par dessus lequel on appliquerait le procédé de Deep Fake.
On pourrait créer des situations entièrement fausses ayant pourtant l'apparence d'être réelles. Après, imaginez les utilisations possibles en politique, pour des arnaques économiques, du chantage...
Vous allez me dire que dans tous les cas, ça doit rester possible de prouver que ces vidéos sont des Deep Fakes... Et c'est vrai. Sauf que le danger c'est la diffusion en large sur internet, et le fait que même quand on aura prouvé par A + B que la vidéo était fausse... Vous aurez encore un paquet de gens qui continuerons à croire que c'est vrai, que c'est le Fact Check qui ment pour protéger les gens, En Full Mode Théorie du Complot.
Partez du principe qu'à l'heure actuelle, alors qu'on est encore assez loin de voir ces Deep Fakes nocifs de façon ultra-massive sur le Net, comme ça sera sans doute le cas dans un futur assez proche, on a quand même des gens capables de croire que Bill Gates a crée le COVID-19 dans un laboratoire secret, pour diminuer la population mondiale de 30% et aurait déjà crée un vaccin qui permettrait d'implanter dans le reste de la population mondiale des micro-puces lui donnant la possibilité de contrôler les individus via les ondes 5G... Mais n'aurait visiblement pas été foutu d'empêcher le fait que Juliette Binoche l’apprenne à un moment ou un autre (c'est ballot ).
Dans les « preuves » que les complotistes jugent suffisante pour y croire, le TED Talk de Bill Gates en 2015 !...
Oui, alors, ok, dans les classiques le Méchant fini toujours par faire un monologue au héros, lui expliquant sont plan démoniaque au lieu de le tuer, c'est connu... Mais le Méchant qui vous fait un TED Talk de plus de 8 minutes, 5 ans avant d'implanter son plan démoniaque, j'avais encore jamais vu (faut-il penser à le rajouter aux Rules of the Overlord ? ).
Bref, ce niveau la est déjà suffisant à l'heure actuelle pour qu'un trop grand nombre de gens arrivent à croire des choses totalement impossible à prouver (principalement parce qu'elle sont à 99% fausses à la base... Cela dit, je ne désespère pas de pouvoir rencontrer un Reptilien un de ces 4, ça serait trop cool ! ).
Donc maintenant prenez cette population actuelle et ajoutez lui celle des gens peu informé et peu curieux qui n'iront pas chercher plus loin quand un Deep Fake bien lourd et bien méchant sortira... Sachant qu'à un moment ou un autre, on arrivera vraiment à un niveau ou il sera difficile pour tout le monde de pouvoir trier le vrai du faux au premier coup d’œil.
Et c'est aussi la le problème... Parfois il pourra arriver qu'une vraie vidéo grave remonte à la surface mais que les personnes incriminées par cette dernière puissent crier au Deep Fake pour la discréditer... Et même si pour le coup on arrive à prouver, à l'inverse, que la vidéo est non truquée, vous aurez quand même encore des gens pour ne pas le croire, et ça sera encore plus tendu que les cas récents que j'ai cité plus haut.
Bref, j'espère que vous êtes prêt psychologiquement parce que je pense qu'à un moment ou un autre, ça va vraiment devenir un phénomène qui va être difficile d'ignorer comme le gadget que c'est un peu encore à l'heure actuelle.
17:19 pm
26 juin 2013
Plus le temps passe, plus la technologie s'affine et devient franchement flippante...
Je vous laisser juger avec cette vidéo :
See this video of Tom Cruise?
Well, it’s not Tom Cruise.
It’s AI generated synthetic media that portrays Tom Cruise onto a TikTok user using Deepfakes.
Seeing is no longer believing. pic.twitter.com/CRix0hD9OH
— Mckay Wrigley (@mckaywrigley) February 25, 2021
Donc, comme vous l'avez sûrement deviné à cause du sujet même de notre Topic : ce n'est pas Tom Cruise. C'est un acteur sur lequel on a recollé le visage de Tom Cruise.
Vous allez me dire que ça se voit ? Et bien faites le test chez vous : montrez-le à des proches ou des collègues SANS LEUR DONNER DE CONTEXTE ni même leur laisser lire le texte qui va avec le Tweet : mettez la vidéo en Full Screen et laissez tourner.
De mon côté, dans les gens qui n'y connaissent pas grand chose en tech vidéo, la réaction va de "Bah, c'est Tom Cruise..." à "Il est bourré Tom Cruise ?" pour les plus méfiants.
Les gens qui ne sont pas à fond dans les délires d'internet et la technologie de l'image (et qui compose une très vaste majorités de gens sur cette planète) mais qui ont accès à internet (comme de plus en plus de monde) vont très très facilement se faire avoir, et c'est la le problème...
Ah sinon on peut aussi faire parler (mal) des photos d'acteurs de Game of Thrones... C'est encore assez brouillon mais laisser le temps au temps, comme on dit...
The soft used is this one :https://t.co/sW2vxCE1P9 pic.twitter.com/1QZ3bPy5GN
— Catsuka (@catsuka) March 7, 2021
18:26 pm
26 juin 2013
Catégorie différente mais bientôt le même problème...
Pour ceux qui ne connaissent pas, MetaHuman Creator c'est une solution gratuite pour les utilisateurs de L'Unreal Engine 4 qui permet à n'importe qui de créer des perso ultra réalistes pour les jeux vidéos. pic.twitter.com/cgdaqOXlkC
— ⛩ Ryo Saeba | Japon XYZ ⛩ (@Ryo_Saeba_3) April 16, 2021
12:05 pm
26 juin 2013
Vous vous souvenez des vidéos Deep Fake avec l'imitateur de Tom Cruise de l'année dernière ? Et bien visiblement il aura fallu que des gens les découvrent récemment sur TikTok pour que ça commencent à percuter sur le fait que ça peut potentiellement être flippant et dangereux ? On est pas sorti de l'auberge...
16:08 pm
26 juin 2013
Alors, c'est reparti pour se plonger dans l'enfer des possibilité du Deep Fake, car je continue de trouver que les gens s'en inquiète à peine alors que la technologie avance de plus en plus vite et que, on va le voir, la loi ne semble pas vraiment prête à gérer les détournements possibles.
aux USA, c'est un peu l'affaire Kendrick Lamar qui a fini par pousser les légistes de tout poil d'Hollywood à vraiment se poser des questions (voir cet article de THR). En gros, Lamar a produit un clip dans lequel il se transforme en plusieurs personnalités connues... Alors oui, c'est exactement le même principe, et carrément en moins flippant, que la vidéo de l'imitateur Jim Meskimen que j'avais posté plus haut. Mais voilà, le clip de Kendrick Lamar a eu beaucoup plus de visibilité, ce qui a permis à certains de se poser la question suivante : "Attend ? Les personnalités ont donné leur accord ?"... Sauf que la réponse était elle aussi bien flippante :
On s'en fout de leur accord...
Car en réalité, y'en a pas besoin...
(si, si... )
Surpris ? Et pourtant réfléchissez au truc. On pense direct au "droit à l'image" mais en fait ce droit couvre les images de VOUS, celle qui ont été prise ou filmées quand VOUS étiez devant l'objectif, or là aucune des vedettes en question n'a jamais été prise en photo ou filmée pour les besoin du clip. Tout est 100% Fake, virtuel, CGI.
Mais le résultat leur ressemble comme 2 gouttes d'eau, non ? Ouais mais cette "Ressemblance" (ou Likeness) n'est pas couverte par la loi, et pour une raison parfaitement simple : imaginez que vous ayez un jumeau ou un sosie, si vous pouviez revendiquer un caractère "unique" à votre image, vous pourriez porter plainte envers le sosie rien que parce qu'il vous ressemble ! Or actuellement, c'est uniquement si cette personne tente de se faire passer pour vous, que vous pouvez porter plainte.
Dans le cas du clip de Kendrick Lamar, et même celui de Jim Meskimen, le contexte fait qu'il est clair qu'aucun des deux ne tente de se faire passer pour une autre personne de façon à véritablement tromper le spectateur à ce sujet... Du coup, bah c'est... Légal ?
Bah oui en fait...
Et c'est d'ailleurs exactement ce qu'a démontrer, Miles Fisher, a.k.a "The Tom Cruise Guy", avec ses performances vidéo ou il incarne Tom Cruise mais toujours en précisant bien dans le contexte général qu'il n'est pas Tom Cruise et que c'est du Deep Fake... Ce qui, au passage est une belle revanche sur le côté empoissonnant que cette ressemblance a pu avoir sur sa propre vie, comme il le raconte dans cette tribune de THR. Il a donc su capitaliser sur cette foutue ressemblance et sur la technologie, pour réussir à se mettre en avant grâce à l'image d'un autre ! Et, encore une fois, c'est parfaitement légal dans ce sens...
Mais voilà, le problème c'est que si on se met à jouer avec cette limite, qu'est-ce qui empêche certains de faire des vidéos entières avec des personnes célèbres en Deep Fake, en précisant quelque part que ça en est, et en récupérant l'aura de ces personnes au passage, et sans vraiment rien leur devoir ni même avoir à leur demander la permission... Ou même, imaginez le comble, faire un film entier avec un acteur qui n'est pas là, a qui on n'a pas demandé son avis, mais en précisant au générique que ce n'est pas lui dans le film.
C'est pour cela que la SAG-AFTRA, Guild (syndicat) des acteurs d'Hollywood a commencé à se pencher sur le problème et tente d'établir des accords via contrat type qui pourraient garantir qu'une production ne puisse pas s'accaparer l'image et la notoriété d'une vedette via cette technologie. Et pour le coup c'est juste le début, car on est très loin de pouvoir imaginer toutes les situations bizarres que cette technologie risque d'engendrer.
Et pour le moment, côté législatif, on a vu assez peu de mouvement dans le Monde, sans doute parce que ça ne doit pas leur paraître une priorité malgré tous les problèmes de désinformations actuels récurrent (et il faut aussi partir du principe que certains politiques vont sans doute tenter de tirer parti de cette technologie un de ces 4, directement ou indirectement mais ça paraît évident. ).
Ça, c'est pourtant quelque chose qu'on sait et redoute depuis un bail, comme le montre cette vidéo de la BBC de 2019, qui comporte même en exemple un passage de la vidéo de Jordan Peele / Obama Deep Fake de 2018...
Dans tous les cas, on se doit de garder un oeil la dessus, juste histoire de ne pas nous même tomber dans le panneau quand ce dernier finira par avoir des conséquences potentiellement dangereuses.
15:30 pm
3 septembre 2013
15:50 pm
26 juin 2013
Ce qui dans un sens est problématique c'est que ces films comme Le Congrès dénonçaient le truc sous forme Dystopique... Or maintenant c'est clairement une réalité.
8:36 am
26 juin 2013
Et bien sur, le truc qui est devenu le plus courant, très vite, et qui n'est absolument pas traité correctement par les autorités à l'heure actuelle : Le Deepfake Porn.
Voici un long Thread qui en parle et qui montre à quel point c'est répandu car les conséquences sont pour le moment quasi inexistante pour les fautifs.
Hey all - serious topic - and honestly just a tiny blip in the conversation. My experience is not unique in the slightest, which is why I feel compelled to speak out. It can and will truly happen to anyone. I hope you take a listen, and help me take some action against deepfakes. pic.twitter.com/pbH7kf0PI1
— Gibi @ Shrek's Swamp 🐸 (@GibiOfficial) November 10, 2022
18:17 pm
26 juin 2013
Well... (plus qu'à attendre que quelqu'un s'en servent pour un truc politique et on est effectivement foutu. )
we’re fucked 😂😂 pic.twitter.com/zrN65o89ra
— SaaS Trash 🗑🔥 (@saastrash) December 14, 2022
21:57 pm
26 juin 2013
On est définitivement foutu...
Deep-Live-Cam is trending #1 on github. It enables anyone to convert a single image into a LIVE stream deepfake, instant and immediately. pic.twitter.com/yWuHgRaGDp
— Del Walker 🇵🇸 (@TheCartelDel) August 12, 2024
Most Users Ever Online: 405
Currently Online:
12 Guest(s)
Currently Browsing this Page:
1 Guest(s)
Top Posters:
Fresh: 389
Charrys: 243
macromaster_42: 239
tsatse: 231
lololeboiteux: 160
FrozenOwl: 154
itaf: 142
Fenix in Paris: 139
hunterogue: 124
Poyjo: 62
Member Stats:
Guest Posters: 142
Members: 182
Moderators: 0
Admins: 1
Forum Stats:
Groups: 3
Forums: 8
Topics: 1529
Posts: 14637
Newest Members:
villagetalkies, Enzo, Tonya, Nyxie, ilovebakugo, dovewantstobreakfree, nyappy, Aslante, ivebeenhavingsomeissues, nyazuAdministrators: Marco Sensei: 11112