A A A
Avatar

Please consider registering
guest

sp_LogInOut Log In sp_Registration Register sp_MemberList Members

Register | Lost password?
Advanced Search

— Forum Scope —




— Match —





— Forum Options —





Minimum search word length is 3 characters - maximum search word length is 84 characters

sp_Related Related Topics sp_TopicIcon
Le Deep Fake, c'est pas de la blague... :p
[Analyse VFX]
Topic Rating: 0 Topic Rating: 0 Topic Rating: 0 Topic Rating: 0 Topic Rating: 0 Topic Rating: 0 (0 votes) 
Tags: Analyse
21 mai 2020
18:37
Avatar
Gribouille Sensei
Forum Posts: 9353
Member Since:
26 juin 2013
sp_UserOfflineSmall Offline

Alors, ça fait un très long moment que je voulais parler du phénomène qu'on appelle Deep Fake... Et qui n'en est pas encore vraiment un d'ailleurs, mais il faut comprendre que c'est une réalité qui va arriver très vite et avec laquelle il va falloir composer. Très sérieusement. confused

Pourtant, tout commence par de la technologie pour l'Entertainment, et rien d'autre.

La technologie des VFX est maintenant telle qu'on peut recréer des personnages entiers, basés uniquement sur de la Motion Capture ou de la Performance Capture, de Gollum à Alita... Ou même carrément basés sur le talent des animateurs derrière, comme Rocket des Gardiens de la Galaxie, 100% animé à la main.

Mais ça, c'est l'artillerie lourde... Et dans les faits, Hollywood a trouvé d'autres moyens, restants relativement complexes techniquement, mais plus souples d'utilisation, pour réussir à donner vie à des personnages improbables... Ou, ce qui nous intéresse dans notre cas d'étude, faire faire à quelqu'un d'autre les actions d'un personnage, voir carrément un acteur connu, et remplacer la « doublure » par l'acteur en question sans que personne ne capte quoi que ce soir à l'écran.

Ce qui est un peu le cœur du Deep Fake.

Dans le cinéma, voici l'exemple qu'on peut voir dans cet article de Cartoon Brew très justement titré « Les acteurs CG dans le film Logan donc vous ignoriez la présence à l'écran », ou l'on vous montre que dans certaines scène, y compris en plan relativement serré, ce n'est en fait pas Hugh Jackman qui est à l'écran mais un cascadeur sur lequel on a recollé un faux Hugh Jackman par la suite. Et je pense que 99% du public s'est fait avoir par le trucage. tongue2

L'article en parle brièvement mais cette technique était aussi utilisé pour que certains personnages de Saga puisse réapparaître à l'écran malgré le fait que les acteurs qui les incarnaient soient mort depuis parfois très longtemps... Comme le cas de Peter Cushing alias le Grand Moff Tarkin de Star Wars IV qui réapparaît dans Rogue One.

Et ça marche... Très bien... Trop bien même... Car j'ai croisé IRL ou Online un paquet de gens qui en fait ne savaient pas qui était Peter Cushing, et n'avaient pas en tête le fait que le premier Star Wars datait de 1977, ni que Cushing était mort en 1994... Soit 22 ans avant la sortie de Rogue One. Et donc qui ont cru que c'était tout simplement le même acteur qui reprenait du service... Bien conservé pour un type sensé avoir 103 ans. rolleyes

Alors ne rigolez pas trop vite, car le public au sens large n'a pas forcément ces infos en tête, ni même l'intérêt personnel d'aller les chercher. Le public lambda s'en fout, mais de par ce fait ça le rend plus facile à être trompé, ce qui pour le coup est le but : lui faire croire que le Grand Moff Tarkin dans Rogue One est réel. wink

Mais c'est aussi un peu la base du Deep Fake : profiter du manque d'info du public et du manque de volonté d'aller chercher plus loin, pour lui présenter quelque chose comme réel alors que ça ne l'est pas du tout, en partant du principe qu'il va le prendre pour argent comptant, sans se poser plus de questions.

A noter qu'Hollywood c'est de la grosse machine, et ils peuvent avoir l'intention d'aller très loin dans les délires que leur permet la technologie. Preuve en est de cet autre projet dont parle Cartoon Brew : un film avec pour acteur principal... James Dean... Mort en 1955. gah

J'imagine bien la réunion de Prod :

- Je verrais bien James Dean dans le rôle titre moi ! happy
- Mais... Il est mort depuis plus de 60 ans ! blink
- Oui ? Et ? C'est vraiment un problème ?... whistle

Dans tous les cas, ça reste théoriquement, comme je le disais plus haut, des affaires de grosses machines, avec des budgets de plusieurs millions de $ et des équipes de spécialistes. Du coup, pour le Deep Fake c'est pas très exploitable non ? confused

C'est bien le « problème » avec la technologie : ça commence comme un truc totalement délirant qu'une poignée de spécialistes blindés de pognon peuvent se permettre de réaliser... Et à un moment, le développement allant bon train et la maîtrise du procédé trouvant des chemins plus simples, ça devient accessible à un bien plus grand nombre. Alors certes, ce n'est pas sous la forme la plus pure et la plus poussée comme ce que peut avoir Hollywood dans sa boîte à outils...

Mais ça reste relativement convainquant à l’œil.

Pour le coup, on va regarder des Obvious Deep Fake, ce qui veut dire que les références sont tellement connues que la grande majorité des gens vont se rendre compte que ce n'est pas possible sans trucage... Et pourtant ça reste quand même assez bluffant.

On commence par ce Trailer de Retour vers le Futur...

https://youtu.be/w8BIeFJurOI

Alors oui c'est bien Tom Holland dans le rôle de Marty, à la place de Michael J. Fox ! blink

Mais on peut aller encore plus loin ! tongue2

Maintenant on rajoute Robert Downey Jr dans le rôle de Doc Brown ! laugh

Un autre exemple ?
Celui là, c'était le fantasme d'un paquet de gens, et maintenant ça existe... 

Oui, c'est bien Chris Pratt dans le rôle d'Indiana Jones ! w00t

Et tous ces trucs la, ce n'est pas du tout, mais alors pas du tout grâce à une quelconque machinerie fantastique à coup de millions de $ d'Hollywood... C'est du « fait maison » par des fans qui s'y connaissent un minimum et qui ont un logiciel entièrement dédié à cette tâche (et y'en a pas qu'un rolleyes).

Donc oui, actuellement la technologie est suffisamment poussée pour que le Deep Fake se démocratise de plus en plus... Et donc commence à envahir internet.

Pour le moment, les gens s'en servent pour des choses fun comme ce qui passe plus haut... Et pour des trucs moins fun et un peu plus glauques ou faut aller dans les coins peu recommandables du Net pour mettre la main dessus et dont je ne parlerais pas forcément ici parce que ce n'est pas mon propos... (même si ça reste moche brooding)

Non, moi ce qui m'intéresse c'est quand quelqu'un va se mettre à en faire un arme de désinformation ou d'intox. dry

Soyons clair, nous vivons à l'ère des Théories du Complot. Ce genre de chose a toujours existé, mais internet leur a donné un terrain de jeu assez inespéré... Et l'accès à un paquet de gens peu informé, ou naïf, ou autre, suffisamment nombreux pour donner un élan que le phénomène n'avait jamais eu auparavant. blink

Mais tant qu'on reste dans du Obvious Deep Fake, donc dans le cadre d'une vidéo que l'on peut clairement identifier et ou les personnages qui ont été modifiés n'ont clairement pas leur place dans la version originale, ce n'est pas pour autant très grave...

… Même si les personnes qui n'ont, par exemple, jamais vu Retour vers le Futur ou Indiana Jones et n'y connaîtraient rien en cinéma, pourraient potentiellement se faire avoir, je le rappelle. rolleyes

Cas récent et agaçant pour les acteurs du film en question, et assez important car il touche directement à la politique : le président américain, Donald Trump, a récemment Retweeté sur Twitter une vidéo Deep Fake tirée du Film Independence Day, centrée sur le discours du président dans le film, mais avec le visage de Donald Trum à la place de l'acteur Bill Pullman, et même plusieurs membres du gouvernement Trump dans les gens assistant au discours.

Il est évident que c'est faux puisque la voix, la morphologie générale reste celles des acteurs d'origine... Et inutile de dire que ça ne leur a pas vraiment plu, pour le coup. Vous avez un seuil de tolérance ou on peut voir d'un œil amusé les Deep Fake que j'ai montré plus haut, mais très mal le fait d'utiliser le même procédé pour véhiculer un message politique. dry

Pour le moment on est donc dans l'agaçant mais pas dangereux car visible comme le nez au milieu de la figure (ou alors faudrait être complètement débile pour se faire avoir à ce stade... Mais je veux bien admettre qu'on doit pouvoir trouver une poignée d'abrutis sur cette planète qui ont le niveau pour rolleyes).

Mais si on commençait à produire des situations totalement fausses, avec la possibilité de faire coller morphologie et voix avec le visage « emprunté » de quelqu'un de connu ? confused

C'est la qu'intervient la vidéo de l'imitateur Jim Meskimen...

Impressionnant et... Un peu flippant quand même ? ouuuups

Vous avez dans cette vidéo des passages qui sont encore Obvious Deep Fake, mais on arrive très largement à saisir le potentiel d'avoir une personne qui pourrait être capable d'imiter une voix, avec un maquillage / costume extérieur lui donnant l'apparence général de quelqu'un d'autre, et par dessus lequel on appliquerait le procédé de Deep Fake.

On pourrait créer des situations entièrement fausses ayant pourtant l'apparence d'être réelles. Après, imaginez les utilisations possibles en politique, pour des arnaques économiques, du chantage... omg

Vous allez me dire que dans tous les cas, ça doit rester possible de prouver que ces vidéos sont des Deep Fakes... Et c'est vrai. Sauf que le danger c'est la diffusion en large sur internet, et le fait que même quand on aura prouvé par A + B que la vidéo était fausse... Vous aurez encore un paquet de gens qui continuerons à croire que c'est vrai, que c'est le Fact Check qui ment pour protéger les gens, En Full Mode Théorie du Complot. dry

Partez du principe qu'à l'heure actuelle, alors qu'on est encore assez loin de voir ces Deep Fakes nocifs de façon ultra-massive sur le Net, comme ça sera sans doute le cas dans un futur assez proche, on a quand même des gens capables de croire que Bill Gates a crée le COVID-19 dans un laboratoire secret, pour diminuer la population mondiale de 30% et aurait déjà crée un vaccin qui permettrait d'implanter dans le reste de la population mondiale des micro-puces lui donnant la possibilité de contrôler les individus via les ondes 5G... Mais n'aurait visiblement pas été foutu d'empêcher le fait que Juliette Binoche l’apprenne à un moment ou un autre (c'est ballot whistle).

Dans les « preuves » que les complotistes jugent suffisante pour y croire, le TED Talk de Bill Gates en 2015 !... ouuuups

Oui, alors, ok, dans les classiques le Méchant fini toujours par faire un monologue au héros, lui expliquant sont plan démoniaque au lieu de le tuer, c'est connu... Mais le Méchant qui vous fait un TED Talk de plus de 8 minutes, 5 ans avant d'implanter son plan démoniaque, j'avais encore jamais vu (faut-il penser à le rajouter aux Rules of the Overlord ? rolleyes).

Bref, ce niveau la est déjà suffisant à l'heure actuelle pour qu'un trop grand nombre de gens arrivent à croire des choses totalement impossible à prouver (principalement parce qu'elle sont à 99% fausses à la base... Cela dit, je ne désespère pas de pouvoir rencontrer un Reptilien un de ces 4, ça serait trop cool ! w00t).

Donc maintenant prenez cette population actuelle et ajoutez lui celle des gens peu informé et peu curieux qui n'iront pas chercher plus loin quand un Deep Fake bien lourd et bien méchant sortira... Sachant qu'à un moment ou un autre, on arrivera vraiment à un niveau ou il sera difficile pour tout le monde de pouvoir trier le vrai du faux au premier coup d’œil. wacko

Et c'est aussi la le problème... Parfois il pourra arriver qu'une vraie vidéo grave remonte à la surface mais que les personnes incriminées par cette dernière puissent crier au Deep Fake pour la discréditer... Et même si pour le coup on arrive à prouver, à l'inverse, que la vidéo est non truquée, vous aurez quand même encore des gens pour ne pas le croire, et ça sera encore plus tendu que les cas récents que j'ai cité plus haut. confused

Bref, j'espère que vous êtes prêt psychologiquement parce que je pense qu'à un moment ou un autre, ça va vraiment devenir un phénomène qui va être difficile d'ignorer comme le gadget que c'est un peu encore à l'heure actuelle. ouuuups

22 mai 2020
16:25
Avatar
Apprenti(e) Gribouille
Members
Forum Posts: 44
Member Since:
17 novembre 2019
sp_UserOfflineSmall Offline

Yes ! Perso, j'étais au courant depuis plusieurs mois déjà car en fait, c'est les gars de Hitfilm qui ont réalisé ces dernières vidéos en deepfake, avec DeepFaceLab.

Hitfilm est le logiciel que j'uitilise à la place d'After Effect, donc je reçois toujours leurs améliorations par des nouvelles sur "la page d'accueille" du logiciel quand on l'ouvre. C'est un condensé de Première Pro, AfterEffect, et quelques autres logiciels équivalant d'Adobe.

Je vais pas trop détailler, mais en gros on peut faire beaucoup de chose avec Hitiflm. Et ils sont pourtant très discrêts je trouve, alors qu'en animation et plein d'autres domaines, leur logiciel est hyper pratique !

22 mai 2020
16:43
Avatar
Apprenti(e) Gribouille
Members
Forum Posts: 44
Member Since:
17 novembre 2019
sp_UserOfflineSmall Offline

Sinon, le deepfake je vois pas trop où ça pourra nous mener dans le cinéma au fond. Car, même avec le temps, les acteurs et actrices qui joueront voudront certainement qu'on les voient eux et pas d'autres en deepfake à leurs places. Pour les cascadeurs et cascadeuses, là en tout cas, ça va être pratique, surement.

 

En revanche, je me dis surtout que ça va devenir quelque chose de plutôt dangeureux, politiquement je veux dire (et sur le plan de la guerre froide d'aujourd'hui ça peut faire des ravages si cette technologie évolue vraiment, sans aller trop loin non plus (fausse accusation, etc)). Bref... Mais on verra bien, normalement, ça devrait pouvoir se contrôler.

8 mars 2021
17:19
Avatar
Gribouille Sensei
Forum Posts: 9353
Member Since:
26 juin 2013
sp_UserOfflineSmall Offline

Plus le temps passe, plus la technologie s'affine et devient franchement flippante... gah

Je vous laisser juger avec cette vidéo :

Donc, comme vous l'avez sûrement deviné à cause du sujet même de notre Topic : ce n'est pas Tom Cruise. C'est un acteur sur lequel on a recollé le visage de Tom Cruise.

Vous allez me dire que ça se voit ? Et bien faites le test chez vous : montrez-le à des proches ou des collègues SANS LEUR DONNER DE CONTEXTE ni même leur laisser lire le texte qui va avec le Tweet : mettez la vidéo en Full Screen et laissez tourner.

De mon côté, dans les gens qui n'y connaissent pas grand chose en tech vidéo, la réaction va de "Bah, c'est Tom Cruise..." à "Il est bourré Tom Cruise ?" pour les plus méfiants. ouuuups

Les gens qui ne sont pas à fond dans les délires d'internet et la technologie de l'image (et qui compose une très vaste majorités de gens sur cette planète) mais qui ont accès à internet (comme de plus en plus de monde) vont très très facilement se faire avoir, et c'est la le problème... dry

Ah sinon on peut aussi faire parler (mal) des photos d'acteurs de Game of Thrones... C'est encore assez brouillon mais laisser le temps au temps, comme on dit... whistle

30 mars 2021
13:43
Avatar
Gribouille Sensei
Forum Posts: 9353
Member Since:
26 juin 2013
sp_UserOfflineSmall Offline

Une petite vidéo MSNBC assez intéressante sur le sujet :

16 avril 2021
18:26
Avatar
Gribouille Sensei
Forum Posts: 9353
Member Since:
26 juin 2013
sp_UserOfflineSmall Offline

Catégorie différente mais bientôt le même problème... blink

14 avril 2022
12:05
Avatar
Gribouille Sensei
Forum Posts: 9353
Member Since:
26 juin 2013
sp_UserOfflineSmall Offline

Vous vous souvenez des vidéos Deep Fake avec l'imitateur de Tom Cruise de l'année dernière ? Et bien visiblement il aura fallu que des gens les découvrent récemment sur TikTok pour que ça commencent à percuter sur le fait que ça peut potentiellement être flippant et dangereux ? On est pas sorti de l'auberge... dry

30 juillet 2022
16:08
Avatar
Gribouille Sensei
Forum Posts: 9353
Member Since:
26 juin 2013
sp_UserOfflineSmall Offline

Alors, c'est reparti pour se plonger dans l'enfer des possibilité du Deep Fake, car je continue de trouver que les gens s'en inquiète à peine alors que la technologie avance de plus en plus vite et que, on va le voir, la loi ne semble pas vraiment prête à gérer les détournements possibles. confused

aux USA, c'est un peu l'affaire Kendrick Lamar qui a fini par pousser les légistes de tout poil d'Hollywood à vraiment se poser des questions (voir cet article de THR). En gros, Lamar a produit un clip dans lequel il se transforme en plusieurs personnalités connues... Alors oui, c'est exactement le même principe, et carrément en moins flippant, que la vidéo de l'imitateur Jim Meskimen que j'avais posté plus haut. Mais voilà, le clip de Kendrick Lamar a eu beaucoup plus de visibilité, ce qui a permis à certains de se poser la question suivante : "Attend ? Les personnalités ont donné leur accord ?"... Sauf que la réponse était elle aussi bien flippante :

On s'en fout de leur accord... blblbl

Car en réalité, y'en a pas besoin... whistle

(si, si... tongue2)

Surpris ? Et pourtant réfléchissez au truc. On pense direct au "droit à l'image" mais en fait ce droit couvre les images de VOUS, celle qui ont été prise ou filmées quand VOUS étiez devant l'objectif, or là aucune des vedettes en question n'a jamais été prise en photo ou filmée pour les besoin du clip. Tout est 100% Fake, virtuel, CGI.

Mais le résultat leur ressemble comme 2 gouttes d'eau, non ? Ouais mais cette "Ressemblance" (ou Likeness) n'est pas couverte par la loi, et pour une raison parfaitement simple : imaginez que vous ayez un jumeau ou un sosie, si vous pouviez revendiquer un caractère "unique" à votre image, vous pourriez porter plainte envers le sosie rien que parce qu'il vous ressemble ! Or actuellement, c'est uniquement si cette personne tente de se faire passer pour vous, que vous pouvez porter plainte.

Dans le cas du clip de Kendrick Lamar, et même celui de Jim Meskimen, le contexte fait qu'il est clair qu'aucun des deux ne tente de se faire passer pour une autre personne de façon à véritablement tromper le spectateur à ce sujet... Du coup, bah c'est... Légal ? confused

Bah oui en fait... ouuuups

Et c'est d'ailleurs exactement ce qu'a démontrer, Miles Fisher, a.k.a "The Tom Cruise Guy", avec ses performances vidéo ou il incarne Tom Cruise mais toujours en précisant bien dans le contexte général qu'il n'est pas Tom Cruise et que c'est du Deep Fake... Ce qui, au passage est une belle revanche sur le côté empoissonnant que cette ressemblance a pu avoir sur sa propre vie, comme il le raconte dans cette tribune de THR. Il a donc su capitaliser sur cette foutue ressemblance et sur la technologie, pour réussir à se mettre en avant grâce à l'image d'un autre ! Et, encore une fois, c'est parfaitement légal dans ce sens... rolleyes

Mais voilà, le problème c'est que si on se met à jouer avec cette limite, qu'est-ce qui empêche certains de faire des vidéos entières avec des personnes célèbres en Deep Fake, en précisant quelque part que ça en est, et en récupérant l'aura de ces personnes au passage, et sans vraiment rien leur devoir ni même avoir à leur demander la permission... Ou même, imaginez le comble, faire un film entier avec un acteur qui n'est pas là, a qui on n'a pas demandé son avis, mais en précisant au générique que ce n'est pas lui dans le film. wacko

C'est pour cela que la SAG-AFTRA, Guild (syndicat) des acteurs d'Hollywood a commencé à se pencher sur le problème et tente d'établir des accords via contrat type qui pourraient garantir qu'une production ne puisse pas s'accaparer l'image et la notoriété d'une vedette via cette technologie. Et pour le coup c'est juste le début, car on est très loin de pouvoir imaginer toutes les situations bizarres que cette technologie risque d'engendrer. unsure

Et pour le moment, côté législatif, on a vu assez peu de mouvement dans le Monde, sans doute parce que ça ne doit pas leur paraître une priorité malgré tous les problèmes de désinformations actuels récurrent (et il faut aussi partir du principe que certains politiques vont sans doute tenter de tirer parti de cette technologie un de ces 4, directement ou indirectement mais ça paraît évident. brooding).

Ça, c'est pourtant quelque chose qu'on sait et redoute depuis un bail, comme le montre cette vidéo de la BBC de 2019, qui comporte même en exemple un passage de la vidéo de Jordan Peele / Obama Deep Fake de 2018... blink

Dans tous les cas, on se doit de garder un oeil la dessus, juste histoire de ne pas nous même tomber dans le panneau quand ce dernier finira par avoir des conséquences potentiellement dangereuses. dry

2 août 2022
15:30
Avatar
Senior Gribouille
Members
Forum Posts: 384
Member Since:
3 septembre 2013
sp_UserOfflineSmall Offline

Ah bah, ça me rappelle le film: "The Congress" 🙂

 

https://fr.wikipedia.org/wiki/Le_Congrès

2 août 2022
15:50
Avatar
Gribouille Sensei
Forum Posts: 9353
Member Since:
26 juin 2013
sp_UserOfflineSmall Offline

Ce qui dans un sens est problématique c'est que ces films comme Le Congrès dénonçaient le truc sous forme Dystopique... Or maintenant c'est clairement une réalité. ouuuups

12 novembre 2022
8:36
Avatar
Gribouille Sensei
Forum Posts: 9353
Member Since:
26 juin 2013
sp_UserOfflineSmall Offline

Et bien sur, le truc qui est devenu le plus courant, très vite, et qui n'est absolument pas traité correctement par les autorités à l'heure actuelle : Le Deepfake Porn. brooding

Voici un long Thread qui en parle et qui montre à quel point c'est répandu car les conséquences sont pour le moment quasi inexistante pour les fautifs. bad

Festival Comics NSFW paperman Web serie Bande dessinée Pixar Warner Geekette Steampunk Reportage MCU Retrogaming Oscars Court métrage Manga Césars Nostalgie Speed Drawing Analyse Annecy Statistique Débat Info pratique Stop-Motion Don Bluth Trailer Ghibli Animation Legend Talk Back Sony Geek Trigger Star Trek Blue Sky RIP Marvel SONY Pictures blender Réalité Augmentée jeu vidéo Otaku Food 2D Exposition Dr Who ARTE Crowdfunding News DC Comics Final Fantasy Youtube Disney Making of WTF Review Teaser France US World Record Simpsons's Couch Gag Netflix Goodies innovation Documentaire Animation Interview Concours Cyber Punk Corée Twitter Article Culture Japon Aardman Mecha Musique Creepy Funny grease pencil
Forum Timezone: Europe/Paris

Most Users Ever Online: 405

Currently Online:
8 Guest(s)

Currently Browsing this Page:
1 Guest(s)

Top Posters:

Fresh: 384

Charrys: 243

macromaster_42: 239

tsatse: 228

lololeboiteux: 160

itaf: 142

Fenix in Paris: 139

FrozenOwl: 129

hunterogue: 114

Poyjo: 62

Member Stats:

Guest Posters: 124

Members: 160

Moderators: 0

Admins: 1

Forum Stats:

Groups: 3

Forums: 8

Topics: 1387

Posts: 12665

Administrators: Marco Sensei: 9353