Allez, on continue avec les infos sur les IA Générative et pourquoi c'est un problème. Pour bien comprendre, autant le faire avec humour et commencer par 2 vidéos en anglais : une de Last Week Tonight with John Oliver et une autre de The Daily Show with Jon Stewart.

Last Week Tonight Special AI.

~

The Daily Show : The False Promises of AI

La première est intéressante car elle fait vraiment le tour du "phénomène" et explique au passage que les IA qu'on essaie de nous vendre sont en fait des "Narrow AI" (spécialisé dans une tâche précise, avec un algorithme logique qui les fait tourner) et non pas des "General AI" (en gros, Jarvis dans Iron Man... Ou dans la cuisine de Mark Zukerberg, comme il aimerait nous le faire croire alors que c'est faux. Les IA Générales sont encore à ce stade de la pure Science-fiction). Il fait aussi le tour des réelles utilités potentielles du Machine Learning, et par comparaison, les problèmes qu'on va forcément rencontrer si on essaie de mettre en place trop vite des avancées dont les développeurs eux-mêmes reconnaissent ne pas toujours comprendre à 100% (le fonctionnement de l'algorithme devenant trop opaque pour être encore analysable, même pas les humains qui l'ont créé).

La 2ème vidéo est aussi très intéressante dans le sens ou elle se penche sur la question des "Promesses" de l'IA, ce qu'elle est sensée apporter au Genre Humain... Et J'ai été très content d'y voir apparaître une critique des fameux métiers d'avenirs que sont les "Spécialiste / Ingénieurs AI"... Qui sont en fait juste les gens qui tapent des Prompts dans la machine. Des gens qui font des phrases pour expliquer à l'IA Générative ce qu'elle doit faire. Et là, on ne parle pas de Code, ou autre truc obscur pour le commun des mortels... Non, juste comment bien demander en une paire de phrase ce qu'on veut obtenir de l'IA. C'est tout.

Et ce n'est pas un métier... Ça ne peut tout simplement pas l'être.

La preuve avec une formation des Gobelins qui a pas mal fait un Bad Buzz sur Twitter récemment.

C'est quasiment passé inaperçu mais aux Gobelins ils proposent aussi des formations pour apprendre à faire des prompt sur Midjourney (950€ pour 9 heures de formation 😂)https://t.co/q2gSoruLGf https://t.co/RyHH8FBCka pic.twitter.com/VWilj6x8ry

— アニメーション (@DailyMangas) April 8, 2024

Réfléchissez-y sérieusement 2 secondes... Une formation de 9 heures au TOTAL, sur 3 jours (pour la belle somme complètement aberrante de 950€ ! ) pour vous servir de Midjourney... Qui peut s'imaginer qu'il peut y avoir une tâche intéressante à apprendre, une "compétence" à acquérir au bout de ces 3x3 heures ?! Quel professionnel serait assez con pour se faire avoir ? (Oui, bon, suis sur qu'il vont avoir des clients pour ce truc... Triste mais sans doute vrai. )

l'IA a réellement une place dans notre avenir, et comme le précise si bien la vidéo de John Oliver, elle est déjà présente dans notre vie sous une tonne de formes pratique auxquelles on ne pense déjà plus du tout comme étant de l'IA (après tout, ChatGPT n'est qu'un correcteur d'orthographe sous hormones). Mais ce qu'on tente de nous vendre à l'heure actuel n'a en réalité pas vraiment d'avenir, sauf chez les gens qui pensent pouvoir se débarrasser du "coût" qu'implique le fait de travailler avec d'autres humains... Ce qui peut effectivement paraître brutal "quand on pense comme un être humain"...

On reprend un peu nos histoires d'IA, et tout d'abord, merci à Henri d'avoir abordé le côté technique. C'est toujours très intéressant de savoir comment fonctionne ces choses, surtout pour comprendre à quel point le fonctionnement actuel lui-même est problématique.

Cette fois par contre, je voudrait me recentrer sur l'impact de la Tech sur notre Monde réel. Pour cela, je vous conseil la vidéo de Cyprien, qui est encore actuellement victime de tout un tas d'arnaqueurs peu scrupuleux qui utilisent des IA pour faire des fausses pubs sur son dos. Du coup, il a fait cette vidéo pour dénoncer le problème, mais aussi pour pousser le délire dans la théorisation fantastique : et si l'outil était tellement au point qu'il serait "tentant" pour certains professionnels, y compris les Youtubeurs, d'y avoir recours jusqu'à littéralement remplacer à 100% l'humain...?

Très sincèrement, c'était une très bonne idée de pousser le principe à son paroxysme pour montrer qu'en réalité, personne de sensé ne pourrait souhaiter se retrouver dans une telle situation. C'est même assez flippant pour les fans de Cyprien dans la vidéo, qui sont victimes sans s'en rendre compte de la manipulation des IA (pour moi, c'est l'aspect le plus dangereux, justement ).

Et ils faut savoir que, paradoxalement par rapport à tout le battage qu'on fait autour d'un point de vue exploitation, les TechBro pro-IA commencent un peu à paniquer de leur côté : non seulement leur modèle est de plus en plus complexe et gourmand, et du coup va commencer à demander plus de ressources, d'énergie, etc, ce qu'il n'ont pas, mais certains secteurs professionnels commencent à se rendre compte que l'utilisation des IA vient avec de nouveaux problèmes (et ça c'est sans compter les procès... ).

L'un des principaux problèmes est encore et toujours la question des Copyright pour IA Génératives : pour le moment, aucun organisme au monde ne reconnaît le Copyright des œuvres / produits générés par une IA. Et il faut bien comprendre que beaucoup d'organisations luttent pour que ça reste le cas, y compris par l'adaptation des lois, comme le prouve ces articles de THR et de la page française du syndicat IATSE (merci au sympathique Twittos qui m'a filé le link ! ).

Il faut comprendre que la situation des TechBro est totalement intenable car paradoxale : ils ne veulent pas qu'on puisse leur reprocher d'alimenter leurs algorithmes avec du contenu volé, sous Copyright ou tout simplement protégé par les droits internationaux sur la propriété intellectuelle, mais par contre ils voudraient eux aussi qu'on change les lois pour que leur algorithme produit soit déposable en terme de Copyright, comme s'il avait été fait par la personne qui s'est contenté de rentrer les Prompts...

Sauf que ça ne marche pas : la personne qui rentre les Prompts ne fait que donner des directives à la machine, comme le ferait le client d'un artiste à qui il donnerait un cahier des charges. Quand vous commandité un dessin, une fois le dessin en votre possession, vous n'en êtes pas pour autant l'auteur, même si vous avez donné des indication à la personne qui l'a réalisé pour vous. Or là, y'a justement PAS de personne (oui, c'est bizarre comme phrase), et donc pas d'auteur qui puisse revendiquer la propriété intellectuelle, ou même transmettre les éventuels droits à une autre personne... Et ça ne veut pas dire que la personne qui a fait les Prompts récupère les droits par défaut, mais qu'il n'y a pas de droit à la base sur ce que produit les IA Génératives...

Professionnellement et commercialement parlant, c'est tout simplement une catastrophe de ne pas avoir de droit à apposer à un produit quelconque. C'est pourquoi les exemples de boîtes donnant des consignes prudentes, ou faisant carrément barrage à l'utilisation des IA, commencent à se multiplier, comme on peut le lire dans ces articles de AdAge et ANN.

Certains deviennent conscient du fait que, comme expliqué plus haut, non seulement si votre IA pond un truc vraiment génial, il peut vous échapper car vous ne pourrez pas déposer de Copyright dessus, mais comme en plus elle s'alimente généralement en volant les autres, des traces de produits / œuvres réellement sous Copyright peuvent par malheur atterrir dans votre propre production de façon identifiable, et ouvrir la porte à de nouveaux procès.

Alors oui, bien sûr, vous avez des gens qui vont continuer à plonger les deux pieds dedans, vous disant que c'est vous qui ne comprenez rien, que c'est l'avenir, blablabla... Or très souvent c'est en réalité eux qui ne s'y connaissent pas autant qu'il le faudrait, qui sont victimes du fameux "Biais de Confirmation", qui ne leur fait voir que ce qui leur plaît dans l'histoire. Seule solution face à ces gens ? Avoir plus d'arguments, et qu'ils soient plus solide que les leurs. Ce Topic est justement là pour ça, donc ne vous privez surtout pas et servez-vous en un max si vous avez besoin de débattre avec ce genre de personne.

Merci Bokafuru pour l'exemple. J'en vais mis une paire dans le Thread mais y'en aura jamais assez...

Et d'ailleurs, encore un autre exemple, pour le coup sur de la prod professionnelle :

Calling all artists. This is making the rounds. There is hope for us yet! pic.twitter.com/aURCnLGko1

— Vincent Proce (@vproceart) April 21, 2024

C'est assez délirant car tellement logique : oui, en prod on a ce qu'on appelle des "Retake", ou il faut parfois corriger plus ou moins légèrement une image, une animation, ou même un simple props (accessoire) sur un perso, etc. Et ça les "Spécialiste Ingénieurs IA que je sais taper une phrase dans une machine" en sont incapables... Car l'IA elle même en est incapable, vu qu'elle n'est consciente de rien, et donc ne peut pas avoir conscience de que qu'est une erreur dans le truc qu'elle a produit. Et comme elle ne peut pratiquement jamais reproduire 2 fois le même dessin, elle va modifier dessus même des choses qui étaient bonne. Le pire c'est que c'est depuis le début implanté dans la vaste majorité des IA Générative, pour éviter justement que chaque série de Prompt ressorte toujours le même résultat (et aussi pour que les IA Génératives puisse moins facilement ressortir de façon identifiable les dessins volé qui constituent la base de donnée. ).

Bref, ce n'es sérieusement pas exploitable, et même avec un humain qui reprend le truc derrière, il va avoir droit à une image brute, pas à un fichier Master avec plein de calques, manipulable et modifiable bien comme il faut, proprement et tout... C'est donc un enfer et c'était parfaitement prévisible.

Sans compter le fait qu'effectivement, ces "Spécialiste Ingénieurs IA que je sais taper une phrase dans une machine" ont rarement l'oeil d'un professionnel entraîné, qui sait de quoi on lui parle quand on demande un Retake. De nouveau perte de temps et d'argent...

Pourtant, on a encore des gens, voir même des écoles, qui poussent le truc en avant pour des raisons souvent purement mercantiles, et je pense qu'il va falloir que quelque chose se casse vraiment méchamment la figure quelque part à cause de ces IA pour que ça change.

Alors ça sera peut-être long, mais on commence vraiment à voir les première fissure dans l'édifice, et ça c'est bien !...