16:47 pm
26 juin 2013
Bon, je vous préviens tout de suite, je n'ai malheureusement pas le temps de faire long sur le sujet, mais je vais y mettre les bases pour comprendre le problème.
Pour les gens qui veulent quelque que chose de plus long, j'ai mon Thread Twitter, qui suit la chose depuis...
Littéralement UN AN !
https://twitter.com/NekoAnimeAgora/status/1638465266722955265
Vous y trouverez assez d'éléments de preuves des abus à travers le temps, mais aussi de la volonté des TechBro de pousser le modèle en avant bien plus pour se faire de l'argent rapidement que pour un quelconque réel "progrès pour l'humanité, les artistes,...". Artistes qui, il faut le comprendre, ont été les premières principales victimes et que ces abus et ont vu de RÉELLES conséquences sur leur métiers, mais absolument AUCUNE de positive.
Alors que paradoxalement, et comme on commence à le prouver via les différents procès aux USA, l'entièreté du Modèle de Développement des Algorithmes de ces IA, ainsi que le Business Model des boîtes qui sont derrière (Open AI, Midjourney, Stable AI, etc) repose entièrement sur LE VOL DE DONNÉES LE PLUS MASSIF DE L'HISTOIRE. Car oui, sans les bases de données gigantesques comme LAION (qui au départ n'était destinée qu'à la recherche, et qui est constituée de millions de fichiers, textes, images prises sur Internet sans jamais demander la moindre autorisation à qui que ce soit), les fameuses IA Génératives ne pourraient tout simplement rien faire.
On vante aussi leurs progrès à travers le temps et le fait que ce qu'elles produisent actuellement est plus crédible, réaliste, difficile à identifier comme étant produit par une IA... Mais il faut encore une fois comprendre que l'IA elle même ne fait pas de progrès : les Devs des IA raffinent les algorithmes pour qu'ils fournissent un résultat plus précis par rapport à la demande, mais l'essentiel des "Progrès" viennent... Du fait de voler encore et toujours plus de données.
Et à quoi ça aura servi pour le moment ? Au mieux, à faire des articles bidons sur internet, générés rapidement pour remplir des sites de Com ou de News, ou encore faire des images de Com, des couvertures de livres, sans demander à un vrai artiste de s'y mettre... Et souvent avec un résultat d'une qualité encore très discutable, surtout par rapport au travail d'un professionnel, et sachant qu'on aura volé le dit travail précédent de ces mêmes professionnels pour en arriver là.
Et au pire ? On a des Fake News encore plus "réalistes" qu'avant (alors que les gens se faisaient déjà avoir par des trucs bien moins poussés) ou, bien sur, tout ce qui est Deep Fake Porn et autres horreurs de ce genre.
Bref, pour le moment, ces IA Génératives n'ont très franchement rien apporté de bon, à part remplir les poches des gens les moins scrupuleux de la planète.
Si vous n'avez pas de problème avec l'anglais, voici la vidéo Youtube qui traite du sujet de la façon la plus complète qui soit.
AI Vs Artist
Actuellement, on est donc bel et bien sur une période dite "Vendor Driven", ou ce sont les Business qui vont tenter de vous faire croire au côté "positif" de cette Tech pour faire un max de pognon avec, et ce avant la phase "Legislator Driven"... En gros, celle ou les législateurs vont se pencher sur la légalité des procédés, encadrer les abus, mettre à jour les règles existantes pour y intégrer ces nouveautés... Du coup, il faut bien comprendre qu'actuellement, tout ce fait dans un environnement ou les abus sont "la norme". Si vous utilisez une de ces IA Génératives, la probabilité que vous le fassiez avec quelque chose qui a été volé à quelqu'un quelque part, est tout simplement de 100% (si vous n'utilisez pas votre propre base de donnée, uniquement composée de vos propre textes, dessins, etc. Mais dans un tel cas, le résultat sera sans doute bien moins impressionnant, je vous préviens. ).
Une fois que la phase "Legislator Driven" sera passée, et que les lois et règlements seront mis en place, commencera la réelle phase intéressante : "User Driven", celle ou les utilisateurs auront un outils, un vrai, qu'il pourront employer sans se poser des questions d'éthique sur le résultat... Et même pouvoir en revendique les droits sur le contenu ! Car oui, pour le moment, TOUT ce qui est produit par une IA Générative n'est pas reconnu en terme de Propriété Intellectuelle ni de Copyright, pour le simple fait que la personne qui demande à la machine de générer du contenu n'est en fait qu'un "commanditaire" et absolument pas l'auteur du résultat. L'auteur étant la machine, la propriété intellectuelle et le copyright ne peuvent pas lui être octroyé.
Ce qui met nos cher TechBro dans une situation assez paradoxale : la plupart d'entre eux se défendent dans les procès pour pouvoir continuer à utiliser dans le développement de leurs IA du contenu sous copyright, sans avoir à payer pour son exploitation, tout en demandant que les résultats des ces vols de données sous copyright soient, eux, reconnus comme quelque chose de déposable en terme de copyright ! C'est pas l'hypocrisie qui manque chez ces gens là.
Par contre, cette phase "User Driven" est importante à garder en mémoire car il faut le rappeler aussi : personne n'est contre l'IA en tant qu'outil ! Et pour être franc, dans un paquet de milieu (que ce soit le dessin ou l'animation par exemple), on se sert déjà des IA depuis des années !... Mais on s'en sert pour toutes les tâches répétitives et rébarbative, comme l'IA qui traces tous les traits de contours sur les personnages des films d'animation Spider-verse, par exemple. Entraîner une IA à faire ces centaines de milliers de traits à la place d'un pauvre humain, permet à ce dernier de faire autre chose de plus créatif dans le processus de production du film. On gagne beaucoup de temps, de l'argent, et on a une personne qui ne devient pas cinglée à force de faire des traits partout, tout le temps, pendant des mois.
Or, actuellement on vous vend ces IA Génératives comme des outils qui remplacement quasiment, voir totalement les 100% du processus créatif. Et ça, personne n'en veut (sauf bien sur les gens qui veulent faire du pognon, et si possible sans en dépenser trop ou même pire : devoir faire des efforts. ).
Bref, la situation actuelle ne permet absolument pas de défendre la position de la plupart de ces entreprises d'IA Génératives. Certaines d'entre-elles tentent de faire les choses "éthiquement", mais comme leurs progrès seront mécaniquement plus lents que ceux qui se torchent avec l'éthique et les lois actuelles, ce ne sont pas eux qui sont à l'origine des abus massifs qu'on constate en ce moment.
Et donc les solutions, pour le moment : faire des procès (c'est en cours ), légiférer (c'est aussi en cours ), et pour les artistes...
- Glaze : un logiciel qui met un degrés de "bruit" dans votre dessin qui empêche les IA d'identifier correctement son contenu et de le répliquer avec perfection. Cela entrainera des défauts dans l'oeuvre générée par l'IA et au cas ou un individu tente carrément de générer des oeuvres avec un style similaire au votre, ses efforts seront voués à l'echer.
- Nighshade : à utiliser après Glaze pour ceux qui veulent lutter plus activement et pas seulement protéger leur travail. En effet, Nightshade est un "poison" pour les base de donnée car il introduit de fausse information sur le contenu du dessin qui a été absorbé par la base de donnée. En gros, si vous dessinez par exemple un parapluie, Nightshade va dire à l'IA que c'est en fait un chaton... Et si quelqu'un tente de générer un chaton, l'IA aura dans ses donnée des chaton et... Un petit paquet de parapluie qui vont garantir un résultat assez grotesque à l'arrivée (L'IA elle même ne sachant tout simplement pas réellement ce qu'est un chaton ou un parapluie). Par contre, si vous utilisez Nightshade, ne le précisez pas sur Internet : l'intérêt d'un poison devient nul si la personne en face arrive à savoir ce qui en contient ou pas.
Et maintenant, si vous avez d'autres question, ce Topic est là pour ça aussi.
BONUS : La liste des pièces de l'accusation dans le procès des artistes US contre plusieurs boîtes Tech d'IA Générative. Je vous conseille d'aller jeter un oeil sur les Exhibits I et J, respectivement un comparatif d'oeuvre originales avec celles qu'on peut ressortir de la base de donnée de Midjourney, et la fameuse liste des artistes à qui on a volé le travail pour constituer une partie de cette même base de donnée.
15:18 pm
26 juin 2013
Allez, on continue avec les infos sur les IA Générative et pourquoi c'est un problème. Pour bien comprendre, autant le faire avec humour et commencer par 2 vidéos en anglais : une de Last Week Tonight with John Oliver et une autre de The Daily Show with Jon Stewart.
Last Week Tonight Special AI.
~
The Daily Show : The False Promises of AI
La première est intéressante car elle fait vraiment le tour du "phénomène" et explique au passage que les IA qu'on essaie de nous vendre sont en fait des "Narrow AI" (spécialisé dans une tâche précise, avec un algorithme logique qui les fait tourner) et non pas des "General AI" (en gros, Jarvis dans Iron Man... Ou dans la cuisine de Mark Zukerberg, comme il aimerait nous le faire croire alors que c'est faux. Les IA Générales sont encore à ce stade de la pure Science-fiction). Il fait aussi le tour des réelles utilités potentielles du Machine Learning, et par comparaison, les problèmes qu'on va forcément rencontrer si on essaie de mettre en place trop vite des avancées dont les développeurs eux-mêmes reconnaissent ne pas toujours comprendre à 100% (le fonctionnement de l'algorithme devenant trop opaque pour être encore analysable, même pas les humains qui l'ont créé).
La 2ème vidéo est aussi très intéressante dans le sens ou elle se penche sur la question des "Promesses" de l'IA, ce qu'elle est sensée apporter au Genre Humain... Et J'ai été très content d'y voir apparaître une critique des fameux métiers d'avenirs que sont les "Spécialiste / Ingénieurs AI"... Qui sont en fait juste les gens qui tapent des Prompts dans la machine. Des gens qui font des phrases pour expliquer à l'IA Générative ce qu'elle doit faire. Et là, on ne parle pas de Code, ou autre truc obscur pour le commun des mortels... Non, juste comment bien demander en une paire de phrase ce qu'on veut obtenir de l'IA. C'est tout.
Et ce n'est pas un métier... Ça ne peut tout simplement pas l'être.
La preuve avec une formation des Gobelins qui a pas mal fait un Bad Buzz sur Twitter récemment.
https://twitter.com/DailyMangas/status/1777400451832381540
Réfléchissez-y sérieusement 2 secondes... Une formation de 9 heures au TOTAL, sur 3 jours (pour la belle somme complètement aberrante de 950€ ! ) pour vous servir de Midjourney... Qui peut s'imaginer qu'il peut y avoir une tâche intéressante à apprendre, une "compétence" à acquérir au bout de ces 3x3 heures ?! Quel professionnel serait assez con pour se faire avoir ? (Oui, bon, suis sur qu'il vont avoir des clients pour ce truc... Triste mais sans doute vrai. )
l'IA a réellement une place dans notre avenir, et comme le précise si bien la vidéo de John Oliver, elle est déjà présente dans notre vie sous une tonne de formes pratique auxquelles on ne pense déjà plus du tout comme étant de l'IA (après tout, ChatGPT n'est qu'un correcteur d'orthographe sous hormones). Mais ce qu'on tente de nous vendre à l'heure actuel n'a en réalité pas vraiment d'avenir, sauf chez les gens qui pensent pouvoir se débarrasser du "coût" qu'implique le fait de travailler avec d'autres humains... Ce qui peut effectivement paraître brutal "quand on pense comme un être humain"...
11:52 am
26 juin 2013
On reprend un peu nos histoires d'IA, et tout d'abord, merci à Henri d'avoir abordé le côté technique. C'est toujours très intéressant de savoir comment fonctionne ces choses, surtout pour comprendre à quel point le fonctionnement actuel lui-même est problématique.
Cette fois par contre, je voudrait me recentrer sur l'impact de la Tech sur notre Monde réel. Pour cela, je vous conseil la vidéo de Cyprien, qui est encore actuellement victime de tout un tas d'arnaqueurs peu scrupuleux qui utilisent des IA pour faire des fausses pubs sur son dos. Du coup, il a fait cette vidéo pour dénoncer le problème, mais aussi pour pousser le délire dans la théorisation fantastique : et si l'outil était tellement au point qu'il serait "tentant" pour certains professionnels, y compris les Youtubeurs, d'y avoir recours jusqu'à littéralement remplacer à 100% l'humain...?
Très sincèrement, c'était une très bonne idée de pousser le principe à son paroxysme pour montrer qu'en réalité, personne de sensé ne pourrait souhaiter se retrouver dans une telle situation. C'est même assez flippant pour les fans de Cyprien dans la vidéo, qui sont victimes sans s'en rendre compte de la manipulation des IA (pour moi, c'est l'aspect le plus dangereux, justement ).
Et ils faut savoir que, paradoxalement par rapport à tout le battage qu'on fait autour d'un point de vue exploitation, les TechBro pro-IA commencent un peu à paniquer de leur côté : non seulement leur modèle est de plus en plus complexe et gourmand, et du coup va commencer à demander plus de ressources, d'énergie, etc, ce qu'il n'ont pas, mais certains secteurs professionnels commencent à se rendre compte que l'utilisation des IA vient avec de nouveaux problèmes (et ça c'est sans compter les procès... ).
L'un des principaux problèmes est encore et toujours la question des Copyright pour IA Génératives : pour le moment, aucun organisme au monde ne reconnaît le Copyright des œuvres / produits générés par une IA. Et il faut bien comprendre que beaucoup d'organisations luttent pour que ça reste le cas, y compris par l'adaptation des lois, comme le prouve ces articles de THR et de la page française du syndicat IATSE (merci au sympathique Twittos qui m'a filé le link ! ).
Il faut comprendre que la situation des TechBro est totalement intenable car paradoxale : ils ne veulent pas qu'on puisse leur reprocher d'alimenter leurs algorithmes avec du contenu volé, sous Copyright ou tout simplement protégé par les droits internationaux sur la propriété intellectuelle, mais par contre ils voudraient eux aussi qu'on change les lois pour que leur algorithme produit soit déposable en terme de Copyright, comme s'il avait été fait par la personne qui s'est contenté de rentrer les Prompts...
Sauf que ça ne marche pas : la personne qui rentre les Prompts ne fait que donner des directives à la machine, comme le ferait le client d'un artiste à qui il donnerait un cahier des charges. Quand vous commandité un dessin, une fois le dessin en votre possession, vous n'en êtes pas pour autant l'auteur, même si vous avez donné des indication à la personne qui l'a réalisé pour vous. Or là, y'a justement PAS de personne (oui, c'est bizarre comme phrase), et donc pas d'auteur qui puisse revendiquer la propriété intellectuelle, ou même transmettre les éventuels droits à une autre personne... Et ça ne veut pas dire que la personne qui a fait les Prompts récupère les droits par défaut, mais qu'il n'y a pas de droit à la base sur ce que produit les IA Génératives...
Professionnellement et commercialement parlant, c'est tout simplement une catastrophe de ne pas avoir de droit à apposer à un produit quelconque. C'est pourquoi les exemples de boîtes donnant des consignes prudentes, ou faisant carrément barrage à l'utilisation des IA, commencent à se multiplier, comme on peut le lire dans ces articles de AdAge et ANN.
Certains deviennent conscient du fait que, comme expliqué plus haut, non seulement si votre IA pond un truc vraiment génial, il peut vous échapper car vous ne pourrez pas déposer de Copyright dessus, mais comme en plus elle s'alimente généralement en volant les autres, des traces de produits / œuvres réellement sous Copyright peuvent par malheur atterrir dans votre propre production de façon identifiable, et ouvrir la porte à de nouveaux procès.
Alors oui, bien sûr, vous avez des gens qui vont continuer à plonger les deux pieds dedans, vous disant que c'est vous qui ne comprenez rien, que c'est l'avenir, blablabla... Or très souvent c'est en réalité eux qui ne s'y connaissent pas autant qu'il le faudrait, qui sont victimes du fameux "Biais de Confirmation", qui ne leur fait voir que ce qui leur plaît dans l'histoire. Seule solution face à ces gens ? Avoir plus d'arguments, et qu'ils soient plus solide que les leurs. Ce Topic est justement là pour ça, donc ne vous privez surtout pas et servez-vous en un max si vous avez besoin de débattre avec ce genre de personne.
16:23 pm
5 avril 2023
J'en avais déjà parler avec Markus il y a un moment, mais il y avait un drama dans la communauté Fire Emblem où les gens accusaient un artiste d'avoir utilisé une IA. Cela avait était prouvé faux car l'artiste lui-même avait répondu aux accusations en expliquant le processus.
https://twitter.com/birbtactician/status/1776698687663562814 (traduction en anglais)
C'est aussi triste à dire qu'il se dévalorise suite à cela.
Malheureusement, il y a en ce moment beaucoup trop de paranoïa dans les réseaux sociaux où les gens peuvent être très pointilleux sur certains "défauts" d'une illustration pour savoir si une IA a était utilisé où pas. Il ne faut jamais sauter dans une conclusion trop vite...
10:55 am
26 juin 2013
Merci Bokafuru pour l'exemple. J'en vais mis une paire dans le Thread mais y'en aura jamais assez...
Et d'ailleurs, encore un autre exemple, pour le coup sur de la prod professionnelle :
https://twitter.com/vproceart/status/1781854966027579889
C'est assez délirant car tellement logique : oui, en prod on a ce qu'on appelle des "Retake", ou il faut parfois corriger plus ou moins légèrement une image, une animation, ou même un simple props (accessoire) sur un perso, etc. Et ça les "Spécialiste Ingénieurs IA que je sais taper une phrase dans une machine" en sont incapables... Car l'IA elle même en est incapable, vu qu'elle n'est consciente de rien, et donc ne peut pas avoir conscience de que qu'est une erreur dans le truc qu'elle a produit. Et comme elle ne peut pratiquement jamais reproduire 2 fois le même dessin, elle va modifier dessus même des choses qui étaient bonne. Le pire c'est que c'est depuis le début implanté dans la vaste majorité des IA Générative, pour éviter justement que chaque série de Prompt ressorte toujours le même résultat (et aussi pour que les IA Génératives puisse moins facilement ressortir de façon identifiable les dessins volé qui constituent la base de donnée. ).
Bref, ce n'es sérieusement pas exploitable, et même avec un humain qui reprend le truc derrière, il va avoir droit à une image brute, pas à un fichier Master avec plein de calques, manipulable et modifiable bien comme il faut, proprement et tout... C'est donc un enfer et c'était parfaitement prévisible.
Sans compter le fait qu'effectivement, ces "Spécialiste Ingénieurs IA que je sais taper une phrase dans une machine" ont rarement l'oeil d'un professionnel entraîné, qui sait de quoi on lui parle quand on demande un Retake. De nouveau perte de temps et d'argent...
Pourtant, on a encore des gens, voir même des écoles, qui poussent le truc en avant pour des raisons souvent purement mercantiles, et je pense qu'il va falloir que quelque chose se casse vraiment méchamment la figure quelque part à cause de ces IA pour que ça change.
Alors ça sera peut-être long, mais on commence vraiment à voir les première fissure dans l'édifice, et ça c'est bien !...
13:00 pm
26 juin 2013
Un autre exemple qui relève à la fois du vol pur et simple mais aussi de l'incompréhension totale de ce qu'est un Model Sheet de la part du AI-Bro qui ose se vanter de ses Prompts magiques.
https://twitter.com/Dr_Kal_Drungus/status/1782215552020459892
https://twitter.com/Dr_Kal_Drungus/status/1782217240827593147
https://twitter.com/Dr_Kal_Drungus/status/1782220534656463289
Donc oui, on voit des traces de la vraie planche de Model Sheet qui a été volé, même parfois la signature du vrai artiste, et en plus ces modèle générés par IA sont totalement inexploitable en Prod car bourré de défauts et très répétitifs, donc sans intérêt.
10:12 am
26 juin 2013
Côté lois, la Californie est en train d'en passer une qui va pas plaire aux TechBro. Pour le moment le texte a passé le parlement et doit encore passer le sénat.
Par contre, la loi de l'Illinois, elle, est déjà passée.
Et maintenant... C'est carrément les Nations Unies qui s'y mettent avec une étude sur les effets très négatifs sur les droits humains que peuvent engendrer les IA Générative ! Et c'est du lourd !
https://twitter.com/LuizaJarovsky/status/1795017813918134408
J'ai de plus en plus la nette impression que l'étaux se ressert sur les TechBro qui sont juste la pour l'argent et pas du tout pour développer les IA de type Machine Learning dont on a réellement besoin pour nous débarrasser des tâches ingrates de nos boulot, sans pour autant essayer de nous remplacer à 100% en faisant moins bien tout en volant le fruit de notre boulot précédent...
17:31 pm
26 juin 2013
Histoire de prouver que l'IA Générative s'attaque vraiment à tout et que certaines boîtes voir gouvernement n'y comprennent décidément rien, l'exemple avec la traduction de Manga via IA comme potentielle solution au Piratage et au Scan Trad : une solution stupide à un problème réel.
Il faut le dire, c'est pas au Japon que les créateurs en tout genre sont les mieux protégé, loin de là. Et ce n'est visiblement pas près de s'arranger.
https://twitter.com/miyamoyame/status/1763410944632500525
Du coup, le Move d'Open AI qui a déclaré récemment qu'ils s'installaient là-bas aussi, n'est très certainement pas innocent.
https://twitter.com/OpenAI/status/1779754674242892014
15:39 pm
26 juin 2013
Des News du Giga-procès aux USA : ils viennent de gagner une importante bataille pour empêcher le procès d'être tout simplement jeté à la poubelle et passent maintenant à... La Discovery !
https://twitter.com/kortizart/status/1823143565972869533
Alors si je suis si étonné c'est que je pensais que les preuves déjà dispo avaient été obtenu par le procédé de la Discovery : toutes les parties du procès doivent donner les preuves à charge et à décharge demandées par les parties adverses. Si les documents existent et que la partie ne peux pas prouver qu'il serait illégal de les donner au camp d'en face (ex : secret défense ou autre truc ultra-protégé), ils sont obligé de les fournir. Ils peuvent contester les faits mais si le tribunal leur ordonne de s'executer, il doivent le faire, sachant que s'il ne le font pas, on peut leur coller une Dissimulation de Preuves ou encore Obstruction à la Justice. S'ils font un blocage total, le Juge peut décider que c'est carrément un aveux de culpabilité, auquel cas le procès ne servira pas à savoir s'ils sont coupable ou non mais quel indemnité ils doivent payer aux différents plaignant après sanction (rappel que c'est une Class Action avec de très nombreux plaignant et que l'amende sera de fait multiplié par ce nombre de plaignant à la fin. ).
Donc là, on est quasi sur de découvrir un paquet de trucs très très gênant pour les boîtes IA concernées dans les prochaine semaines et prochain mois (la Discovery étant en général publique)...
15:06 pm
26 juin 2013
Une vidéo très complète de Mad Dog sur le sujet, et qui répond à une question...
Les memes par IA peuvent-il être drôle ?
Bon, le contenu de la vidéo est bien plus riche que ça, donc au delà des memes internet, je vous conseille vivement de la regarder en entier. Surtout que si vous avez déjà eu des discussions avec moi au sujet des IA, vous allez voir resurgir des arguments familiers, et ça fait toujours plaisir de montrer aux gens que c'est pas juste moi qui délire dans mon coin...
Most Users Ever Online: 405
Currently Online:
10 Guest(s)
Currently Browsing this Page:
1 Guest(s)
Top Posters:
Fresh: 389
Charrys: 243
macromaster_42: 239
tsatse: 231
lololeboiteux: 160
FrozenOwl: 154
itaf: 142
Fenix in Paris: 139
hunterogue: 125
Poyjo: 62
Member Stats:
Guest Posters: 144
Members: 184
Moderators: 0
Admins: 1
Forum Stats:
Groups: 3
Forums: 8
Topics: 1542
Posts: 14721
Newest Members:
Devil, Dirhar2323, villagetalkies, Enzo, Tonya, Nyxie, ilovebakugo, dovewantstobreakfree, nyappy, AslanteAdministrators: Marco Sensei: 11172