Fuck the IA !!

[Fitz]

Si même les créateurs commencent à la craindre... 

https://www.lemonde.fr/sciences/article/2024/10/09/john-hopfield-prix-nobel-de-physique-pour-ses-recherches-sur-l-intelligence-artificielle-met-en-garde-contre-les-recentes-avancees-tres-inquietantes-de-l-ia_6347030_1650684.html

[gynogege]

Le problème des chercheurs c'est qu'ils deviennent adultes vers 90 ans... Stephen Hawking avait aussi alerté sur l'IA (les robots-tueurs entre autres) pas très longtemps avant sa disparition.

[grattepapier]

J'apporte ma petite contribution au débat avec cette vidéo sur IA & Littérature, faite par France Culture :
"Ce livre a été écrit par une IA (et ça pose plein de questions)"
https://www.youtube.com/watch?v=Zp4QRmjGLFM&t=32s
J'aime bien la citation d'Alexandre Astier qui disait que les IA n'en ont rien à foutre du doute, de la souffrance et de la frustration (comprendre : de l'écrivain).

[Kraken]

Super intéressant, merci pour le partage !

[ledahu]

Cool de remettre une pièce

Moi je remarque que le gars , il écrit "stp" à la fin de ses prompts. Donc, pour moi, le pas de l'anthropomorphisme est fait : il considère l'IA comme une entité.

Idem pour la phrase d'Astier.

C'est simple, à chaque fois que vous entendez/lisez le terme IA, remplacez-le par "brosse à dent électrique", et évaluez si la phrase a encore du sens.
Si la phrase n'a plus de sens, c'est que c'était une connerie issue d'un biais.

Si demain j'utilise un modèle qui a été entrainé sur toute l'oeuvre de Stephen King et que je lui demande de m'écrire des paragraphes dans le style. J'aurais de l'imitation de Stephen King", mais de la me... égale à ce que je peux penser en termes de narration/scénar.

Si demain j'utilise de l'aquarelle, j'aurais de l'aquarelle et une oeuvre égale à mon talent d’aquarelliste (proche de zéro) et donc une grosse daube, sauf pour les touristes qui aiment bien les aquarelles et qui n'en ont pas la culture pour identifier la daube. 

J'ai écris un petit article sur la question du "style de" et du vol de style (image et texte): https://www.dahu.fr/ia-images-et-textes-...-style-de/

Autant vous dire que, côté image, depuis qu'il est "facile" d'entraîner des modèles (LoRA)...

[Feldo]

Ben pas vraiment, "La brosse à dent électrique générative est alimentée par le vol de millions d’œuvres sans l'accord des personnes concernées et sans reversement de la moindre compensation", ça ne marche pas :p

J'ai lu ton article sur le sujet et s'il ne fait pas l'impasse sur le vol que ça implique, il reste un peu optimiste je pense. Les 3000 artistes identifiés pour le côté illustration, ça ne reste sans doute que parcellaire, je me rappelle par exemple qu'aux débuts de Midjourney pour obtenir de bonnes images il fallait conclure par "in Artstation style" (ou en tout cas une expression proche indiquant que ce site avait clairement été pillé).

Bien sûr, on peut considérer que dans 100 ans tout ceci sera partout et que les réfractaires d'aujourd'hui seront vus comme des luddites réfractaires à un changement inéluctable. On peut considérer aussi que dans 100 ans on sucera tous des cailloux parce que nos ressources auront été ravagées par des technologies ultra gourmandes qui servent essentiellement à faire du copywriting ou des thumbnails youtube. Si on écoute les climatologues, ça penche plus d'un côté que de l'autre, mais ils peuvent se tromper, bien sûr.

J'adore ton site quefaitesvous et j'en fais la promotion depuis des années donc rappelons-nous ici qu'il n'y aucune animosité dans ce que j'écris (même si en effet j'ai été déçu de voir l'IA arriver dans le moteur à un moment donné :p ).

Mais l'IA générative, même si on la voit comme un outil, n'est pas un outil neutre politiquement et écologiquement. J'ai pensé au début que ce serait un vecteur d'émancipation vis-à-vis des GAFAM. Il me semble que c'est surtout l'inverse. C'est un marteau qui écrase les démarches artistiques indépendantes en générant du pseudo-art à la chaîne en remplaçant l'effort par du temps-machine plus facilement "construit" et plus facilement monnayable. C'est le rêve du capitalisme. Encore mieux que l'art contemporain (qui a ses qualités mais relevait déjà d'un certain productivisme).

===

J'en profite pour donner aussi mon avis sur la politesse vis-à-vis des IA, car c'est moins important mais je trouve ça intéressant quand même
Je ne pense pas que les LLM soient conscients, mais je leur parle poliment aussi. D'une part, parce qu'il est bien probable qu'ils soient entraînés sur nos discussions (openai l'affirme en tout cas, même si ça ne se fait pas en temps réel). Mais d'autre part, et surtout, parce que mon cerveau s'entraîne sur mes discussions. Nous autres vieux croulants avons déjà des réflexes bien rigides donc bon l'effet est sans doute limitée.

Mais un bambin qui naît aujourd'hui va peut-être discuter dans sa vie avec plus de LLM que d'humains ? S'il parle le plus souvent sans aucune considération pour son interlocuteur synthétique, pourra-t-il facilement agir différemment avec les biologiques ? Dans de nombreux cas, oui, sans doute. Mais il me semble que sur la masse, on aurait intérêt à conserver une étiquette agréable même dans nos interactions avec les machines. D'autant qu'on ne saura pas toujours si on parle avec une IA ou un humain, et qu'on ne se rendra pas forcément compte non plus du moment où les IA post-LLM pourraient justement développer une conscience (on n'arrête pas de déplacer la ligne d'arrivée, donc si ça doit arriver un jour, on pourrait rester dans le déni pendant bien longtemps ).

===

Pour en revenir au sujet initial, nous sommes dans une phase de transition. Peut-être qu'un jour tous les artistes utiliseront l'IA et ce sera normal et basta, et ces gens sauront faire des choses dingues avec ces IA, etc. (pour l'instant le terme d'artiste IA est très galvaudé et relève plutôt de la posture du client donnant un cahier des charges peu détaillée). Mais dans l'intervalle des gens très concrets souffrent de conséquences très concrètes, et les pouvoirs politiques américains (et chinois j'imagine) n'ont pas la volonté de protéger grand monde, semble-t-il, tandis qu'en Europe les lois ont tjrs un train de retard. Et sur les forums je vois des jeunes artistes demander s'ils doivent abandonner leur cursus, ou des programmeurs prendre des habitudes de travail terribles (chatGPT & co peuvent aider à coder, vraiment, mais si on s'en sert dès l'apprentissage c'est la recette pour ne pas savoir ce qu'on fait), etc.

Ces brosses à dent peuvent sans doute être utiles, mais il y a des tonnes de problématiques sur lesquelles se pencher à leur sujet, et ce serait dommage de mettre tout ça sous le tapis, plus on reste longtemps sur un mauvais chemin plus on s'égare.

[ledahu]

Note : Un Dataset, c'est l'ensemble des informations qui vont servir à l'entraînement d'un modèle d'IA.


Je suis d'accord avec tout ce que tu dis, sauf pour la politesse.

C'est un vol monstrueux, il n'y a aucun doute là-dessus. Mais je m'inquiète plus du tri qui a été fait, c'est-à-dire de ce qui n'a pas été volé pour des raisons politiques/idéologiques/religieuses etc. 

Autrement dit, ce qui m’inquiète le plus ce n'est pas que Mr Dupont se soit fait piller ses oeuvres, mais plutôt que Mr Durand ait été volontairement enlevé du Dataset.
Ce problème de censure touche autant les LLM que les IA génératives d'images.

Et c'est là où je suis d'accord sur " n'est pas un outil neutre politiquement et écologiquement ". Non, il ne l'est pas :
- par nature : Toute l'information disponible n'est jamais que l'information disponible à un temps donné.
- par biais technique : L'information du Dataset a été sélectionnée sur des critères, soit techniques, soit humain.

Pour ce qui est des métiers, là aussi, parfaitement d'accord. J'irais même plus loin en disant que c'est une catastrophe qui monte petit à petit pour beaucoup de métiers (le mien notamment), et c'est déjà là. 

Voici un exemple très concret :
Depuis des années (+20 ans), je donne des cours de programmation.
Au dernier TP, les élèves ont un rendu à faire de leur code.
Les élèves attendent toujours le dernier TP pour se rendre compte qu'ils sont à la ramasse et donc, normalement, c'est une forêt de bras pour que je les aide.
Mais pas cette année...
Cette année, j'ai fait "garderie". La raison, vous la devinez : ils utilisent GPT/Claude pour corriger leur code. Pire, ils ont un avis sur lequel est mieux pour le code ou mieux pour l'écriture.
Ils ont donc tous envoyé leur rendu, et la correction sera biaisée. Seul l'oral permettrait de lever les usurpateurs (au-delà des signes évidents).
Donc, c'est le rôle de l'enseignant qui va profondément changer et doit nécessairement évoluer, très rapidement.
Mais ce n'est qu'un exemple.

Par contre, en tant que "codeur", l'autocomplétion par IA locale est un vrai bonheur de productivité (une fois identifié ce en quoi elle est bonne et ce en quoi elle est mauvaise), c'est indéniable et ce n'est que le début.

Et que je pense que ça va (le vol) être de pire en pire avec les possibilités "d'entrainement à la maison".

On va se passer des IA sous le manteau...


Enfin, un petit rappel : Une énorme partie de l'utilisation d'internet tourne autour du ... et devinez si la possibilité de générer des images et vidéos y échappe...

[Feldo]

Pire, ils ont un avis sur lequel est mieux pour le code ou mieux pour l'écriture.

Est-ce qu'ils considèrent que Claude programme mieux ?
(avis souvent rencontré sur Reddit)

En tout cas oui je suis dans les milieux éducatifs depuis quelques années, et en effet c'est un enjeu majeur. L'oral va gagner en importance, c'est clair.

Quant au dernier point que tu évoques, là pour le coup je suis presque optimiste. Je pense qu'il suffira de peu de deepfakes immoraux (prendre une tête d'actrice pour inventer des scènes X par exemple) marquants pour qu'on ne se préoccupe plus d'être attaqué comme ça, vu que même au contraire on pourra faire passer de vrais vidéos pour des fausses sans contradiction possible. Enfin, l'humanité ne manque pas d'imagination quand il s'agit de foutre la pagaille, on verra :p

Par contre tout ça va générer bcp d'arnaques, c'est un pain béni pour les pirates & co.

[ledahu]

Est-ce qu'ils considèrent que Claude programme mieux ?

oui. Moi ce qui me rassure, c'est qu'à partir du moment où les élèves comparent et estiment la qualité de l'outil IA, c'est qu'ils ont un minimum de recul.
Ce qui signifie qu'il est possible de leur mettre des grandes lattes quand ils trichent, car c'est en pleine conscience de ce qu'ils font

Pour le deepfake, j'ai fait joujou avec mon image :
https://www.dahu.fr/images-ia-le-deepfak...souvenirs/

prendre une tête d'actrice pour inventer des scènes X par exemple

C'est très clairement une tendance. Tu trouves toutes les actrices facilement étant donné le nombre d'images publiques qu'il est possible de trouver sur elles.
Le top 3 :Taylor Swift (chanteuse), Emilia Clarke (Daenerys dans Game of Thrones),  Little Caprice (actrice films adultes)


Au delà des aspects éthiques, la question fondamentale est : quelle est ma plus value ?

Je viens de tester un Agent AI basique : un agent c'est une sorte de robot avec des tâches spécialisées à accomplir.
Mon agent devait :
- aller sur un site
- faire un résumé de la homepage
- enregistrer le résultat au format Markdown

Nickel.

Et là ça fout des frissons dans le dos, car non seulement tu peux demander à un employé d'utiliser l'IA, mais en plus tu peux le remplacer complètement sur certaines tâches. Et là... là on y est (ou on va vite y être)... en enfer.
La suite : les multi-agents. Bref, des SIMs , mais au boulot.


Note : Qu'il n'y ait pas de malentendu. Je ne suis pas "pour" ou "contre" l'IA, je pense simplement qu'il faut que je comprenne comment ça fonctionne, pour en saisir tous les tenants et aboutissants. 

[tholdur]

Dave Morris explique dans ce message en quoi il aurait bien aimé pouvoir bénéficier des services de NotebookLM, pour lui faire gagner un temps fou et se consacrer davantage à l'aspect créatif.

Même si cela n'efface pas tous les mauvais usages qu'on peut faire de l'IA par ailleurs, cela montre un aspect intéressant de l'IA pour un créateur.