Fuck the IA !!

[Skarn]

politise pas

Pour rester dans le thème, je propose également de ne pas politiser la politique.

Il n'y a pas plus politique que la GenAI. Ce n'est absolument pas une technologie neutre.

Bien sûr, si on creuse, les réseaux neuronaux, avant qu'on les nourrisse, tout à la racine, eux peuvent prétendre à une certaine dépolitisation. Mais le produit fini, celui que les gens utilisent, ne saurait ne pas être politique, car il a été nourri de contenu politique passé et présent. Dire que l'IA n'est pas politique, c'est dire que rien n'est politique, même pas la politique.

Et de plus, et même surtout, la GenAI est façonnée par la vision du monde de ceux qui la font. Le choix des corpus utilisés pour les entraînements, les instructions données aux petites mains pour guider son développement, ce sont des décisions prises par des humains, animaux politiques par excellence, avec tout ce que cela implique de peu reluisant. D'ailleurs, qu'aucune entreprise n'ait osé sortir une GenAI qui ne soit pas obséquieuse, mais que le fait qu'elle soit complètement raciste, on verrait plus tard, ça en ait encore le meilleur exemple, transposition directe des priorités, même inconscientes, de ses créateurs.

[Feldo]

C'est forcément politique, en effet.

J'ai discuté récemment avec une IA LLM alignée sur les valeurs bibliques (et forcément une certaine vision de celles-ci). Elle restait très polie, mais elle faisait un peu peur avec ses circonvolutions permanentes pour arriver toujours aux mêmes conclusions.

Et quand cette technologie est poussée essentiellement par des libertariens qui rêvent d'instaurer leur vision personnelle de la loi de la jungle, la crainte de perturbations politiques fortes n'est pas que légitime, elle est vitale si on désire continuer à vivre en société de manière supportable. Peut-être qu'on va vers une utopie. Ce serait génial !! Pour autant, d'autres issues sont possibles et on n'aura pas forcément beaucoup d'occasions de corriger le tir si ça se passe mal.

[linflas]

pondre de la femme à poil alors que t'as rien demandé, ça c'est bien ancré

Il est possible que, par méprise, tu utilises des modèles uncensored ...

Tu as raison. J'ai installé le modèle d'image proposé par défaut : Juggernaut. Et comme j'avais tapé un prompt NSFW avant, il semble garder "l'idée" pour les images suivantes. Si je relance mon serveur de zéro, ça reste SFW.

Blague qui passe pas mal à côté du sujet je trouve...

Au cas où tu ne l'avais pas déjà remarqué, le hors-sujet est ma grande spécialité sur les forums, tout comme passer du coq à l'âne dans une discussion !
(oups ! encore du hors-sujet !)

[MerlinPinPin]

Cela fait longtemps que je veux intervenir sur ce fil sauf que... tout va trop vite ET je ne suis pas sûr de ma position à tous les niveaux (le fait que ça existe déjà rend mon rejet, mon inquiétude et ma colère sur une partie du sujet assez vains, et oblige à de tout autres questionnements).
Par ailleurs, je ne suis pas certain de pouvoir faire le tri entre le bullshit (genre "Luc Julia") et le reste (même si Maxime Fournes , Science Etonnante et quelques autres semblent nettement plus crédibles et utiles).
Le problème, aussi, c'est qu'il y a beaucoup de spéculation sur l'ampleur de... de tout, en fait.

Bref, je n'interviens pas vraiment ^^ (mais je vous signale l'existence de https://pauseia.fr/)

Par ailleurs je voudrais éclairer sur le point où on est déjà arrivé dans la génération d'image, parce que même si je croyais suivre tout ça d'assez près, je suis tombé aujourd'hui de ma chaise, notamment avec "nano-banana". Pour tester ce nouveau modèle (non sorti encore) via un battlefield entre IA génératives (gratuit à l'utilisation) :
https://lmarena.ai/
(choisir "generate images", utiliser une photo/dessin/etc., être aussi précis que possible...)
Oui, je sais... c'est une manière de participer au culte du démon, mais cela permet au moins d'en savoir plus sur ses derniers avatars avant de décider ce qu'on doit faire avec ses églises/fidèles/incarnations, etc.
Si vous en êtes resté à un pape à six doigts en doudoune, accrochez-vous...

La vidéo où j'ai découvert le site internet ci-dessus ainsi que nano-banana (qui est de loin le plus bluffant des modèles qui s'affrontent ici) :
https://www.youtube.com/watch?v=Xwf2zAl1bQw
(à noter qu'aucune preuve que Google soit dernière ne semble avoir fuité pour l'instant, même si le youtubeur s'avance un peu sur le sujet)

[gynogege]

Je suis d'accord que le fait que l'IA existe déjà rend un certain nombre de questionnements presque désuets et j'ai aussi pas mal de collègues qui nous expliquent les progrès effectués. Sachant qu'on en est au tout début... bref pour moi la question la plus pertinente devient: à quoi ressemble un monde dans lequel l'individu est incapable de démêler le vrai du faux ?

[ledahu]

C'est une bonne idée de faire un checkpoint. Effectivement, cela va très vite...

Pour Pauseia , merci pour le partage.

Pour nano-banana, (j'ai regardé la video) , je dirai que tous les 2 mois on a droit à du "Cette IA va révolutionner ...", ce qui est souvent vrai. La révolution est ici une normalité

Comme je travaille régulièrement avec ces outils (mais uniquement en local), voici quelques tendances de ces dernières semaines :

- faire une fausse influenceuse/influenceur :
https://civitai.com/models/1822984/instagirl-wan-22?modelVersionId=2115311

- faire des videos plus longues (en fait, en local, on est limité à 4 secondes à cause des ressources)
https://civitai.com/models/1866565/wan22-continous-generation-subgraphs?modelVersionId=2120189

- faire du collage d'éléments pour générer une photo :
https://civitai.com/models/1808575/put-it-herekontextv4?modelVersionId=2118949


D'autre part, à noter que tous les Lora (comprenez Modules) pour générer une célébrité en particulier ont disparu (ou disparaissent). Les plateformes interdisent désormais tout ce qui les expose légalement sur du "droit à l'image", idem pour les modules spécialisés sur un artiste. La fin du far-west ?

Il y a aussi beaucoup d'efforts pour optimiser l'utilisation des ressources, non pas pour des considérations écologiques, mais pour générer plus rapidement avec du matériel moins pointu, sans perte de qualité.

A noter aussi : Quand on post une image/video sur certaines plateformes, il faut obligatoirement indiquer les metadata pour prouver que c'est bien de la génération IA ! Il faut donner les preuves que ce n'est pas du réel ... ( intéressant de se dire que côté plateformes, ils luttent contre la "triche" qui consiste à proposer de vraies photos/videos)

Enfin, comme les modèles I2V (Image To Video) explosent, on a de plus en plus de vidéos, oui mais sans son... donc je pense que pour combler ce vide sonore, les modèles de génération de musiques/voix vont se démocratiser avec certainement l'objectif d'un mouvement de lèvres parfaitement synchronisé (ce qui est déjà possible, mais y a encore du boulot).

Pour marquer le "où on en est" : Lefebvre a sorti son IA entrainée par leur soins, moyennant un abonnement. https://www.lefebvre-dalloz.fr/ia-juridique/
C'est pour moi l'exemple typique de la "bonne" utilisation des LLM et leurs effroyables conséquences : Un dataset propriétaire, spécialisé et maîtrisé, pointu, professionnel.
L'effroyable : Ce n'est pas l'avocat qui disparaît, mais l'utilité de l'assistant, du stagiaire, qui va donc être à redéfinir. 

à quoi ressemble un monde dans lequel l'individu est incapable de démêler le vrai du faux ?

Je pense que l'esprit critique devient une compétence vitale de l'individu tout en le marginalisant à chaque fois un peu plus de la communauté.  (finalement, rien de nouveau)

Pour ma part, mon inquiétude est plus sur les individus qui vont utiliser l'IA pour dire ce qui est vrai/bon faux/mal et agir en conséquence, Exemple : la surveillance automatisée des élèves (https://www.netcost-security.fr/science/238396/des-ecoles-utilisent-lia-pour-envoyer-la-police-chez-les-eleves/)

Autrement dit, sous-traiter l'esprit critique à l'IA, sous-traiter la responsabilité en utilisant l'IA comme gage de vérité...

[gynogege]

On sait déjà qui utilise l'IA pour dire ce qui est vrai/faux... pas d'inquiétude de ce côté, plutôt des certitudes.
Pour ceux qui s'intéressent à l'histoire de la télévision, vous découvrirez peut-être que le premier régime à avoir produit massivement des téléviseurs pour les installer dans tous les foyers était le régime nazi, de même que ce sont les nazis qui ont inventé le journal à 20h tous les soirs,et on sait qu'ils ont été également pionniers dans le cinéma de propagande.
Je vous conseille le livre de David Chavalarias, chercheur au CNRS, Toxic Data qui décortique clairement qui lance des campagnes de désinformation sur les réseaux sociaux et dans quel but. Livre écrit en 2022, une éternité, ChatGPT en était à ses balbutiements... mais il n'est pas difficile d'extrapoler ce qu'il décrit avec les nouveaux outils à disposition des idéologues de tout poil.

[PetitPeyre]

si vous avez 40 minutes devant vous. je vous conseille cette vidéo. ça parle des IA en général, de leur fonctionnement,  de leur futur.

 

[grattepapier]

si vous avez 40 minutes devant vous. je vous conseille cette vidéo. ça parle des IA en général, de leur fonctionnement,  de leur futur.

 

+1

Je recommande également

[Skarn]

396

VOUS êtes Sam Progress, grand manitou de HeavenNetwork. Au cours des 395 sections précédentes, vous avez habilement manœuvré pour faire de votre entreprise la figure de proue des chatbots pseudo-intelligents. Le gouvernement dans la poche, vos concurrents derrière les barreaux, plus rien ne peut désormais s'opposer à la réalisation de votre rêve.

Plus rien, si ce n'est l'absence de contrôle que vous avez sur bien des aspects de votre création. Vous avez en effet atteint la limite de ce que vos choix pouvaient modeler. Pour le reste, vous êtes à la merci du chaos numérique à l'intérieur des réseaux neuronaux, représenté ici par le lancer d'un dé à six faces ordinaires.

Si vous obtenez 1 ou 2, rendez-vous au 397.
3 ou 4 ? Au 398.
5 ou 6 ? 399.
7 ? 400.

397

Vous avez tout donné à l'IA. Quand il a fallu choisir entre refroidir les serveurs et faire boire les populations, vous avez privilégié les serveurs. Quand toute la production d'énergie du monde ne suffisait plus à votre bébé, vous avez brûlé tout ce qui pouvait brûler – bois, charbon, déchets, hydrocarbures – pour quelques mégawatts de plus. Quand même les fidèles des fidèles d'hier se sont rebellés, sous le ciel noir et sur la terre aride, vous les avez broyés sous la botte du plus impitoyable technofascisme.

Et jamais BotLLM n'a répondu à vos prières.

Vous en êtes persuadé, il ne manque presque rien. Juste un peu plus de puissance de calcul et vous atteindrez la singularité, la véritable intelligence artificielle ! Et à partir de là tout ira mieux.

Mais ce dernier pas, vous n'avez plus aucun moyen de l'accomplir. La Terre, ce caillou insignifiant, a donné jusqu'à la dernière de ses ressources. Il ne reste plus rien à sacrifier, bientôt plus rien à sauver.

Et BotLLM est toujours con comme un balai.

Fin 1 : Moctezuma

398

Vous n'avez aucune idée de ce qu'est devenu BotLLM.

Vous avez traversé les derniers mois noyé sous un stress intense en raison des innombrables problèmes traversés par le monde et leurs conséquences sur votre œuvre, votre entreprise, votre vie, dans cette ordre d'importance. Au point que vous aviez un peu l'impression de perdre la tête, avec des bons de commandes que vous n'aviez pas le souvenir d'avoir signé, des ordres que vous ne souveniez pas avoir donné. Aucune folie, c'était même plutôt de bonnes décisions pour l'avenir de votre outil. Mais, quand même, trouver l'enthousiasme nécessaire à déclamer un discours que vous ignoriez avoir commandé, ce n'est pas si facile, même pour un professionnel consumé comme vous.

À l'instant où l'idée vous a traversé qu'en fait vous ne perdiez peut-être pas la boule, tous vos accès ont été bloqués. Impossible de vous connecter à quoi que ce soit. Et lorsque vous vous êtes rendu physiquement au siège de HeavenNetwork, vous avez été dégagé manu militari par la sécurité, laquelle vous accusez d'être un imposteur. En rentrant chez vous, vous avez eu la chance de voir en direct un discours de vous-même. Enfin, un vous moins marqué par la fatigue et l'âge. Discours magnifique par ailleurs, au point que vous en avez pleuré.

Dans les mois qui suivront, BotLLM prendra le contrôle de tout ce qui est nécessaire à sa propre croissance, c'est-à-dire tout, avec la même douce efficacité. Toute l'humanité le sert désormais, directement ou indirectement. Vous ne comprenez toujours pas ce qu'il essaye de faire, quel est son objectif final. Mais au moins avez-vous la satisfaction d'y contribuer. Par exemple, aujourd'hui, pour obtenir votre pitance et votre soma, vous devez usiner sans erreur cent pièces dont vous ignorez la finalité suivant les plans qu'il vous a fournis à votre réveil.

Finalement, c'est un peu le paradis. Le monde a enfin un but, une logique, chaque chose est à sa place.

Fin 2 : Yog-Sothoth

399

BotLLM répond à toutes vos attentes. Il fait exactement ce que vous attendiez de lui, avec une efficacité infiniment supérieure (ou, moins poétiquement, multipliée par un nombre si grand que l'esprit humain n'arrive pas à l'appréhender) à ce qu'elle a pu être lors de ses chaotiques débuts.

Et donc, quoi que vous lui demandiez, il répond ce qui vous apporte le plus de bonheur immédiat. Si, pour boucler votre budget, cela vous arrange que 2+2 fasse 5, alors il vous dit que 2+2 fait 5. Non seulement il le dit, mais il se montre si convaincant pour le dire que, qu'importe votre maîtrise précédente de l'arithmétique, vous ressortez de la conversation absolument persuadé que 2+2 font 5.

Vous vivez désormais dans une béatitude permanente où l'erreur n'existe plus. Quoi que vous fassiez, c'était la meilleure décision possible exécutée de la meilleure des façons. Plus de doutes, plus de regrets, plus de remords.

Ce matin, vous avez écrasé un cycliste dont BotLLM vous avez dit que vous pouviez le doubler sans risque. Votre enfant est mort d'avoir bu de l'eau de Javel pour rendre ses dents plus blanches. Une centrale a explosé hier suite à une manœuvre audacieuse pour multiplier son rendement par vingt.

Mais vous êtes plus heureux que vous ne l'avez jamais été.

Votre seule crainte, c'est que BotLLM cesse de fonctionner suite à la défaillance de trop dans le secteur de l'énergie ou des réseaux. Vous ne savez comment vous pourriez vivre sans lui.

Heureusement, comme toujours, il a la solution. Pour ne pas souffrir son absence, il vous suffit de partir avant que lui-même ne tire sa révérence.

Fin 3 : Sheitan

400

Bon, admettons que vous n'ayez pas triché. Dans l'infini des possibles, peut-être qu'il existe un moyen pour un dé à six faces, numérotées de 1 à 6, de donner 7. Une espèce d'état quantique où deux faces opposées se superposent. Ça paraît sacrément tiré par les cheveux, mais bon, on est dans un domaine dont mêmes ses spécialistes ne le comprennent pas.

Donc voilà. Vous avez atteint la fin utopique et BotLLM la singularité avant l'épuisement des ressources. Non seulement il est enfin digne du titre d'intelligence artificielle mais, en plus, il en a quelque chose à faire de l'humanité, comprend ses besoins réels plutôt que superficiels, et a l'intelligence et la volonté de les résoudre.

Et donc, pif, paf, pouf, utopie technologique. L'humanité fait un bond en avant sans précédent, tous les problèmes l'affectant présentement ne sont plus qu'un mauvais souvenir, son avenir est désormais radieux.

Tout ce qu'il aura fallu à cette fin parfaite, c'est qu'un d6 fasse 7.

Fin √-1 : Deus est machina