Fuck the IA !!

[Lady V]

Well...

l’amateurisme lié à l’IA

C'est un forum d'amateurs.

Si la porte est fermée à l'amateurisme, merci de le signaler.

En l’occurrence, quelqu'un qui prend la peine de faire des illustrations, aussi pourries soient-elles, et bien c'est cool !
C'est cool parce que c'est l'écrit qui compte ici.
Et le gars qui fait ça, le temps passé est pour de vrai. C'est même la récré le moment de l'illustration. Et on imagine même pas que le récit peut être sabré à cause d'un dessin mal dégrossi. C'est pour le fun.
Il me semble.

Sinon, il faut faire un forum sur les "visual novel" et là, ok, le critère graphique est important.

Du calme ! Du calme ! Je ne pense pas que parler d'amateurisme dans un forum d'amateurs (ou pas) soit une injure. C'est juste donner le juste nom aux choses. 
Définition du Larousse : Caractère de quelqu'un qui pratique une activité en amateur, sans jamais parvenir à la maîtrise du professionnel.
Et l'IA ne permet pas encore de parvenir à la maîtrise du professionnel dans la génération d'images.
Et sans honte, je classe mes illustrations d'Elcielo Inferno dans la catégorie amateurisme.
Et comme le signale Kraken, on a vu pire avec des illustrations humaines, voire avec des productions professionnelles.

Je voulais juste faire réfléchir sur l'utilité de recourir à une IA générative dans des illustrations d'écrits fictifs.

NB : je parle des ILLUSTRATIONS pas de la qualité du TEXTE.

[ledahu]

Pour bien comprendre de quoi on parle , je vous invite à faire un tour sur :

https://civitai.com/images (Communauté de référence d'amateurs IA. )


Puis cliquer en haut à droite sur "filter" par "month", "year" etc. Et/ou de choisir les mots-clefs en sous-menu

[gynogege]

Indépendammant de l'intérêt de l'IA, je voudrais juste préciser quelques points sur son fonctionnement.
L'IA c'est essentiellement une méthode statistique visant, à partir d'un panel de données d'entrée à reproduire quelque chose qui ressemble à ce panel.
On adonc besoin d'abord échantillon pour l'entraîner. Disons qu'on prend dix oeuvres de Balzac. Le réseau de neurons va essayer de construire une "distance" par rapport à cet échantillon.
Ensuite il va produire des textes, à partir d'un certain nombre de contraintes ("écris-moi un roman de Balzac sur les drag-queens") de telle sorte que ce qu'il produit minimise la distance à son échantillon tout en respectant la contrainte de parler des "drag-queen". Pour être sûr que l'IA n'est pas surentraînée on va en fait comparer le résultat à un échantillon d'oeuvres de Balzac plus large que l'échantillon initial (pour caricaturer, si vous avez seulement Eugénie Grandet dans l'échantillon de départ vous risquez d'obtenir "Eugénie Grandet chez les drag queen"). Pourquoi on ne prend pas directement toutes les oeuvres de Balzac ? Parce que ça coûte cher. C'est comme un sondage, on n'interroge pas toute la population et on espère que c'est représentatif.
Je caricature, je ne prétends pas être un expert mais l'idée est là. Bref au final vous obtenez une oeuvre type Balzac.
Maintenant si vous voulez savoir si cette oeuvre a été obtenue par IA. Vous faites une autre IA en lui fournissant des oeuvres produites par IA et d'autres produites par un être humain et vous l'entraînez pour discriminer entre les deux. Problème: les IA génératives ont justement été conçues pour faire en sorte qu'il soit très difficile de distinguer les oeuvres de l'échantillon et les oeuvres produites par l'IA. Donc l'IA de "contrôle" doit être plus performante qu l'IA générative de départ. Sinon comment va-t-elle saoir si Eugénie Grandet a été produite par un être humain ou une IA puisque l'IA écrit comme Balzac ? A ce stade je ne suis pas sûr que lesIA de contrôle disposent d'une puissance équivalente aux IA génératives sur lesquelles on déverse des milliards d'investissement. En revanche si on part du principe que les IA génératives sont entraînées sur des textes de "qualité", sans faute d'orthographe, sans erreur de syntaxe, et même probablement avec des tournures plus soutenues que la moyenne, l'IA de contrôle sera capable de discriminer certaines choses: si vous lui donnez la liste de courses de Mme Michu ou le poème écrit en CP par votre fille, il est très probable qu'il aura que ça n'a pas été produit par une IA.
Donc j'ai un énorme doute sur la confiance qu'on peut avoir dans une IA supposée détecter l'intervention d'une autre IA en textuel. D'autant plu que si ça arrive ce n'est probablement pas tout le texte qui est produit par l'IA mais plutôt une correction de l'écriture. Mais bon je veux bien que quelqu'un de plus compétent arrive à me convaincre du contraire.

[steflip]

j'avoue avoir longtemps été parfaitement inculte à propos de ces IA, principalement parce que j'en avais peur
pas une peur bête et irraisonnée, mais plutôt une peur de ce qu'à terme tout cela va engendrer, ou a déjà commencé, peut-être

durant la période de votes du Yaz qui vient de s'achever (car c'est de ça dont on parle, n'est-ce-pas), je me suis pas mal renseigné à propos de ces IA génératives et de ces IA de contrôle (alors que je ne savais même pas que ça existait : des IA qui contrôlent des IA, pour moi c'est Skynet !)

donc j'ai découvert les LLM, le NPL, etc. tout ce qui caractérise le fonctionnement d'une IA générative
un de mes potes est codeur dans une entreprise qui développe des applications et logiciels à usage professionnel et il se trouve qu'il travaille depuis une petite année sur un pur logiciel IA pour les avocats
tout en m'expliquant, donc, ce qu'est une IA, des étoiles dans les yeux, il m'a prouvé par a+b que, premièrement, on ne fait pas mieux et, deuxièmement, c'est déjà trop tard, ce qui m'a peiné
une autre personne, au détour d'une conversation sur ce même sujet, m'a brutalement déclaré que la littérature est morte en 2023, à l'instant où l'IA s'est démocratisée, et ça m'a aussi peiné
une autre personne encore m'a appris comme il faut se méfier des faux positifs parmi les rapports de ces fameuses IA de contrôle, comme tu le soulignes aussi gynogege

que penser de tout ceci ? qu'il nous faut nous résigner et accepter cette évolution, de prime abord forcée mais tout de même désirée ?
personnellement, je pensais que si l'on s'enorgueillit d'un petit talent d'écriture qui pousse à venir ici et proposer sa prose à la lecture et aux retours des participants, il serait tout de même honnête de ne pas faire écrire son texte par quelqu'un d'autre, ou quelque chose d'autre : les plus vieux parmi nous se souviennent-ils par exemple de l'affaire du nègre de Sulitzer ? eh bien, pour moi, le recours à l'IA, c'est la même chose

aujourd'hui, je ne sais plus qu'en penser, car certains revendiquent que ça va, c'est pas grave, juste pour un coup de pouce, l'IA est salvatrice : nous avons au final déjà entrouvert la porte, et ça continue à me peiner

je ne concèderais pour l'instant qu'un seul avantage à recourir à l'IA, celui de gommer les fautes
j'ai en tête, à cet instant, un " auteur " dont j'ai vu l'interview sur internet : cet auteur qui, à l'oral, faisait des fautes d'accord ou de concordance des temps toutes les deux phrases alors que, dans son oeuvre, je n'ai relevé que très peu de fautes, peut-être une dizaine tout au plus, ce qui me permet d'en conclure que lui, effectivement, se sert de l'IA, à l'évidence parce qu'il a besoin du talent des autres pour se sentir exister

[ledahu]

Une parenthèse technique.

Juste pour dire que depuis ~3 semaines, Alibaba a rendu disponible Wan2.1 qui permet de générer de courtes vidéos à partir d'une image (ou du texte pur) ,

Cela existe déjà, mais là c'est en local (sur votre machine un peu puissante), open-source et gratuit.

Donc l'image de départ n'est pas forcément elle-même créée par IA, hein !
Je veux dire par là que vous pouvez animer toutes vos illustrations.

J'ai fait un article avec des exemples et les liens vers les outils ici



Une des muses de "Minotaure"

[gynogege]

Après voir écouté une émission sur les deepfake sur France inter aujourd'hui, je suis confirmé dans mon idée que globalement la nocivité de ce qu'apporte l'IA dépasse largement ses applications positives. Rien de très étonnant depuis l'existence d'internet déjà, 70% des flux sont liés au porno. On peut avoir des technologies aussi avancées qu'on veut, l'humain restera un animal sur deux pattes.
Le truc c'est que jusqu'ici on pouvait faire la différence entre "réalité" et "fiction". Apparemment les dernières générations d'IA générative ont dépassé ce stade. La conclusion logique c'est que plus personne ne croira une image, quand bien même elle serait vraie (et évidemment 90% ou plus des images en circulation seront générées par IA)... Le complotisme sera légitimé puisque tout sera faux, ou presque, qui voudra encore s'embêter avec la réalité ?
Le seul point positif que j'en retiens, c'est qu'au final ça pourrait sgnifier l'auto-destruction du numérique. Une bonne partie des gens pourrait s'en détourner pour se détourner vers des activités et des relations locales avec des gens réels, avec la nature. On peut toujours rêver. Et ça me fait penser au caractère visionnaire de Frank Herbert dans Dune, le seul à avoir imaginé que l'humanité renonce volontairement à l'IA. Je trouve cette idée très belle.
En ce qui me concerne, une des raisons pour lesquelles je fais le tour des bouquinistes pour acheter de vieux ouvrages, c'est que je me dis qu'a minima les connaissances contenues dans ces livres ne sont pas susceptibles d'être modifiées par un algorihme.

[linflas]

J'ai réussi à installer ComfyUI avec le modèle 14B-480 de Wan2.1, le tout sur Ubuntu, configuré avec un swapfile de 40Go. J'étais un peu léger avec les 16Go de RAM et 12 de VRAM sur ma RTX3060. Il fallait aussi installer les CUDA de NVIDIA (sinon torch ne passait pas, imaginez la belle stack python que je me suis pris, trop fun !). Bref, une broutille...

Après 34 minutes d'attente (fébriles !), j'ai pu générer 1 seconde de fellation. Quel pied ! Mieux que Youporn !

[gynogege]

Du coup tu peux mettre un commentaire à la Magritte: "Ceci n'est pas une pipe."

[linflas]

Bizarrement, les IA sont peu douées pour afficher correctement un texte dans du bitmap. En revanche, pondre de la femme à poil alors que t'as rien demandé, ça c'est bien ancré. D'ailleurs, "femme", sans rien préciser d'autre, correspondra systématiquement à un standard de pub à la Nutella : la pré-trentaine, caucasienne, cheveux lisses mi-longs châtains, yeux marrons. Je suppose que c'est lié au modèle qu'on utilise.
Bref, du porn avec de la ménagère de moins de 50 ans...

[ledahu]

les IA sont peu douées pour afficher correctement un texte dans du bitmap.

Vrai. Et c'est très pénible

pondre de la femme à poil alors que t'as rien demandé, ça c'est bien ancré

Il est possible que, par méprise, tu utilises des modèles uncensored ...

Je suppose que c'est lié au modèle qu'on utilise.

Oui, de plus en plus de modèles sont typés "asiatique". L'offre et la demande...

16Go de RAM

Avec la même carte je suis à 20min les 3 sec en 720p I2V. (MP si tu veux en parler)

70% des flux sont liés au porno

L'IA n'y change rien, c'est ça depuis le début.

Apparemment les dernières générations d'IA générative ont dépassé ce stade.

Oui, pas vraiment, mais ce sera rapidement le cas. Il faut se rendre compte que pour une vidéo/image potable il y a la génération de 30 rendus foireux.

Globalement, pour le p0rn : Bien évidemment ! Sérieux ?! Vous donnez à un homme la possibilité de générer des images, il génère quoi en premier ?

On en revient aux biais inhérents aux modèles au niveau des Datasets : Des images/vidéos de femmes, il y en a partout ! Des images d'hommes de la rue, peu... Et quand il y a des images d'hommes, elles viennent de l'iconographie gay, avec des muscles et des mentons carrés dans lesquels je me reconnais peu.  

Les images générées sont l'exagération, le renforcement, de ce sur quoi elles ont été entraînées (valable pour les LLM).


 

je suis confirmé dans mon idée que globalement la nocivité de ce qu'apporte l'IA dépasse largement ses applications positives.

Je veux bien que tu argumentes.

 

la différence entre "réalité" et "fiction"

Là, je pense que tu as à la fois tort et raison :
Raison dans le sens où les modèles qui cherchent le réalisme, vont finir par réussir. C'est fondamentalement/philosophiquement  une catastrophe (je suis néoplatoniste pour ce qui est de l'art - Plotin https://fr.wikipedia.org/wiki/Plotin), mais n'est-ce pas la cas depuis les techniques de "retouche d'images" ? 

Tort dans le sens où :

Récemment, je me suis créé un nouveau compte Twitter, uniquement pour la génération vidéo IA.  La majorité des "gros" comptes sont asiatiques. Mais surtout, ce sont des comptes de AiGirl assumés en tant que tel ! C'est indiqué dans le titre : "virtual girl", "AiGirl" etc.

Autrement dit, un artiste a créé une "créature", qui n'a souvent rien de réaliste.  Et ce sont des comptes qui tabassent à 60k + de followers.

Là où je veux en venir, c'est que le réalisme n'est pas forcément ce qui "marche", mais plutôt le storytelling et la mise en scène autour du personnage.

Imaginez votre héros, un artiste qui vous fait des illustrations nickel (avec ou sans IA) , et, après, la possibilité de le rendre "vivant". 

L'usurpation n'est pas dans la technologie, elle est dans la volonté. Je pense.

[gynogege]

L'usurpation est dans la volonté. Je n'ai rien dit d'autre. C'est juste que c'est pas la volonté qui manque
Rappelons que l'extrême-droite américaine avait dit qu'elle allait "inonder les réseaux sociaux de merde" et elle l'a fait.
https://fr.businessam.be/flood-the-zone-with-shit-steve-bannon-le-veritable-stratege-derriere-le-6-janvier-2021/

Pour être capable de contrer ce genre de truc, il faut un minimum de capacité de différencier le "fake" du vrai, à partir du moment où tu perds cette capacité il n'y a plus de digue possible. que ce soit l'extrême-droite ou n'importe quel autre influenceur, le mensonge et la débilité se répandent et vont continuer à se répandre à une vitesse exponentielle. Après avoir pollué l'air, la terre et l'eau, l'homme s'est trouvé un nouvel espace à bousiller et il le fait avec une joie non dissimulée. Alors oui tu peux faire des images sympa avec de l'IA de même que je peux faire pousser des jolies tomates dans mon jardin, mais ça reste une goutte d'eau dans un océan de déchets qui se déversent en permanence sur nous. Désolé, c'est très démoralisant, mais je ne vois pas vraiment d'espoir dans l'IA...

[Skarn]

J'ai réussi à installer ComfyUI avec le modèle 14B-480 de Wan2.1, le tout sur Ubuntu, configuré avec un swapfile de 40Go. J'étais un peu léger avec les 16Go de RAM et 12 de VRAM sur ma RTX3060. Il fallait aussi installer les CUDA de NVIDIA (sinon torch ne passait pas, imaginez la belle stack python que je me suis pris, trop fun !). Bref, une broutille...

Après 34 minutes d'attente (fébriles !), j'ai pu générer 1 seconde de fellation. Quel pied ! Mieux que Youporn !

Blague qui passe pas mal à côté du sujet je trouve, puisque centrée sur l'individu isolé plutôt que sur l'énorme ferme de serveurs générant toute la journée et toute la nuit, 365 jours par an (elle a droit à un jour de congé les années bissextiles), des vidéos avec cent cinquante variations de tour de poitrine, pour essayer de plaire à tous les goûts.

En général, le gros point fort de la GenAI, c'est sa capacité à faire de la quantité dans des proportions jamais vues jusqu'ici. Effectivement, le "ça existait avant", sur des exemples précis, c'est vrai, et le avant est d'ailleurs très antérieur au numérique. On retouchait déjà les photos (au crayon, directement sur le négatif) à la fin du XIXème. Mais là, l'ordre de grandeur a changé.

Et cette déferlante, déjà en cours, si elle n'est pas régulée, elle va nous étouffer. C'est même plus hypothétique, on est en train de le vivre.

Je suis conscient qu'il existe des exemples positifs isolés de l'utilisation de la GenAI. Mais c'est comme l'utilisation thérapeutique de certaines drogues : ça existe, mais ce n'est pas une raison pour ne pas réglementer son usage en général. Si même sur la picole, qui est vieille comme l'humanité, on a réussi à faire passer des lois pour limiter la casse (pas assez à mon goût, mais c'est un autre débat), on devrait y arriver sur la GenAI.

[ledahu]

Rappelons que l'extrême-droite américaine

Nan, politise pas. On sait tous ici que la notion de propagande est née avec l'humanité, dès le début.

un océan de déchets qui se déversent en permanence sur nous

T'inquiète, t'auras bientôt ton guide de survie dans ta boite

il faut un minimum de capacité de différencier le "fake" du vrai,

oui, et je retiens la phrase de @voyageursolitaire dès le début sur le sujet de l'IA : "les gens s'en foutent" . Je crois qu'une clef est ici.

mais je ne vois pas vraiment d'espoir dans l'IA...

Mais si, t'es juste chafouin ! C'est plein de bonnes choses, certes, immédiatement dévoyées... 

A un niveau "théorique", il n'y a rien de plus que Prométhée ! Peanuts !  
On tente de refaire l'I , mais A. Fastoche ! L'autoroute du salut, la piste d’envol vers la félicité dernière !

Bref, je pense que le problème est plus profond : On ne sait pas comment elle fait... Ça c'est un vrai problème : Nous sommes capables de créer un truc qui fonctionnera mieux que nous, sans pour autant nous apporter le savoir de cette compétence. C'est plutôt embêtant...

Heureusement que tout cela dépend de la fée électricité !

Je vais te donner de l'espoir : imagine un LLM (chatbot) qui ne réponde que par des questions pertinentes ! Un LLM qui ne te donne jamais de réponse définitive et t'oblige systématiquement à réfléchir, à creuser. (techniquement, rien d'insurmontable, commercialement un suicide)

Tu vois une masse d'arme, là où je vois un marteau pour clouer des planches.
Mais , je reconnais que, pour l'instant tu as plus raison que moi. 
Cela n’empêche.

Pour être capable de contrer

Cela fait bien longtemps que l'esprit critique n'est plus au programme ! A aucun programme !  "les gens s'en foutent" 

Bref, on en est à X pages sur le thread, on peut déconner sur le sujet, non ?
En résumé à la louche : On a fait faire à la machine les mêmes processus que les nôtres : Réseaux neuronaux.
Conséquence : en réussissant, qui sommes-nous ? Que sommes-nous de plus ?

Je me disais que mes garçons (ado + pre-ado) vont donc mater des filles qui n'existent pas et sont "parfaites", lire des histoires d'une "parfaite" probabilité pour eux , avoir des cours d'une "parfaite" pédagogie probable selon leur profil, avoir une orientation et un métier "parfaits" selon leur parcours sup, être de "parfaits" citoyens,  etc. 

Et ce sera probablement efficace, mieux que des parents qui se trompent.

Et pourtant, quel échec ! ...

J'ai un slogan pour toi, qui me vient à l'instant :

"Les proba, ça ne suffit pas"

Sous-entendu : il y a le destin, l'intuition, le hasard, l'accident, la coïncidence, l'improbable etc.
Chez tous les humains.


Enfin, pour répondre à @skarn, non, je ne pense pas qu'une régulation servirait.

Les personnes qui utilisent l'IA, normalement, ne s'en cachent pas : elles montrent leur maîtrise de l'outil.
Et réguler quoi ? Les modèles ? Il y en a des dizaines de nouveaux tous les mois ! Les rendus ? Comment ?

Un ami enseignant-chercheur m'a raconté une réunion pédagogique récente : Ils se posaient la question de comment sanctionner/repérer l'utilisation de l'IA. Mon ami leur a répondu qu'il valait mieux valoriser les étudiants qui revendiquent la non-utilisation de l'aide de l'IA. Il m'a aussi raconter le silence qui a suivi...

bref,

Je vous laisse, je viens de trouver un plugin qui permet de générer des femmes selon les critères de beauté des playmate des années 60 à 90 !

Bises !

...


Note: Et dire que les IA génèrent à partir du "bruit"... c'est dingo, non, quand on pense que c'est Chaos, chez les Grecs, qui est à l'origine de tout !?

[gynogege]

Je comprends ton point de vue, honnêtement, mais comme dirait Dany Glover "je suit trop vieux pour ces conneries". J'ai fini de croire que le progrès technique était fait pour aider l'humanité.
Je ne politise pas le sujet, c'est juste un exemple très frappant puisqu'il montre qu'un des pays les plus puissants de la planète est soumis à la pression de stratégies numériques suffiamment importantes pour le déstabiliser.Evidemment que la propagande a toujours existé, l'espionnage aussi, c'est juste qu'aujourd'hui c'est possible à une échelle démentielle.
Il n'est pas inintéressant de savoir que le pays pionnier dans le développement de la télévision c'était l'Allemagne nazie. Très vite ils ont financé un écran dans chaque foyer, et ils ontinventé le journal télévisé à 20h. Tout ça pour quoi ? Pour la propagande évidemment, parce que la puissance d'un discours en images est inégalable (ce qui explique pourquoi Bowie je crois a dit que Hitler était la première star rock, analogie qu'on retrouve dans "The wall"). Le film l'"Oeil de Vichy" de claude Chabrol montre les archives de la étél de Vichy, ça vaut le coup d'oeil, il faut garder à l'esprit que tout ça était très neuf pour des spectateurs impressionnables. Les nazis ont aussi massivement utilisé la production de films de cinémas à des fins de propagande.
On voit où tout ça a mené. Aujourd'hui le cinéma, la télé, le culte de l'image, tout ça est dépassionné même si sur le fond des problèmes subsistent. Un regard complaisant pourrait dire "regardez finalement on maîtrise ces technologies, sans problème majeur..." Mais est-ce qu'on avat vraiment besoin d'en passer par une guerre mondiale et tous ces totalitarismes ? Est-ce que ça valait la peine ? On oublie volontairement cette dimension parce que elle est très gênante pour notre civilisation qui a repris en fait les instruments de propagande inventés par l'Allemagne nazie (y compris les cérémonies des JO d'ailleurs, c'est intéressant aussi).
Tu vas dire je politise encore, mas pour moi c'est une mise en perspective pour expliquer ce que je projette dans la situation que nous vivons aujourd'hui, et il me semble que les événements récents ne font rien pour me détromper.

[ledahu]

J'ai fini de croire que le progrès technique était fait pour aider l'humanité.

Donc effectivement, mon point de vue est le contraire. A ceci près que , pour moi, le progrès se décompose en étapes :

1- le progrès commence avec des "savants" qui cherchent à comprendre le réel

2- des "ingénieurs" qui en font des Proof Of Concept

3- des commerciaux qui en font des produits

4 - des militaires qui en font des armes

5- des politiciens qui en font des instruments de pouvoir.


Mon enthousiasme est celui de 1 et 2,

mais je constate 3,4 et 5, tout comme toi, et ne peux qu'en conclure que c'est la merde.
 

Et je conviens à ton analyse de ce facteur démentiel, ce potentiel de nuisance qui augmente à chaque fois.

Je ne peux qu'essayer de comprendre pour expliquer à mes fils que "parfait" est une utopie, pire, que le "parfait probable" est à terme une normalisation vicieuse.
Bref, apporter une possibilité de conscience

ce qui est justement l'objectif de ce thread !