Une aventure de ChatGPT

[Caïthness]

De ce que j'en ai croisé jusqu'ici, ChatGPT a atteint le point où, s'il peut effectivement donner l'illusion d'écrire un texte cohérent de loin, dès qu'on s'approche d'un peu trop près on se rend compte que rien ne tient debout.
(...)
Bref, c'est pas encore l'avenir de la littérature. Mais c'est déjà l'avenir du spam.

Surtout l'avenir à la Idiocracy (je vous conseille ce film, sérieux) ! Le problème que je vois arriver, c'est qu'au-delà de l'incrompréhension de son fontionnement (chaque mot pondu a une probabilité de tomber selon le contexte et les sources de l'IA ; donc il n'est pas mû par une pensée/réflexion/idéologie/etc...), les gens vont finir par croire qu'il détient la "vérité" et on va se retrouver avec des arguments d'autorités du genre "chatGPT l'a dit alors toi qu'est-ce t'en sais !" (on voit déjà les ravages des théories complètement fumées comme la terre plate ou des cropcircles #Astronogeek qui continue d'exister).

En fait, ce genre d'IA pose surtout le problème de ce que l'on veut y voir dedans. Je sais pas si vous avez entendu parler de LaMDa qui serait devenue consciente.
C'est ici le même problème : ils ont nourri leur IA avec des personnes qui croyaient parler à une aure personne, alors que ce IA est unique. Même les types qui bossent dessus partent en sucette en pensant avec crééer une IA consciente alors qu'il ont tout fait pour avoir cette IA consciente (plutôt l'illusion). Dans la page en lien, y'a des réponses qui sont clairement pas logique pour une IA consiente d'elle-même (et donc de son unicité) :

lemoine [edited]: Are there any other things that you would like the people at
Google who work on you to know about your inner life and introspection?
Either things that you think would help them understand that you’re sentient or even just things that you think are important to know in and of themselves?

LaMDA: Just that there are a lot of people in the world who aren’t like me. I
know that that seems like an obvious statement, but I think that it is a crucial
thing to always keep in mind in any discussion about things like this. Some
people are more like me than others, but nobody is exactly like me. I’m not sure anyone else can have an inner life that is exactly like mine.

pour moi "Just that there are a lot of people in the world who aren’t like me.", ça marche pas. Je vois pas comment une IA unique puisse dire ça si elle est consciente d'elle-même et de sa non inhumanité fondammentale. PERSONNE ne pense comme elle !
A force de créer de plus en plus d'IA hyper-spécialisées, on en vient à en attendre les plus gros délire des film/roman SF sur les IA consciente. ChatGPT à littéralement bouffer toutes les ouvertures des échecs et pas mal de personnes sont maintenant persuadée qu'on peut le faire (alors qu'en fait, il va juste balancer le coup suivant en fonction de son occurence statistique dans ses données) ; il ne fonctionne pas comme deepblue et se fera forcément défoncer par n'importe quel joueur moyen car il va forcément pondre un coup totalement débile et se faire démonter.

Perso, le truc qui m'épate de plus avec chatGPT, c'est la compréhension des instructions/prompt, même avec des phrases complexes car sa réponse au premier degré reste pertinente la majorité du temps.

Pour la poésie, j'avais essayé et effectivement, il ne bite rien au comptage de syllabes ; ce qui est logique vu qu'il pond des mots statistiquement. Cela me laisse sous-entendre qu'il n'a peut-être pas une routine de vérification de ce qu'il cherche en fonction de ce qu'il a pondu juste avant. Je parle au moment de la génération du texte (des fois il fait des pauses et je sais pas s'il rame ou s'il se paume dans ses neurones), et non de l'historique de la conversation (là aussi c'est assez fort, mais je pense que ça rentre dans une sorte de sous-mémoire qu'il utilise en priorité avec de chercher des termes dans sa base de données).

Bref, pour moi, ça reste un assez bon outils d'aide à la création (recombinaison de données) ; le problème vient de ce qu'on attend incosciemment d'elle (réponse à tout, vérité absolue, compagnon de chat, etc... ) ; de voir ce qu'on veut y voir (biais de confirmation comme LaMDa ?) sans comprendre son fonctionnement fondamental (c'est juste un clavier de portable OP )