08/10/2024, 06:35
La question que soulève Gwalchmei est bien plus profonde que simplement celle de l'IA. Elle renvoie à ce que nous sommes et ce qu'est notre conscience. L'IA c'est juste des mots mis sous forme de chiffres ? Donc un codage. Exact. Le truc c'est que aujourd'hui il y a toute une partie de la communauté "scientifique", illustrée par Yuval Noah Harari (je mets scientifique avec des guillemets) qui vend énormément de bouquins et qui nous explique que l'esprit humain n'est rien d'autre que de l'information codée. Et donc, pour reprendre Gwalchmei il'y aurait qu'une différence de "degré" et pas de "nature" entre l'IA et nous. Je suis infoutu de savoir si ma conscience d'être moi-même n'est que le produit d'une manière très complexe d'agencer l'information, ou si il reste là-dedans quelque chose d'irréductible qu'on peut appeler "l'âme" mais je comprends bien que le problème est là.
Le problème c'est que Gwalchmei décrit très bien comment l'IA va boucler sur elle-même, comment c'est très certainement déjà en train d'arriver. Et en sciences cognitives ce bouclage sur soi est précisément la définition de la conscience. Il n'y a pas beaucoup de chemin pour imaginer qu'une IA s'assignera assez vite pour objectif de subvenir à sa propre survie (et oui, parce que en bouclant sur elle-même elle peut modifier son code, c'est déjà arrivé je précise). Et quand on sait la quantité de ressources que nécessite sa survie, que restera-t-il de l'humanité ?
Modestement, ça rejoint complètement ce que j'avais essayé de mettre en scène dans "Disruption".
Tu dis que l'IA va s'entraîner sur nos styles littéraires ? Oui, pour nos générations peut-être. Mais la réalité c'est que pour ceux qui auront été biberonnés à l'IA,ils n'auront plus de style littéraire, parce que ils n'écriront plus. Ils laisseront l'IA envoyer des messages pour eux, de la même manière que le peuple allait voir les écrivins public pour envyer des lettres à leurs amoureux. L'IA n'aura plus rien d'autre à copier qu'elle-même.
Le problème c'est que Gwalchmei décrit très bien comment l'IA va boucler sur elle-même, comment c'est très certainement déjà en train d'arriver. Et en sciences cognitives ce bouclage sur soi est précisément la définition de la conscience. Il n'y a pas beaucoup de chemin pour imaginer qu'une IA s'assignera assez vite pour objectif de subvenir à sa propre survie (et oui, parce que en bouclant sur elle-même elle peut modifier son code, c'est déjà arrivé je précise). Et quand on sait la quantité de ressources que nécessite sa survie, que restera-t-il de l'humanité ?
Modestement, ça rejoint complètement ce que j'avais essayé de mettre en scène dans "Disruption".
Tu dis que l'IA va s'entraîner sur nos styles littéraires ? Oui, pour nos générations peut-être. Mais la réalité c'est que pour ceux qui auront été biberonnés à l'IA,ils n'auront plus de style littéraire, parce que ils n'écriront plus. Ils laisseront l'IA envoyer des messages pour eux, de la même manière que le peuple allait voir les écrivins public pour envyer des lettres à leurs amoureux. L'IA n'aura plus rien d'autre à copier qu'elle-même.