Déjà, merci pour les retours constructifs, à la suite de mon post, un peu trop énervé, sans trop de recul, qui aurait mérité surement davantage de nuances !
Sinon, Gyno, ChatGPT dit que : « Ce texte est riche en émotions et en réflexions personnelles, avec un style direct et sans filtre. L’auteur exprime une frustration profonde vis-à-vis de l’utilisation de l’intelligence artificielle (IA) dans le domaine créatif et au-delà. » Il est sympa et note quelques points forts, mais je préfère les points d’amélioration plus nombreux, comme celui-là « Tonalité : Bien que le texte cherche à choquer et provoquer, l’usage de termes grossiers ou de comparaisons très crues (« je te pisse à la raie ») peut détourner l’attention du message principal. Alléger ou nuancer ces éléments permettrait de toucher un public plus large sans sacrifier l’intensité de l’argumentation. ». Et en conclusion « Le texte est un cri du cœur, puissant et vibrant. Il donne à réfléchir sur la place de l’IA dans nos vies et les conséquences potentielles de son adoption massive et souvent peu réfléchie. Une révision ciblée pourrait encore renforcer ce message et toucher un public plus large tout en préservant l’authenticité et la passion qui s’en dégagent. »
Bref, c’est de la flûte ! Il y a une forme de « suçage de chibre » artificiel qui ne m’inspire pas confiance !
L’IA est un sujet délicat, qui exacerbe les réactions, sans doute justement parce que la portée de la chose bouscule des constructions mentales qu’on croyait presque sacrées.
Merci aussi d’avoir apporté de la clarté, du débat (continuez) et des réflexions ! Notamment pour la deuxième partie de mon propos (Gynogege encore je crois), avec l’analogie sur Darwin et la notion de conscience. J’avais développé davantage à l’origine, mais je me suis dit que ça commençait à être vraiment long !
Sur ce point, je renvoie à la chaîne YouTube de « Monsieur Phi » et par exemple la vidéo avec le titre, un brin provocateur, « Et si c’était conscient ». Qu’on soit d’accord ou pas, ça vaut le coup de s’y attarder, je pense. Qu’est-ce que la conscience, à partir de quand peut-on considérer un organisme comme conscient ? Si on peut admettre qu’un neurone n’est pas conscient, qu’en est-il d’un réseau de neurones, le cerveau ? Est-ce que l’analogie avec un transistor et un réseau de transistors est alors valable ? Serions-nous, en effet, comme le dit Feldo, simplement des « ordinateurs biologiques ». C’est là où je voulais en venir avec ma parabole fumeuse sur Darwin !
Si j’ai réagi de manière aussi épidermique, virulente, c’est justement parce que ça me heurte, ça me perturbe profondément et ça a de quoi. C'est un réflexe de défense, un peu inutile surement ! Car, non, je ne crois pas que ce n’est juste qu’une brosse à dent électrique. Car finalement, pourquoi pas utiliser ChatGPT pour envoyer des mails à la con qu'on a la flemme de rédiger au boulot, pondre des procédures absconses, ou d'improbables tableaux Excel que personne ne lit ou ne regarde. Mais, c’est justement là, le problème ! C’est que ça (et nombre de vous le dise) s’impose partout, que c’est rapide, avec des résultats souvent bluffants, que c’est un assistant efficace pour plein de situations, ça nous remplace avec notre assentiment.
Et insidieusement, on s’habitue. On baisse imperceptiblement la garde, ça endort la vigilance, la cognition. Quand on ne prendra même plus le temps de réfléchir à ce que l'IA nous aura proposé, qu'on enverra direct ce qu'elle aura pondu sans vérifier la pertinence, la justesse, la réalité des propos générés. Sans croiser des sources. Une confiance absolue poussé par la facilité. On rentre, en plein, dans ce que dit Gynogege avec le processus de bouclage. Et là, se dessine le risque, assez vertigineux, de perdre pied. Donc, faut arrêter.
Et ça, c’est pour le moment ! C’est une solution facile, idéale parfois, et je renvoie à mon analogie avec le dopage en cyclisme sur le fait que tout le monde va être tenté de l’utiliser pour suivre le rythme. Et c’est bien là le problème. C’est que d’un assistant, ça risque fortement d’évoluer en quelque chose de plus pernicieux.
Donc, oui je crains pour le domaine de la création, la submersion par des œuvres que personne ne lira. On aboutira à une consommation à la « Netflix », où tu passes 30 minutes à faire défiler les centaines de séries et de films qu’on te propose, sans jamais en choisir aucun. Au bout du compte, on se met à regarder un "truc", peu motivé car abreuvé de références, et on arrête après 10 minutes en se disant que c’est nul et qu’il y a surement un "autre truc" mieux à regarder.
Mais, Fitz, le dit très bien quand il parle du chemin et du but (je l’évoquais aussi dans ma définition du terme « exister »). Le moteur du vivant, de l’évolution, ce n’est pas la performance (faire mieux, avec moins de moyens), mais la robustesse (s’adapter aux aléas, plus exactement « Maintenir un système stable malgré les aléas »). Je vous renvoie au livre que je trouve essentiel et passionnant de Olivier HAMANT (La 3ème voie du vivant). Allez jeter un œil sur les quelques vidéos qui sont sur YouTube. La redondance, l’imperfection, la lenteur, la divagation, le tâtonnement… Tout ce que notre société abhorre (car focalisée sur le culte de la performance justement), et bien ce sont les fondements dans la nature, des systèmes vivants. Ça permet de faire face, de perdurer malgré les changements (voir son exemple édifiant sur la photosynthèse !). L’IA nous retire cette tendance à divaguer, à effectivement partir sur une recherche initiale et se laisser happer par d’autres concepts, d’autres idées. C’est ça exister, en effet, c’est d’arpenter le chemin et parfois d’aller vagabonder dans les champs. L’imprévu. L’IA, elle, va droit à l’essentiel, apporte une réponse immédiate. L’IA se focalise sur le but. C’est l’impression que ça me donne.
À l’invention du téléphone portable, on s’extasiait du progrès technologique, des avantages que cela procurait dans plein de domaines, mais quelques décennies plus tard, on en est où des externalités négatives ? Le fait d’être joignable partout, tout le temps c’est un progrès ? Le fait qu’on peut tracer les gens qui bossent à chaque seconde, que les applications remplacent toutes les interactions humaines dans presque tous les domaines (quand est-ce que vous avez eu un humain au téléphone, hors de votre cercle familial et d’amis, pour la dernière fois ? L’assurance, la banque, la poste, un/une secrétaire. Ben, en fait, c’est seulement quand les applications plantent qu’on appelle quelqu’un, ou qu’il y a vraiment un gros problème). Les notifications qui interrompent les conversations partout, tout le temps... Et je ne parle pas des impacts sur les écosystèmes, l’extraction de minerai, l’exploitation omniprésente de tous ces gens invisibilisés…
Derrière cette idée chimérique de favoriser les interactions, on a isolé les gens derrière leur smartphone. Combien de dépressions, de Burn-out, combien de mômes (ou plus grands) scotchés à TikTok ( Cet exemple confirme que je suis vraiment un vieux con ^^ ) ? C’est vraiment un progrès ? Mais l’IA, c’est puissance 1000 ! Rien qu’entre les premières versions de ChatGPT et celle actuelle, c’est le jour et la nuit…
Un exemple tout simple. Monsieur Phi (encore lui) a fait une autre vidéo où il rhabille pour l’hiver ce clown de Raphaël Enthoven. Bon, ok, c’est un peu tirer sur l’ambulance. Ce tartuffe des plateaux TV a commis un livre dans lequel il se vante d’avoir mis une tôle à ChatGPT, sur un sujet de philo du bac (sic). Mais ce qu’il ne dit pas, c’est que le prompt pour l’IA a été rédigé avec les pieds et que l’objectivité de la notation est plus que « mouaibof » ! Le mantra à Raphi, c’est de dire, que jamais, ô grand jamais, une IA pourra rivaliser avec un philosophe, car elle est incapable, voyez-vous, de problématiser un sujet. Monsieur Phi montre le contraire avec un prompt mieux rédigé. Et pour mon post initial, j’ai simplement demandé à ChatGPT de me pondre une dissertation sur le sujet énoncé, en une phrase, sans rien préciser. Et direct, il a reformulé, problématisé et conceptualisé le sujet… Parce qu’on en est à la version 4o.
Je me retrouve aussi beaucoup dans ce que dit Feldo. Sur le Progrès, je renvoie notamment à François JARRIGE, historien et son livre « "Technocritiques : Du refus des machines à la contestation des technosciences". Il y a une vidéo sur la chaîne ELUCID.
Encore une fois, merci à tous, c’est super intéressant de vous lire, y compris le méchant de service donc Ledahu :-) pour exposer un autre point de vue !
Ah oui, une dernière chose. C’est Feldo qui en parle je crois, mais effectivement, la lueur d’espoir c’est peut-être le retour au spectacle vivant. C’est un peu compliqué pour l’écriture, mais dans le domaine de la musique par exemple, après avoir pris une énorme claque avec la fin du CD et l’essor de la musique en ligne (qui spolie les artistes au passage) et bien, on voit un engouement pour les concerts, un besoin de communier, de vibrer sur quelque chose d’intangible mais qui réuni sans artifice.
Sinon, Gyno, ChatGPT dit que : « Ce texte est riche en émotions et en réflexions personnelles, avec un style direct et sans filtre. L’auteur exprime une frustration profonde vis-à-vis de l’utilisation de l’intelligence artificielle (IA) dans le domaine créatif et au-delà. » Il est sympa et note quelques points forts, mais je préfère les points d’amélioration plus nombreux, comme celui-là « Tonalité : Bien que le texte cherche à choquer et provoquer, l’usage de termes grossiers ou de comparaisons très crues (« je te pisse à la raie ») peut détourner l’attention du message principal. Alléger ou nuancer ces éléments permettrait de toucher un public plus large sans sacrifier l’intensité de l’argumentation. ». Et en conclusion « Le texte est un cri du cœur, puissant et vibrant. Il donne à réfléchir sur la place de l’IA dans nos vies et les conséquences potentielles de son adoption massive et souvent peu réfléchie. Une révision ciblée pourrait encore renforcer ce message et toucher un public plus large tout en préservant l’authenticité et la passion qui s’en dégagent. »
Bref, c’est de la flûte ! Il y a une forme de « suçage de chibre » artificiel qui ne m’inspire pas confiance !
L’IA est un sujet délicat, qui exacerbe les réactions, sans doute justement parce que la portée de la chose bouscule des constructions mentales qu’on croyait presque sacrées.
Merci aussi d’avoir apporté de la clarté, du débat (continuez) et des réflexions ! Notamment pour la deuxième partie de mon propos (Gynogege encore je crois), avec l’analogie sur Darwin et la notion de conscience. J’avais développé davantage à l’origine, mais je me suis dit que ça commençait à être vraiment long !
Sur ce point, je renvoie à la chaîne YouTube de « Monsieur Phi » et par exemple la vidéo avec le titre, un brin provocateur, « Et si c’était conscient ». Qu’on soit d’accord ou pas, ça vaut le coup de s’y attarder, je pense. Qu’est-ce que la conscience, à partir de quand peut-on considérer un organisme comme conscient ? Si on peut admettre qu’un neurone n’est pas conscient, qu’en est-il d’un réseau de neurones, le cerveau ? Est-ce que l’analogie avec un transistor et un réseau de transistors est alors valable ? Serions-nous, en effet, comme le dit Feldo, simplement des « ordinateurs biologiques ». C’est là où je voulais en venir avec ma parabole fumeuse sur Darwin !
Si j’ai réagi de manière aussi épidermique, virulente, c’est justement parce que ça me heurte, ça me perturbe profondément et ça a de quoi. C'est un réflexe de défense, un peu inutile surement ! Car, non, je ne crois pas que ce n’est juste qu’une brosse à dent électrique. Car finalement, pourquoi pas utiliser ChatGPT pour envoyer des mails à la con qu'on a la flemme de rédiger au boulot, pondre des procédures absconses, ou d'improbables tableaux Excel que personne ne lit ou ne regarde. Mais, c’est justement là, le problème ! C’est que ça (et nombre de vous le dise) s’impose partout, que c’est rapide, avec des résultats souvent bluffants, que c’est un assistant efficace pour plein de situations, ça nous remplace avec notre assentiment.
Et insidieusement, on s’habitue. On baisse imperceptiblement la garde, ça endort la vigilance, la cognition. Quand on ne prendra même plus le temps de réfléchir à ce que l'IA nous aura proposé, qu'on enverra direct ce qu'elle aura pondu sans vérifier la pertinence, la justesse, la réalité des propos générés. Sans croiser des sources. Une confiance absolue poussé par la facilité. On rentre, en plein, dans ce que dit Gynogege avec le processus de bouclage. Et là, se dessine le risque, assez vertigineux, de perdre pied. Donc, faut arrêter.
Et ça, c’est pour le moment ! C’est une solution facile, idéale parfois, et je renvoie à mon analogie avec le dopage en cyclisme sur le fait que tout le monde va être tenté de l’utiliser pour suivre le rythme. Et c’est bien là le problème. C’est que d’un assistant, ça risque fortement d’évoluer en quelque chose de plus pernicieux.
Donc, oui je crains pour le domaine de la création, la submersion par des œuvres que personne ne lira. On aboutira à une consommation à la « Netflix », où tu passes 30 minutes à faire défiler les centaines de séries et de films qu’on te propose, sans jamais en choisir aucun. Au bout du compte, on se met à regarder un "truc", peu motivé car abreuvé de références, et on arrête après 10 minutes en se disant que c’est nul et qu’il y a surement un "autre truc" mieux à regarder.
Mais, Fitz, le dit très bien quand il parle du chemin et du but (je l’évoquais aussi dans ma définition du terme « exister »). Le moteur du vivant, de l’évolution, ce n’est pas la performance (faire mieux, avec moins de moyens), mais la robustesse (s’adapter aux aléas, plus exactement « Maintenir un système stable malgré les aléas »). Je vous renvoie au livre que je trouve essentiel et passionnant de Olivier HAMANT (La 3ème voie du vivant). Allez jeter un œil sur les quelques vidéos qui sont sur YouTube. La redondance, l’imperfection, la lenteur, la divagation, le tâtonnement… Tout ce que notre société abhorre (car focalisée sur le culte de la performance justement), et bien ce sont les fondements dans la nature, des systèmes vivants. Ça permet de faire face, de perdurer malgré les changements (voir son exemple édifiant sur la photosynthèse !). L’IA nous retire cette tendance à divaguer, à effectivement partir sur une recherche initiale et se laisser happer par d’autres concepts, d’autres idées. C’est ça exister, en effet, c’est d’arpenter le chemin et parfois d’aller vagabonder dans les champs. L’imprévu. L’IA, elle, va droit à l’essentiel, apporte une réponse immédiate. L’IA se focalise sur le but. C’est l’impression que ça me donne.
À l’invention du téléphone portable, on s’extasiait du progrès technologique, des avantages que cela procurait dans plein de domaines, mais quelques décennies plus tard, on en est où des externalités négatives ? Le fait d’être joignable partout, tout le temps c’est un progrès ? Le fait qu’on peut tracer les gens qui bossent à chaque seconde, que les applications remplacent toutes les interactions humaines dans presque tous les domaines (quand est-ce que vous avez eu un humain au téléphone, hors de votre cercle familial et d’amis, pour la dernière fois ? L’assurance, la banque, la poste, un/une secrétaire. Ben, en fait, c’est seulement quand les applications plantent qu’on appelle quelqu’un, ou qu’il y a vraiment un gros problème). Les notifications qui interrompent les conversations partout, tout le temps... Et je ne parle pas des impacts sur les écosystèmes, l’extraction de minerai, l’exploitation omniprésente de tous ces gens invisibilisés…
Derrière cette idée chimérique de favoriser les interactions, on a isolé les gens derrière leur smartphone. Combien de dépressions, de Burn-out, combien de mômes (ou plus grands) scotchés à TikTok ( Cet exemple confirme que je suis vraiment un vieux con ^^ ) ? C’est vraiment un progrès ? Mais l’IA, c’est puissance 1000 ! Rien qu’entre les premières versions de ChatGPT et celle actuelle, c’est le jour et la nuit…
Un exemple tout simple. Monsieur Phi (encore lui) a fait une autre vidéo où il rhabille pour l’hiver ce clown de Raphaël Enthoven. Bon, ok, c’est un peu tirer sur l’ambulance. Ce tartuffe des plateaux TV a commis un livre dans lequel il se vante d’avoir mis une tôle à ChatGPT, sur un sujet de philo du bac (sic). Mais ce qu’il ne dit pas, c’est que le prompt pour l’IA a été rédigé avec les pieds et que l’objectivité de la notation est plus que « mouaibof » ! Le mantra à Raphi, c’est de dire, que jamais, ô grand jamais, une IA pourra rivaliser avec un philosophe, car elle est incapable, voyez-vous, de problématiser un sujet. Monsieur Phi montre le contraire avec un prompt mieux rédigé. Et pour mon post initial, j’ai simplement demandé à ChatGPT de me pondre une dissertation sur le sujet énoncé, en une phrase, sans rien préciser. Et direct, il a reformulé, problématisé et conceptualisé le sujet… Parce qu’on en est à la version 4o.
Je me retrouve aussi beaucoup dans ce que dit Feldo. Sur le Progrès, je renvoie notamment à François JARRIGE, historien et son livre « "Technocritiques : Du refus des machines à la contestation des technosciences". Il y a une vidéo sur la chaîne ELUCID.
Encore une fois, merci à tous, c’est super intéressant de vous lire, y compris le méchant de service donc Ledahu :-) pour exposer un autre point de vue !
Ah oui, une dernière chose. C’est Feldo qui en parle je crois, mais effectivement, la lueur d’espoir c’est peut-être le retour au spectacle vivant. C’est un peu compliqué pour l’écriture, mais dans le domaine de la musique par exemple, après avoir pris une énorme claque avec la fin du CD et l’essor de la musique en ligne (qui spolie les artistes au passage) et bien, on voit un engouement pour les concerts, un besoin de communier, de vibrer sur quelque chose d’intangible mais qui réuni sans artifice.