La guerre que mènent les robots ascientifiques contre la solitude intellectuelle
par Ploum le 2025-11-07
On entend souvent que l’IA a des avantages et des inconvénients, mais que c’est un changement de paradigme, qu’il faut l’accepter. Qu’on ne peut pas « refuser en bloc ». Pourtant, le refus en bloc a bien eu lieu avec, par exemple, les NFTs. Et c’était, à mon avis, à raison parce que les NFT n’apportaient rien.
Je prétends que la frénésie d’IA n’est pas du tout un changement de paradigme. C’est même le contraire.
Oui, je le prétends haut et fort, ce qu’on nous vend avec l’IA n’est guère plus utile que les NFT. Tous les « nouveaux usages » sont, dans l’immense majorité, parfaitement stupides, voire hyper dangereux. Et les cas qui seraient potentiellement utiles ne sont tout simplement pas rentables. Si l’internet mobile a été un réel changement de paradigme, les IA ne le sont pas.
Ce que nous voulons entendre
Ce qu’on nous vend comme de l’IA n’est, en réalité, rien de plus qu’un robot conversationnel programmé pour nous faire plaisir. Pour dire ce qu’on veut entendre. Comme le dit Tattierantula dans un fil Mastodon : « Au plus on a étudié le domaine, au plus on est susceptible de tomber dans le piège du robot conversationnel. Tout comme un roboticien se sent désolé pour un aspi-robot coincé dans un coin. »
Non, le robot conversationnel n’est pas un truc qui va « changer nos paradigmes ». Oui, un truc peut être à la mode et être complètement con. Non, on ne doit pas être nécessairement « subtil », « mesuré » ou « ouvert à la nouveauté ». Virgile Andreani l’a superbement illustré avec ce pouet sur Mastodon :
Qu'on le veuille ou non, l'astrologie est là pour rester. Certains de nos étudiant·es l'utilisent déjà : ça n'aurait donc pas de sens de lutter contre. Comment en faire un usage responsable et éthique ? Découvrez dès maintenant notre formation aux enjeux de l'astrologie dans un monde qui change, dispensée par des experts indépendants reconnus mondialement : le chef de Astrology Inc, celui de OpenAstrology, et Jean-Michel. Cette formation de trois heures délivrera le diplôme reconnu de Maître Astrologue Ingénieur en Osselets, et offrira aussi un accès exclusif à l'ensemble de vos étudiant·es, employé·es, chômeur·euses, retraité·es, familles, aux Astrology Factories construites sur l'ensemble du territoire avec vos impôts. Tou·tes ensemble vers un futur sous le signe de l'astrologie qui nous permettra sûrement un jour de répondre aux grandes questions de l'humanité comme comprendre comment être plus rationnels ! 🛸✨🔮
J’insiste sur ce point important : les robots conversationnels sont littéralement programmés pour répondre ce que nous voulons lire. Il n’y a aucune notion de « vérité » ou de « réel » dans l’entraînement des IA. Ce sont donc, par essence, des outils ascientifiques. La comparaison avec l’astrologie est parfaitement apte. Et on peut trouver une utilité aux robots conversationnels de la même manière qu’on peut trouver une utilité à jouer au tarot pour lancer une conversation ou imaginer la suite d’une histoire sur laquelle nous bloquons. Ou jouer à pile ou face une décision qui nous fait hésiter.
Même les opposants aux LLMs concèdent que « cela peut avait une grande utilité, par exemple en médecine ». C’est entièrement faux. Les premiers résultats sont catastrophiques : une perte rapide d’expérience chez les spécialistes utilisant l’IA, une incapacité pour les jeunes générations de se former. Un outil qui n’a aucun fondement épistémologique de vérité ne peut, par définition, pas être utile pour un scientifique.
Et répondre avec une anecdote où « ça a fonctionné » est justement le contraire de la méthode scientifique.
La disparition du sentiment de solitude
La seule réelle utilité de cette IA serait donc d’offrir une oreille attentive à celleux qui se sentent seul·e·s. Sur ce sujet, un très long article d’Huber Guillaud sur les IAs utilisées comme compagnon de discussion.
Une idée m’a frappée dans ce texte : le fait que les chatbots font disparaître le sentiment de solitude tout comme les mobiles et leurs notifications ont fait disparaître le sentiment d’ennui, ennui pourtant fondamental pour reposer le cerveau.
Mais ce sont les sentiments qui ont disparu ! Exactement comme la coca coupe le sentiment de faim sans pour autant apporter la moindre valeur nutritive. Pour cette raison, elle est massivement utilisée par les pauvres.
Et c’est exactement la même chose pour les usages professionnels, voire scientifiques, de l’IA. Ce papier de Duc Cuong Nguyen et Catherine Whelch insiste sur ce point. Les LLMs sont des outils conversationnels tellement convaincants que même les scientifiques ont l’impression de parler avec d’autres scientifiques compétents. Ils se font alors complètement induire en erreur, car ils ont l’impression d’avoir enfin une oreille attentive qui les comprend.
Pour caricaturer, la hype autour du « prompt engineering » a convaincu une génération de managers et de politiciens qu’il suffit de dire « Tu es un chercheur de génie qui vient de recevoir le prix Nobel de médecine pour avoir guéri le cancer. Explique-moi en cinq phrases ta découverte » pour que ChatGPT nous donne réellement le remède contre le cancer. Et les scientifiques, dont les financements dépendent des politiciens et des managers du privé, sont forcés d’aller dans ce sens, parfois sans s’en rendre compte. Voire, pire, en commençant à réellement apprécier les interactions avec les LLMs, ce que Hamilton Mann compare au syndrome de Stockholm.
La lutte contre l’intellectualisme
La réflexion intellectuelle nécessaire à toute quête scientifique nécessite de longs temps de solitude. Ce que Cal Newport appelle « Deep Work ». Il est nécessaire de s’abstraire des conventions sociales, du charisme humain capable de faire passer des vessies pour des lanternes et de se retrouver seul. Seul face aux données reflétant la réalité, seul face aux longs enchainements logiques.
Les robots générationnels ne sont donc pas un changement de paradigme. Comme les notifications et l’obligation de connexion permanente, ils ne sont qu’un outil de plus pour tenter d’envahir nos réflexions et notre solitude. Ils ne sont qu’une arme de plus dans la guerre que le consumérisme mène contre l’intellectualisme.
Je suis Ploum et je viens de publier Bikepunk, une fable écolo-cycliste entièrement tapée sur une machine à écrire mécanique. Pour me soutenir, achetez mes livres (si possible chez votre libraire) !
Recevez directement par mail mes écrits en français et en anglais. Votre adresse ne sera jamais partagée. Vous pouvez également utiliser mon flux RSS francophone ou le flux RSS complet.