Ah ouais, quand même, on en est là !
par Ploum le 2026-09-23
À ce point immergé dans notre propre stupidité.
Durant la dernière vague de chaleur, je suis tombé sur un article dans la presse nationale belge vantant les mérites d’une application permettant de mieux survivre à la canicule. Il suffisait d’entrer sa position et quelques données techniques sur son habitation (volume, type d’isolant, exposition…) et l’application vous disait quand ouvrir et fermer vos fenêtres pour garder un maximum de fraîcheur.
Cet article m’a frappé. Ni le journaliste ni l’auteur de l’app ne se rendait compte à quel point le principe était complètement irrémédiablement débile. D’une connerie sans nom.
Car, pour conserver autant que possible la température de votre logement, il suffit de tout fermer quand l’air est plus chaud dehors et de tout ouvrir quand l’air est plus frais dehors. Si vous avez deux thermomètres, le tour est joué.
J’ai beau me creuser la tête, je n’arrive pas à trouver un seul cas de figure différent. Et si un cas très spécifique existe (baie vitrée par exemple), ce n’est pas une app qui va pouvoir vous aider.
Dans l’article, l’auteur de l’application reconnaissait n’avoir aucune formation de développeur et d’avoir « vibecodé » tout le bazar. Lui-même n’a donc aucune idée de comment fonctionne son app, même approximativement. Et le résultat est là : sans avoir testé l’app moi-même, je peux garantir que l’app ne fonctionne pas, qu’elle ne fait qu’afficher des recommandations purement aléatoires.
Et le journaliste ne s’est posé aucune question.
Ah ouais, quand même, on en est là !
Un outil pour les idiots
Si le créateur de l’app avait été un entrepreneur et avait engagé un développeur, il aurait été forcé de se confronter à des questions telles que « sur quelles bases scientifiques nous basons-nous pour le calcul ? ». Mais, grâce aux chatbots, plus besoin de cela. On peut désormais faire semblant de réaliser nos idées les plus stupides sans garde-fou. Je dis bien « faire semblant » car, comme le prouve l’exemple, au final cela ne marche pas.
Comme le dit Cory Doctorow: les patrons adorent les chatbots non parce qu’ils font le travail, mais parce qu’ils disent toujours oui et trouvent toutes vos idées géniales. C’est peut-être pour ça que je n’aime pas les chatbots: quand quelqu’un trouve toutes mes idées géniales, je me dis qu’il réfléchit encore moins que moi au sujet !
Un autre cas avait fait le buzz : une personne qui avait patiemment développé une app à travers ChatGPT, pendant des semaines. App qu’elle demandait à ChatGPT de faire tourner pour la déboguer à travers des captures d’écran générées par ChatGPT. Au final, quand cette personne avait voulu accéder au code source, ChatGPT avait fini par reconnaître qu’il n’y avait pas d’app, pas de code source, que tout était inventé en direct.
Cory Doctorow a mis le doigt sur un point crucial de cette bulle IA : si les chatbots devaient soudainement disparaître demain, rien ne changerait à part quelques collégiens qui devraient réapprendre à copier les uns sur les autres pour leurs devoirs. Les états s’empressent de vouloir développer une « IA souveraine », mais si demain Trump bloquait ChatGPT et Claude dans toute l’Europe, l’impact serait nul. Voire positifs argueront certains.
Comparez cela au chaos total si, soudainement, Trump bloquait Outlook, Whatsapp ou Gmail dans toute l’Europe.
Non, l’IA n’est pas la nouvelle bulle Internet
Comme le dit Cory, la bulle Internet s’est construite sur des employés qui voulaient utiliser Internet pour être plus efficaces alors que leurs patrons leur interdisaient. Des milliers de nouvelles entreprises apparaissaient chaque jour pour tenter de coloniser ce nouvel espace. La bulle IA, au contraire, est imposée par les patrons et j’ai déjà entendu de première main des témoignages de gens qui prétendent que le code qu’ils ont écrit manuellement a été généré, juste pour faire plaisir à leur boss. Certains des employés m’ont personnellement raconté faire tourner les chatbots sur des questions sans intérêt juste pour montrer à leur patron qu’ils ont utilisé des tokens.
Une personne a même reçu une réprimande pour n’avoir pas utilisé assez de tokens. Donc pour avoir fait son travail en utilisant moins d’argent que prévu.
Ah ouais, quand même, on en est là !
Et, malgré tout le ramdam, nous n’avons pas encore la moindre success-story d’une entreprise qui aurait fait fortune grâce à un produit au moins partiellement conçu par l’IA.
Si l’IA était une ruée vers l’or, des milliards seraient utilisés pour nous convaincre que les nouvelles pelles intelligentes sont la panacée, les blogs seraient remplis de témoignages comme quoi la pelle intelligente fait vraiment gagner du temps pour planter ses bégonias dans son jardin de banlieue, mais personne n’aurait encore trouvé la moindre pépite d’or. Toute la bulle tiendrait sur le fait que « Vu comme on creuse, on va forcément trouver de l’or et si un jour on trouve de l’or, mieux vaut être habitué à utiliser une Pelle Intelligente (TM) pour en profiter ».
Chose marrante, certains patrons qui poussent l’utilisation de l’IA commencent à se demander pourquoi leurs employés font de la merde.
Le culte de l’idée
Le problème majeur, je l’ai déjà expliqué, c’est nous sommes biberonnés au concept de « La grande idée ». Il n’est pas un film d’action, d’aventures ou d’espionnage qui ne repose sur la découverte ou le vol d’un objet représentant « une grande idèe ». Hitchock appelle d’ailleurs ces objets des « McGuffin ».
Or, je me répète, l’idée seule ne vaut rien. Strictement rien ! Et une idée doit être confrontée, discutée, mise en balance pour s’affiner, se transformer et, après bien des efforts, exister.
Comme le soulignait très bien Marcello Vitali-Rosati dans « Éloge du bug », cette croyance imprègne la philosophie occidentale depuis Platon : il y a les penseurs-décideurs et les exécutants. Rien d’étonnant donc qu’un produit qui vous fait croire que vous êtes un décideur avec accès à une puissance d’exécution ait du succès. Marcello compare cette croyance au génie de la lampe d’Alladin qui, sous prétexte d’obéir à Alladin, le manipule en réalité à sa guise.
Décrire une idée dans ses moindres détails revient, en réalité, à la réaliser. Il est tellement compliqué de faire des spécifications exactes d’un logiciel qu’on a littéralement inventé des règles pour traduire ces spécifications en langage machine. Cela s’appelle « un langage de programmation ». Et si vous n’êtes pas capable de programmer, vous n’êtes tout simplement pas compétent pour demander à un chatbot de le faire à votre place.
Cela fait 60 ans que nous avons des langages de programmation, cela fait 60 ans que l’on tente de trouver un moyen de se passer des programmeurs (genre avec des schémas graphiques, avec des "langages de spécification"). Mais c’est impossible : les idées humaines sont par définition imprécises et floues, un ordinateur ne peut pas faire quelque chose de précis à partir d’idées floues.
Les chatbots sont un produit qui prétend réaliser votre idée sans la discuter, en acceptant tout. Les chatbots sont donc, essentiellement, une arnaque parfaite pour ce que Ed Zitron appelle les « business idiots » et que j’appelle les « Juliuses ».
Le résultat issu d’un chatbot est soit non-fonctionnel, ce qui est parfois marrant, soit fonctionnel, ce qui est terrifiant. Parce que cela signifie que des centaines voire des milliers de décisions n’ont pas été prises. Les choix que vous n’avez pas vus ont été aléatoirement faits par le génie d’Alladin, un algorithme opaque d’une grande entreprise américaine. Si cela ne vous terrifie pas, c’est que vous n’y avez pas réfléchi assez.
Des outils incompétents pour personnes compétentes
Nombre de projets Open Source que je fréquente sont désormais envahis de contributions générées par chatbots. J’ai été témoin d’un pseudocontributeur qui disait, en substance « voici un patch pour corriger le bug XXX. Je l’ai généré et n’étant pas codeur, je n’ai pas la compétence de savoir s’il fonctionne ».
Reconnaissons à cette personne d’être honnête et transparence. Mais si j’avais cette personne en face de moi, j’aurais envie de lui demander si elle avait réfléchi deux minutes à ce qu’elle fait. Quelle est la valeur qu’elle espère ajouter au projet ? Si résoudre le bug était juste une question de demander un patch à un chatbot, ne serait-ce pas fait depuis longtemps ?
Ah ouais, quand même, on en est là !
Il faut être honnête : j’ai été témoin de cas où je reconnais l’utilité des chatbots. Mais, sans exception, il s’agissait à chaque fois d’une personne compétente. D’une personne qui aurait pu réaliser le travail sans chatbot et a réussi à gagner un peu de temps. De l’ordre de quelques minutes à quelques jours selon ses dires. Sûrement moins, mais passons…
Dans 100% des cas que j’ai entendu, il faut préciser qu’il s’agissait soit de prototypage très expérimental, soit de réaliser une tâche parfaitement absurde, mais administrativement nécessaire. J’ai moi-même codé, à la main, un générateur aléatoire de timesheets lorsque j’ai été soumis à ce régime.
Force est de constater que si vous vous posez la question de développer une app et que vous n’avez pas envie de concevoir un prototype, un petit test vibecodé pourrait éventuellement vous permettre de "tester".
Mais comme le démontre amplement l’exemple de l’application anti-canicule, même le prototypage nécessite un minimum de compréhension du problème, de compétence, bref, d’intelligence.
L’effet Tetris
Une l’intelligence qui nécessite de l’attention, de la concentration.
Vous vous souvenez de vos heures passées à jouer à Tetris ? Le soir, en vous endormant, est-ce que vous ne voyiez pas des pièces tomber devant vos yeux ? Moi j’ai eu ça très fort en jouant à démineur sur mon 386 et en écoutant en boucle un CD de 2unlimited (oui, je sais, mais il y a prescription). Lorsque j’entends 2unlimited aujourd’hui, 35 ans plus tard, je revois des carrés de démineur devant mes yeux.
Ce que nous apprend cette expérience c’est à quel point notre cerveau est déformé par ce à quoi nous donnons notre temps et notre attention. Ce qui peut être une bonne chose lorsque c’est intentionnel.
Mais la notification qui vient de vous interrompre est-elle intentionnelle ? La 7ème vidéo Youtube que vous regardez durant votre « pause » est-elle intentionnelle ? Et ce n’est pas parce que c’est libre que c’est mieux. Ce enième toot mastodon sur le réchauffement climatique est-il intentionnel ?
Non ? Pourtant, il déforme votre cerveau comme le faisait Tetris ou chez moi, démineur…
Du coup, je n’ose pas imaginer l’état du cerveau des gens qui chattent avec une IA toute la journée, ne s’interrompant que pour les notifications de leur smartphone. Surtout si ces personnes ont du pouvoir.
Ah ouais, peut‑être que ça explique pourquoi on en est là !
À propos de l’auteur :
Je suis Ploum et je viens de publier Bikepunk, une fable écolo-cycliste entièrement tapée sur une machine à écrire mécanique. Pour me soutenir, achetez mes livres (si possible chez votre libraire) !
Recevez directement par mail mes écrits en français et en anglais. Votre adresse ne sera jamais partagée. Vous pouvez également utiliser mon flux RSS francophone ou le flux RSS complet.