Les programmes programment sans intelligence
Tribune publiée sur Synth.
Chacun ses déviances
Que vous racontiez votre vie à une suite complexe de régressions linéaires
pdf
ou que vous utilisiez ChatGPT comme conseiller conjugal ne me regarde pas. Vous
contribuez à pourrir le climat, certes moins que l'avion, les centrales au
charbon ou la bagnole, mais au moins vous n'emmerdez personne directement.
Mais quand on m'annonce, les yeux encore brillants d'un rêve fiévreux, qu'il
faut désormais s'agenouiller devant Microsoft Copilot, Cursor ou Claude Code et confier la
programmation aux agents IA, je rouspète. Non, je ne sacrifie pas à ce nouveau
Veau d'or. Le vibecoding ne fait pas partie de mes travers honteux.
Affirmer que les programmes programment maintenant mieux que les humains m'agace
prodigieusement. La question n'est pas de savoir si les performances des
cerveaux électroniques surpassent celles des cerveaux biologiques. Il n'y a plus
de débat possible depuis les Z1 et Z3 construits par l'ingénieur allemand
Les programmes programment mieux qu'un humain - plus précisément, ils écrivent du code source plus rapidement que nous. Ce n'est pas nouveau. Depuis les années 1950, des compilateurs traduisent les langages haut niveau adaptés au mode de raisonnement humain, vers des langages bas niveau adaptés au traitement de l'information par les processeurs. Depuis les années 1940, l'industrie informatique a vu ses performances doubler tous les 18 mois, notamment la puissance de calcul et les capacités de stockage. Les programmes en ont bénéficié directement.
Les agents IA dont on parle sont des programmes adossés à des modèles de langages (LLM) qui ont intégré l'ensemble du code source disponible et qui ont été entraîné à interagir efficacement avec des humains. Les processus se fluidifient, les coutures disparaissent progressivement.
la déraisonnable efficacité du calcul
Doit-on s'étonner que des programmes capables de mobiliser une gigantesque
puissance de calcul et qui vivent dans des espaces en très grande dimension,
puissent montrer des capacités de copier/coller fabuleuses, inhumaines par
construction ? Le physicien
Doit-on s'étonner que des agents écrivent des programmes plus rapidement que des
humains ? Non. Ce sont factuellement des autocomplete sous stéroïdes aux
possibilités stupéfiantes. Ces outils d'aide à la décision sont utiles dans
certains cas, que ce soit en no-code (vibecoding) ou comme assistant de
développement comme Copilot et ses sbires.
Doit-on déléguer à ces outils la conception et l'écriture de programmes importants, complexes ou critiques ? Sûrement pas ! Jusqu'à preuve du contraire, ces programmes, comme l'ensemble des algorithmes de deep learning, restent désespérément incapables de toute forme de réflexion. Et s'ils raisonnent, ce n'est pas d'une façon que nous pouvons comprendre aujourd'hui. Même si les grands patrons de la tech' l'affirment à demi-mot, ou le sous-entendent : ils ont des services à vendre, ou des processeurs à écouler.
Les programmes programment-ils efficacement ?
Non.
Ils programment vite, mais sans profondeur ni sans vision d'ensemble. Les programmes programment sans
intelligence. Les retours des développeurs expérimentés commencent à construire
une forme de consensus : les agents écrivent vite, mais ils se plantent
régulièrement et la qualité n'est pas toujours au rendez-vous. Et tous ont une
pensée émue pour les développeurs débutants, qui doivent faire face à une
concurrence effroyable, voire déloyale. ChatGPT est meilleur qu'un dev junior … mais il n'apprend pas.
Je renvoie au bon papier de Waleed Kadous qui documente son retour d'expérience avec les agents IA et le vibecoding. Il recommande de relire chaque ligne de code générée par un agent (faites-le) et il propose une analogie plaisante entre l'utilisation des agents IA et le maniement d'une tronçonneuse :
Don’t chainsaw while blindfolded, drunk or not paying attention ! Waleed Kadous
De sages paroles.
Nous ne sommes toujours pas des machines. Nos textes sont pensés et écrits par des humains. Aucun texte n’est généré. Tout soutien sera le bienvenu.