0920 | Machines qui décident, humains qui vérifient

Claire Martin: Bonjour et bienvenue dans le podcast, moi c'est Claire Martin.

Nicolas Moreau: Et moi, Nicolas Moreau. Ce qu'on a choisi aujourd'hui, c'est pas une liste de nouvelles, c'est des fils de discussion qui tournent autour d'une même idée : parfois les petites choses — un petit modèle, une petite règle, une machine de 1982 — en disent long sur les grandes. Et parfois les grands modèles, eux, trébuchent.

Claire Martin: Et on commence justement par un petit modèle qui fait beaucoup de bruit.

Nicolas Moreau: Alors l'histoire est simple à raconter mais assez renversante. Un modèle d'IA de 706 mille paramètres. Pour situer, c'est minuscule. Le fichier fait 2,8 mégaoctets, donc ça tient sur une disquette, presque. Son travail : prendre des décisions sur des formulaires. Et sur cette tâche, il est correct à 99,7 pour cent. Le modèle concurrent, le Jev de TypeSafe, plafonne à 83,6 pour cent.

Claire Martin: Et le détail qui fait lever les sourcils : l'entraînement prend moins de trente minutes. C'est-à-dire qu'on est très loin des semaines de calcul sur des clusters géants.

Nicolas Moreau: Exactement, et c'est là que la discussion devient intéressante. Ce modèle appartient à une famille qu'on appelle « Système 1 » : non autorégressif. Ça veut dire qu'il ne génère pas mot par mot, token par token, en se relisant. Il décide d'un coup, en une passe. Et justement, un autre acteur de ce créneau est Laya, un moteur open source sous licence Apache 2.0, qui revendique environ 33 millisecondes par inférence et un support de plus de cent langues.

Nicolas Moreau: Et Laya, lui aussi, prétend surpasser le Jev de TypeSafe.

Claire Martin: Donc on a deux projets qui disent la même chose : on n'a pas besoin d'un mastodonte pour des décisions rapides et bien définies.

Nicolas Moreau: Oui, et je pense que c'est la vraie leçon à retenir : la course à l'IA ne porte plus seulement sur la taille, elle porte sur l'efficacité. Pour une tâche bornée — remplir, classer, router un formulaire — un modèle minuscule, spécialisé, entraîné en une demi-heure, peut battre un généraliste bien plus gros. Ça change l'économie de la chose : pas besoin de GPU géants, pas de latence de plusieurs secondes, tu peux embarquer ça où tu veux.

Claire Martin: Mais il faut rester honnête sur ce qu'on ne sait pas encore. Les chiffres du modèle de 706k, ils viennent de ses créateurs. Et pour Laya, c'est encore plus net : les allégations de dépassement n'ont pas été vérifiées de façon indépendante. Trente-trois millisecondes, cent langues, meilleur que le Jev — c'est leur communiqué, en quelque sorte. Il faudrait des benchmarks externes pour trancher.

Nicolas Moreau: Et ça, c'est un point où tout le monde devrait tomber d'accord : tant qu'il n'y a pas de mesure indépendante, on a une promesse, pas un résultat. Mais bon, la direction de voyage est intrigante. Et justement, si on parle de promesses non tenues, passons aux grands modèles — parce qu'eux, sur certains terrains, font clairement de la figuration.

Claire Martin: L'exemple parfait, c'est le Brood War Bench. Des chercheurs ont pris StarCraft, le jeu de stratégie en temps réel, et ont mis des agents IA dedans. Résultat : aucun modèle ne dépasse le niveau débutant. Aucun.

Nicolas Moreau: Ce qui est piquant, c'est que dans le même bench, un agent appelé Codex Astra a gagné cent pour cent de ses parties, dix-huit à zéro. Mais chaque partie coûte dix dollars cinquante. Donc même le meilleur n'est pas un joueur, c'est un pari coûteux. Et le reste du peloton est au niveau débutant.

Claire Martin: Pourquoi c'est si dur ? Parce que StarCraft c'est un environnement ouvert : information partielle, actions en temps réel, adversaire qui s'adapte. Rien de tout ça ne ressemble à un texte qu'on peut relire. Et la comparaison avec la histoire suivante est frappante, parce que sur une tâche fermée, avec des données abondantes, l'IA a fait quelque chose de spectaculaire.

Nicolas Moreau: Oui, parlons-en. GPT-6 Astra a résolu un chiffre allemand de la Première Guerre mondiale, le chiffre ADFGVX, une interception qui était jusqu'ici indéchiffrable. Il a trouvé la clé — « TRUPPENVERSCHIEBUNG », qui veut dire mouvement de troupes — et surtout, il a vérifié son déchiffrement avec les journaux de bord du HMS Canterbury. Donc pas juste une solution plausible : une solution recoupée avec des documents historiques.

Claire Martin: Et là tu as toute la leçon en une image. Quand il y a des données, des règles, un espace fini — un chiffre a un alphabet, une grille, une clé à trouver — l'IA peut exceller, même sur un problème que des humains n'avaient jamais cassé. Mais dans un environnement ouvert, en temps réel, contre un adversaire ? Aucun modèle ne sort du niveau débutant. L'IA excelle quand les données sont abondantes, elle peine dans le flou.

Nicolas Moreau: Mais il y a un autre versant, moins glorieux, de ces gros modèles : la question de savoir de quoi ils sont nourris. Et ça, c'est le sujet du procès du New York Times contre OpenAI.

Claire Martin: Et les documents qui fuient du procès ne sont pas tendres. Des briefs du procès révèlent qu'un directeur de Microsoft a qualifié le scraping fait par l'IA de « plus grand vol de travail de l'histoire ». C'est une citation, mot pour mot, qui vient des documents de la procédure.

Nicolas Moreau: Et l'autre révélation : OpenAI aurait utilisé des données payantes du New York Times pour entraîner ses modèles. Si c'est établi, ça change complètement la nature du débat. Ce n'est plus « on a appris de textes publics », c'est « on aurait avalé du contenu que les gens paient pour lire ».

Claire Martin: Et c'est pour ça que ce procès est le cœur du débat juridique sur l'entraînement des modèles. Si les tribunaux considèrent que prendre des contenus payants ou protégés pour entraîner un modèle, c'est du vol de travail, toute l'industrie doit changer de modèle économique. Si c'est de l'usage transformateur légal, rien ne bouge. Tout se joue là.

Nicolas Moreau: Ce qui reste ouvert, évidemment, c'est l'issue. Rien n'est tranché, on a des citations et des allégations dans des briefs, pas un verdict. Mais quoi qu'il arrive, la phrase de ce directeur de Microsoft restera, parce qu'elle formule l'accusation dans son terme le plus brutal. Et cette idée de « vol de travail » amène directement une question plus personnelle : même sans vol, est-ce qu'on devrait laisser l'IA écrire à notre place ?

Claire Martin: Parce que là, le débat est moins juridique et plus philosophique. Erich Grunewald a publié un texte avec une position très ferme : n'utilise jamais l'IA pour écrire des textes substantiels. Jamais.

Nicolas Moreau: Son argument a deux branches. La première : écrire fait partie de penser. Quand tu rédiges, tu es obligé d'organiser tes idées, de découvrir ce que tu ne savais pas, de sentir les trous dans ton raisonnement. Si tu délègues la rédaction, tu sautes cette étape, et tu te retrouves avec un texte qui a l'air fini mais dont tu n'as pas fait le travail intellectuel.

Claire Martin: Et la deuxième branche, c'est la plus inquiétante : l'IA se trompe de façon imperceptible. Ce n'est pas comme un bug où le programme plante et tu t'en rends compte. C'est une phrase presque juste, un chiffre un peu décalé, une nuance inversée. Et si tu n'as pas fait le travail d'écriture toi-même, tu n'as pas le niveau de maîtrise pour repérer l'erreur.

Nicolas Moreau: Et en face, il y a un contrepoint créatif intéressant. Un blogueur a montré qu'on peut échapper au style générique des images générées par IA — le look « ChatGPT » qu'on reconnaît immédiatement, tout lissé — en imposant des esthétiques précises. Tu demandes Bauhaus, risograph, brutaliste, et tu obtiens quelque chose qui ne ressemble plus à la soupe standard.

Claire Martin: Donc on a deux réponses à la même question « qu'est-ce qu'on laisse faire à l'IA ? ». Grunewald dit : pour les textes substantiels, rien, parce que l'écriture c'est la pensée. Le blogueur dit : pour les visuels, presque tout, à condition de garder la main sur la direction artistique. La nuance, peut-être, c'est que dans le deuxième cas le goût et l'intention restent humains, alors que dans le premier, c'est justement la pensée qui est déléguée.

Claire Martin: C'est une tension qui n'est pas résolue, et franchement, chacun doit se positionner.

Nicolas Moreau: Et si on quitte la création pour l'accès à l'information, il y a un sujet où des citoyens ont décidé de garder la main : la censure.

Claire Martin: OONI Probe, c'est un outil ouvert qui mesure la censure sur Internet. Il teste si des sites sont bloqués, si des applications fonctionnent, il mesure même la vitesse — parce que ralentir, c'est aussi une forme de censure. Et surtout, il publie les résultats ouverts, en quasi temps réel.

Nicolas Moreau: Et c'est installable partout : Android, iOS, Windows, macOS, Linux. N'importe qui peut participer aux mesures depuis son propre pays.

Claire Martin: Et ça, c'est ce qui rend le projet puissant : ce sont des preuves citoyennes, vérifiables, publiées là où les versions officielles nient tout blocage. Tu ne dépend plus d'une déclaration d'un ministère, tu as des données brutes, horodatées, que tout le monde peut consulter. Dans les pays où la censure est déniée, ce genre de mesure change la nature de l'argument public.

Nicolas Moreau: Et il y a un lien naturel avec ce qu'on regarde ensuite : la visibilité en ligne, elle aussi, dépend d'algorithmes. Pas de censure d'État, mais des règles de classement — et parfois, des gens ont percé ces règles.

Claire Martin: L'exemple le plus célèbre, c'est Hacker News. En 2013, une étude a mis à jour la formule de classement. Elle est d'une simplicité déconcertante : les votes à la puissance 0,8, divisés par l'âge du post à la puissance 1,8.

Nicolas Moreau: Donc les votes comptent, mais moins vite qu'on croit — puissance 0,8 — et le temps écrase tout très vite — puissance 1,8. Un post qui ne décolle pas dans la première heure est enterré.

Claire Martin: Et il y avait des pénalités cachées. Vingt pour cent des posts de la première page étaient pénalisés, sans raison visible. Et détail savoureux : un titre contenant le mot « NSA » perdait 0,4 dans le score.

Nicolas Moreau: C'est ça qui rend l'étude précieuse : ces systèmes nous semblent arbitraires et opaques, et une fois qu'on a les données, ils deviennent explicables. La pénalité « NSA », par exemple — est-ce une curation éditoriale déguisée, un filtre anti-hystérie, ou un simple nettoyage de spam répétitif ? L'étude montre le fait, pas l'intention. C'est une limite à garder en tête.

Claire Martin: Et la même logique s'applique à quelque chose d'aussi banal que la règle a/an en anglais. On l'apprend comme « a » devant consonne, « an » devant voyelle. Sauf que c'est faux. Un unicorn — avec a — parce qu'on dit « you-nicorn ». An hour, avec an — parce que le h est muet.

Nicolas Moreau: Donc la vraie règle dépend du son, pas de la lettre. Et le site Red Blob Games a fait ce que font les bonnes études : il a testé. Il a analysé 32 455 mots, et à la fin, seules 129 ont eu besoin d'une exception explicite. Donc une règle phonétique bien formulée couvre 99,6 pour cent du vocabulaire anglais.

Claire Martin: Le point commun entre la formule de Hacker News et la règle a/an, c'est exactement ça : des systèmes qui paraissent arbitraires ou magiques deviennent explicables dès qu'on les regarde par les données. Et cette envie de démonter les systèmes, on la retrouve chez les développeurs aussi — y compris pour réinventer de vieux objets.

Nicolas Moreau: Et là, on a un cas extreme. Le ZX Spectrum 48K. Une machine de 1982, avec 48 kilo-octets de mémoire. Un développeur a écrit dessus un environnement de bureau graphique complet : fenêtres superposées, menus, un gestionnaire de heap. En assembly Z80, à la main.

Claire Martin: Et le détail qui rend le truc légendaire : tout ça tient dans les 48 Ko, et ça tourne sur le matériel d'origine. Pas d'émulateur avec de la RAM en plus. La machine de 1982 fait tourner une interface qu'on associerait plutôt aux années 90.

Nicolas Moreau: Pourquoi c'est fascinant ? Parce que c'est la preuve que nos interfaces modernes ne demandent pas nécessairement des gigaoctets. Fenêtres, menus, allocation mémoire — les concepts tiennent dans des contraintes extrêmes si on les écrit avec soin. C'est un exercice de style, évidemment, mais ça pose une question un peu gênante : si un GUI complet rentre dans 48 Ko, que font les 16 gigaoctets de notre machine d'aujourd'hui ?

Claire Martin: Et cette question du bon outil pour la bonne contrainte, on la retrouve dans des outils très contemporains. PlanetScale a lancé TIN, un index de recherche full-text pour Postgres, qui passe en disponibilité générale. Il offre BM25 — donc le classement à la classique — la recherche floue pour les fautes de frappe, les recherches par phrase, et les expressions régulières.

Nicolas Moreau: Et ce n'est pas un jouet : le benchmark annoncé porte sur 85 gigaoctets et 150 millions de documents du Stack Exchange. C'est du réel.

Claire Martin: Et dans le même esprit d'outils, un développeur — qui vient de Rust — a réimplémenté JSONPath, la norme RFC 9535 donc, en Zig. Son bilan est intéressant parce qu'il n'est pas à sens unique : il salue la simplicité et la vitesse du langage, mais il regrette l'absence d'IDE vraiment bon et l'immaturité générale de Zig.

Nicolas Moreau: Et c'est ça, le fil conducteur de cette partie : le choix d'un outil reste toujours un arbitrage. Zig est rapide et simple mais jeune. Postgres avec TIN est solide mais tu adoptes un index propriétaire dans ta base. Il n'y a pas d'outil parfait, il y a des compromis assumés — un peu comme ce petit modèle de 706 mille paramètres du début, qui n'est pas généraliste du tout mais gagne sur sa tâche.

Claire Martin: Et pour finir, la science aussi nous fait passer par des remises en question. Et pas des petites.

Nicolas Moreau: Une étude de Stanford publiée dans Nature Neuroscience propose quelque chose de renversant : le cerveau humain aurait deux lignées ectodermiques distinctes, marquées par les gènes Otx2 et Gbx2. Autrement dit, deux parties du cerveau qui ne viennent pas du même origine embryonnaire — comme si on avait, en fait, deux organes qui ont évolué en parallèle et qui ont fini par fusionner.

Claire Martin: Et ça, si ça se confirme, ça change la façon de penser l'évolution du cerveau. On a longtemps raconté le cerveau comme un organe unique qui s'est complexifié. Cette étude dit : peut-être qu'il est né de deux lignées qui se sont rejoints.

Nicolas Moreau: Et dans le même esprit de révision des fondations, il y a un texte de Terry Tao — publié comme guest post par Grant Sanderson, le type de 3Blue1Brown. Tao, qui est considéré comme un des plus grands mathématiciens vivants, propose que les mathématiques accordent du crédit académique aux « explications motivées ».

Claire Martin: Son argument : les preuves formelles, en tant que telles, ne sont plus un proxy fiable de la compréhension. Tu peux avoir une preuve correcte et ne rien comprendre à pourquoi c'est vrai. Et à l'inverse, une explication qui motive — qui montre d'où vient l'idée, pourquoi elle marche — peut être plus formatrice qu'une démonstration sèche. Donc la question qu'il soulève : pourquoi le système académique ne récompense que la preuve ?

Nicolas Moreau: Et c'est une question ouverte, pas une décision. Qui évalue une « explication motivée » ? Comment éviter que ça devienne une usine à récits ? Mais le fait qu'un Tao le propose, ça force au moins la discussion.

Claire Martin: Et puis, pour finir sur une note plus légère mais pas moins sérieuse sur le fond : la San Francisco Onion Futures Company.

Nicolas Moreau: Alors expliquons, parce que c'est délicieux. Aux États-Unis, depuis 1958, il est interdit de trader des futures d'oignon en bourse. Une vraie loi, votée après une crise du marché de l'oignon. Et cette entreprise vend des contrats privés de futures d'oignon — en contournant la loi, parce que la loi interdit les bourses, pas les contrats privés entre gens.

Claire Martin: Donc on a une règle vieille de plus de soixante ans, toujours en vigueur, et contournée par un marché de gré à gré. Ce qui reste ouvert, c'est la question réglementaire : est-ce que le contournement va tenir, est-ce que la loi de 1958 sera un jour abrogée, est-ce que d'autres marchés privés vont s'inspirer de ce modèle pour contourner d'autres interdictions ?

Nicolas Moreau: Et d'une certaine façon, ça boucle la boucle de l'épisode. On a commencé avec un modèle minuscule qui contournait l'idée qu'il faut être géant pour être utile. On finit avec une petite entreprise qui contourne une loi géante. Dans les deux cas, la leçon est la même : la taille n'est pas tout, et les systèmes qu'on croit figés — techniques, académiques, réglementaires — bougent toujours par les bords.

Claire Martin: C'est tout pour nous aujourd'hui. Merci de nous avoir écoutés, on se retrouve très bientôt.