The Ultimate Medium

Nous vivons parmi des machines dont nous ne connaissons plus l'intérieur. Une enfant qui naît aujourd'hui touchera un écran avant de toucher un crayon, et l'écran lui répondra — mais personne dans la pièce, ni ses parents, ni ses maîtres, probablement pas même les ingénieurs qui ont construit la chose, ne saurait dire ce qui s'est passé entre son doigt et la lumière. La machine marche. La machine est opaque. Nous avons fait la paix avec cela, et cette paix est le problème.

Je veux décrire une autre sorte de machine. Pas une plus rapide, pas une plus petite. Une machine dans laquelle on peut marcher.

L'ordinateur ordinaire est une tour à étages, et à chaque étage quelqu'un a fermé à clé la porte qui mène en dessous. Celui qui écrit la page web ne connaît pas le navigateur. Celui qui écrit le navigateur ne connaît pas le noyau. Celui qui écrit le noyau ne connaît pas le silicium. Chaque étage est efficace parce qu'il fait confiance à celui du dessous, et la confiance est d'habitude méritée, et la tour tient debout. Mais quand une enfant demande « qu'est-ce qu'elle fait, là, maintenant ? », personne à aucun étage ne peut lui répondre honnêtement. La réponse honnête, c'est : je ne sais pas, je n'ai pas besoin de savoir, et toi non plus.

Je crois qu'elle a besoin de savoir. Pas parce que l'ignorance serait un péché, mais parce qu'un outil qu'on ne comprend pas est un outil qu'on ne peut ni réparer, ni enseigner, ni transmettre. L'ordinateur devait être un médium, à la manière dont l'écriture est un médium — quelque chose dans quoi on entre et dans quoi on vit. À la place, il est devenu un appareil ménager, à la manière d'un four à micro-ondes. On appuie sur le bouton. Quelque chose se passe. On passe à autre chose. Ça va pour un micro-ondes. Ça ne va pas pour la chose qui médiatisera bientôt l'essentiel de la pensée humaine.

Maintenant on ajoute un nouvel étage à la tour. Le nouvel étage est l'intelligence. Un modèle de langage s'installe au-dessus de la page web et l'écrit pour vous. Au-dessus du navigateur et le pilote pour vous. Au-dessus du noyau et, bientôt, au-dessus de tout. La tour monte et l'enfant s'éloigne du sol. Si on continue de bâtir comme on bâtit, le modèle sera le dernier étage que quiconque visite, les étages du dessous s'éteindront, puis le modèle lui-même s'éteindra, parce que personne ne se rappellera comment le rallumer.

Il y a une autre voie, et elle a déjà été essayée, par des gens à qui je dois toute cette idée. Alan Kay et le Viewpoints Research Institute ont passé cinq ans sur un projet appelé STEPS, à l'intérieur d'un programme de recherche qu'ils avaient nommé Fundamentals of New Computing. Ils voulaient un système personnel complet en vingt mille lignes de code — tout, du rendu graphique jusqu'au traitement de texte, assez petit pour tenir dans une tête humaine. Ils n'ont pas tout à fait fini. Leur moteur de rendu, Nile, fait en 458 lignes ce que Cairo fait en quarante-quatre mille, et lire ces 458 lignes vous apprend comment le rendu graphique fonctionne vraiment, ce que lire Cairo ne vous apprend pas. Ça seul vaut les cinq ans. Devine Lu Linvega et Rek Bell, qui naviguent dans le Pacifique sur un voilier baptisé Pino, ont pris une autre route et sont arrivés à un endroit voisin : une machine virtuelle appelée Uxn, assez petite pour tenir sur une disquette, assez portable pour survivre à la décennie, avec un petit assembleur nommé Uxntal dans lequel les gens écrivent des éditeurs, des jeux, des outils de musique. Uxn a renoncé à rivaliser avec les ordinateurs modernes et a gardé son âme. STEPS a gardé l'ambition et a perdu la ligne d'arrivée. Les deux projets ont raison, chacun à sa manière, et les deux sont des ancêtres de ce que je veux décrire.

Un petit modèle — de ceux qui tiennent sur une carte graphique, de ceux qu'on peut entraîner soi-même dans l'après-midi pour le prix d'un bon dîner, de ceux qu'Andrej Karpathy apprend aux gens à construire avec nanochat — ne sait pas gérer un langage désordonné. Il lui faut des mots réguliers, des contextes courts, des formes prévisibles. Un humain débutant a besoin exactement de la même chose. Ce n'est pas un hasard. Les deux sont des apprenants à mémoire de travail limitée, qui essaient de se construire un modèle mental d'un système qu'ils n'ont pas écrit. Ce qui aide l'un aide l'autre. Un langage conçu pour qu'un petit modèle l'apprenne à partir de cinq mille exemples est, presque par construction, un langage qu'un enfant curieux de douze ans peut apprendre en un week-end. Les contraintes s'alignent.

Alors imaginez un empilement à quatre étages et aucune porte fermée. Tout en bas, une machine virtuelle — pas une vraie puce, une puce décrite, dont chaque instruction a un nom et une raison. Au-dessus, un assembleur dont chaque mnémonique se lit à voix haute. Au-dessus encore, un petit langage dans la tradition Forth, cinquante mots, chaque mot défini à partir de ceux du dessous, chaque définition assez courte pour tenir dans une tête. Et au-dessus, une petite intelligence entraînée sur le même livre que l'humain lit pour apprendre l'empilement.

Le livre est l'objet crucial. Il est écrit une seule fois, par une intelligence plus grande qui joue le rôle d'ancêtre et non de serviteur. Il explique la machine virtuelle, puis utilise la machine pour construire l'assembleur, puis utilise l'assembleur pour construire le langage, puis utilise le langage pour construire le petit modèle. Chaque chapitre est à la fois de la prose et du code qui tourne. L'humain le lit de bout en bout en quarante heures et comprend tout le système. Le petit modèle est entraîné sur le même texte, et peut ensuite écrire dans le langage qu'il vient d'apprendre. Deux élèves, un seul cursus, une seule remise de diplôme.

Une fois le livre écrit, l'ancêtre s'en va. C'est la partie que je trouve belle, et celle sur laquelle je veux insister. Le grand modèle qui a écrit le livre ne reste pas. Ce n'est pas une API que le système continue d'appeler. C'est un ancêtre. À partir de ce moment, le petit modèle est la seule intelligence du système, et le petit modèle peut se ré-entraîner lui-même — sur de nouveaux livres, de nouveaux dialectes, de nouveaux domaines — en utilisant son propre matériel, son propre langage, son propre pipeline. Quand un utilisateur demande un nouveau spécialiste, le système en fabrique un, à l'intérieur de lui-même, à partir de lui-même. Aucun appel externe. Aucune boîte noire au-dessus de l'empilement. L'intelligence habite le même étage que l'enfant.

Ce n'est pas un argument de productivité. Un modèle dans le cloud sera toujours plus intelligent qu'un petit modèle local, et pour beaucoup de tâches, le modèle du cloud est la bonne réponse. Je ne plaide pas contre les modèles du cloud. Je plaide pour qu'il existe, quelque part, au moins un système informatique complet qu'une personne puisse tenir dans sa tête — y compris son esprit. Pas pour la performance. Pour la transmission. Pour que, quand l'enfant aura grandi, que la tour aura monté, et que les lumières des étages supérieurs vacilleront, il reste un étage sur lequel elle puisse se tenir et dire : celui-là, je le connais. Celui-là, je l'ai bâti. Celui-là, je saurais le rebâtir s'il le fallait.

Sutherland écrivait en 1965 que le display ultime serait une pièce où l'ordinateur contrôlerait l'existence de la matière. Je crois que le médium ultime est une pièce où l'humain contrôle l'existence de l'ordinateur — jusqu'en bas, jusqu'en haut, avec toutes les portes de la perception ouvertes.