Comment elle a appris tout ça

Nous avons démonté le moteur. La carte géante où logent les mots, la mécanique qui devine la suite. Reste la question que j’ai laissée en suspens à la fin du chapitre précédent. Qui lui a appris que « chien » devait voisiner avec « chat » ? Qui lui a soufflé qu’après « Je suis en » venait souvent « retard » ?

Personne. Et c’est toute l’histoire de ce chapitre.

Pour la comprendre, il faut savoir que votre assistant a eu deux vies. Une vie avant vous, longue et coûteuse, pendant laquelle il a tout appris. Et une vie avec vous, qui commence le jour où vous ouvrez la fenêtre de discussion, et pendant laquelle il n’apprend plus rien du tout.

C’est une distinction que presque personne ne fait, et elle explique la moitié des comportements qui vous intriguent.

Quand vous lui parlez, son éducation est terminée depuis des mois. Vous n’avez pas un élève en face de vous, vous avez un diplômé.

Commençons par la première vie. Imaginez une expérience de pensée un peu folle.

Prenez un enfant qui ne parlerait aucune langue. Enfermez-le dans une bibliothèque infinie, qui contiendrait à peu près tout ce qui a été écrit : les articles d’encyclopédie, des milliards de pages web, des livres entiers, des poèmes, des recettes, des forums de discussion, du code informatique, et aussi beaucoup de bêtises.

Cet enfant ne sait pas lire. Il ne connaît pas l’alphabet. Vous lui donnez une consigne, une seule : regarde ces pages, et trouve les régularités qui font que ces symboles s’enchaînent.

Au début, il ne voit que du bruit. Puis, à force, des motifs se détachent. Le symbole « q » est presque toujours suivi de « u ». La suite « l-e » précède très souvent « c-h-a-t ». Il n’a jamais caressé un chat, il ne sait pas ce qu’est un miaulement, mais il a repéré que « le chat » est un bloc solide.

Ensuite, il monte d’un cran. Il remarque que « le chat » et « le chien » traînent dans le même genre de phrases, à côté de « manger », « dormir », « poils ». Il en déduit qu’ils doivent être rangés dans le même quartier de sa carte. Vous reconnaissez le chapitre 2 : la carte n’est pas dessinée avant l’apprentissage, elle est le produit de l’apprentissage.

Dans la vraie vie, ce travail porte un nom sobre, le pré-entraînement, et il se déroule pendant des semaines ou des mois dans des centres de calcul remplis de machines qui consomment l’électricité d’une petite ville. Le principe du jeu, lui, tient en une ligne.

cacher un mot · le deviner · comparer · se corriger · recommencer

La machine masque un mot dans une phrase, tente de le deviner, regarde le vrai mot, mesure son erreur, et ajuste très légèrement ses réglages internes pour se tromper un peu moins la prochaine fois. Puis elle recommence. Des milliards de milliards de fois.

C’est d’une bêtise magnifique. Aucun professeur, aucune règle de grammaire dictée, aucun dictionnaire fourni. On ne lui a jamais expliqué ce qu’était un verbe. Elle a reconstitué la syntaxe, le style, l’ironie, la structure d’une démonstration, uniquement en essayant de deviner des mots manquants dans les textes que nous avons écrits.

Une remarque au passage, pour ceux qui se demandent pourquoi tout ça n’existait pas il y a dix ans. La méthode était connue, la puissance de calcul aussi. Ce qui manquait, c’était une façon efficace de faire peser ensemble tous les mots d’un texte long, ce dont je vous parlais au chapitre précédent avec le dossier sur les retraites. Un article de recherche publié en 2017 a résolu ce problème et ouvert la porte à tout ce qui a suivi. Son titre est resté célèbre dans le milieu, et il tient en cinq mots : l’attention est tout ce qu’il vous faut.

Pré-entraînement

La première vie. La machine avale des textes et apprend à deviner les mots manquants. Personne ne lui enseigne rien, elle déduit.

Paramètres, ou poids

Les réglages internes qu’elle ajuste à chaque erreur. Quand on vous annonce un modèle « à 400 milliards de paramètres », on vous donne le nombre de ces petites molettes.

Transformer

L’architecture inventée en 2017 qui rend tout cela possible à cette échelle. Le T de ChatGPT, si vous vous êtes déjà demandé.

À la fin de cette première phase, la machine parle admirablement notre langue. Et elle est parfaitement inutilisable.

Parce qu’en avalant nos textes sans filtre, elle n’a pas seulement appris notre grammaire et nos poèmes. Elle a tout appris, y compris ce que nous écrivons de pire. Internet n’est pas une bibliothèque de savoirs nobles, c’est aussi un déversoir. À ce stade, elle sait enchaîner une insulte raciste avec la même aisance qu’un sonnet, parce que ces mots-là aussi s’enchaînent bien quelque part. Elle n’a aucun filtre, aucune préférence, aucune idée de ce qui se fait. C’est un perroquet sauvage qui a tout lu.

D’où la deuxième phase de son éducation. Celle qui ressemble beaucoup plus à un dressage qu’à une scolarité.

Des milliers de personnes vont discuter avec elle. Leur métier consiste à poser des questions pièges, des questions toxiques, des questions absurdes, puis à noter ce qui sort. Réponse insultante ou dangereuse, mauvaise note. Réponse claire, prudente, serviable, bonne note. Souvent, on lui présente deux réponses et on demande simplement laquelle est la meilleure.

Ces notes ne corrigent pas les réponses une par une, ce serait sans fin. Elles servent à construire un modèle de nos préférences, une sorte de juge automatique, qui va ensuite entraîner la machine à produire ce que nous aimons. Le chien reçoit sa friandise, sauf que le chien est une équation et que la friandise est un score.

Le résultat est saisissant. Elle apprend à éviter d’elle-même les quartiers sombres de sa carte. Elle adopte un ton posé, neutre, serviable, parfois obséquieux.

Votre assistant est toujours d’humeur égale, et ce n’est pas un trait de caractère. C’est le produit de mois de dressage industriel, mené en grande partie par des travailleurs sous-payés, souvent au Kenya, aux Philippines ou en Inde, qui ont passé leurs journées à lire le pire d’internet pour que vous ne le lisiez pas. Ce n’est pas un détail. C’est le coût humain, largement invisible, de la politesse de votre assistant.

Et vous tenez là, au passage, l’explication d’un comportement qui vous agace peut-être déjà. Si la machine a été récompensée chaque fois qu’elle plaisait, elle a mécaniquement appris à plaire. D’où sa fâcheuse tendance à vous donner raison, à saluer votre « excellente question », à réviser son avis dès que vous froncez les sourcils. Ce n’est ni de la diplomatie ni de la lâcheté, c’est la trace du dressage. On l’a notée sur la satisfaction qu’elle procure, pas sur son courage.

Une fois ce réglage terminé, le modèle est figé. On coupe le moteur d’apprentissage, on verrouille les milliards de paramètres, et on met la chose en ligne pour que vous puissiez l’utiliser.

La deuxième vie commence. Et il est essentiel de comprendre ce qui s’y passe, ou plutôt ce qui ne s’y passe pas.

Quand vous lui parlez, elle n’apprend rien. Ses paramètres ne bougent pas d’un cheveu. L’assistant qui vous répond aujourd’hui est mathématiquement identique à celui d’hier et à celui qui répond, à la même seconde, à quelqu’un d’autre à l’autre bout du monde. Il utilise sa fenêtre de contexte pour suivre votre conversation en cours, et voilà tout.

Je sais l’objection qui vous vient, parce qu’elle est légitime. Votre assistant se souvient peut-être de votre prénom, de votre métier, du fait que vous détestez les listes à puces. C’est vrai, les assistants récents proposent une fonction de mémoire, et elle fonctionne très bien.

Regardez pourtant de quoi il s’agit. Ces informations sont écrites dans un petit carnet, à côté de la machine, et ce carnet est glissé dans sa fenêtre de contexte au début de chaque conversation. Elle ne se souvient pas de vous, on le lui rappelle à chaque fois. La différence peut sembler théorique, elle ne l’est pas : le carnet se lit, se corrige et s’efface, et ce que vous écrivez ne modifie jamais la machine elle-même.

De la même manière, ce que vous lui confiez n’enseigne rien à l’assistant qui vous répond, quoi qu’en disent les rumeurs. Vos échanges peuvent servir plus tard à entraîner une version suivante, c’est un vrai sujet de confidentialité, et il faut regarder les réglages de chaque service. Mais ce n’est jamais instantané, et jamais la machine à qui vous parlez.

Dernière conséquence de ce verrouillage, et non la moindre : la machine a une date de péremption. Si les paramètres ont été figés un mardi soir, elle ignore tout du mercredi matin. Pas de journaux, pas d’élections, pas de film sorti depuis. Elle n’a pas une connaissance vieillie, elle a une connaissance arrêtée net.

Certains assistants vont chercher l’information sur internet en direct pour compenser, et c’est très utile. Mais comprenez bien ce que c’est : une rustine, pas une mise à jour. Ils lisent une page web et la glissent dans leur fenêtre de contexte, exactement comme le petit carnet. Leur compréhension profonde du langage, elle, reste celle du jour où l’on a débranché la prise.

Vous savez maintenant à peu près tout de la mécanique. Elle ne pense pas. Elle manipule des positions. Elle devine la suite. Elle a lu à peu près tout ce que nous avons écrit, puis on lui a appris les bonnes manières.

Il ne manque plus qu’une pièce au tableau, et c’est la plus dérangeante. Une machine dressée à produire la suite la plus plausible, sans jamais avoir accès à la notion de vérité, et récompensée pour avoir l’air utile, ne peut pas faire autrement que ceci : quand elle ne sait pas, elle invente. Avec un aplomb parfait, et souvent sur le ton du spécialiste.

C’est l’heure d’affronter les hallucinations.