Ma vision de ce qu’on appelle « IA »

Le titre de cet article, tel que la machine le reçoit : dix tokens pour trente-six caractères. Découpage fait avec le tokeniseur d’OpenAI.

L’« IA » fait couler beaucoup d’encre en ce moment ; c’est bien normal. C’est un outil hors du commun, et on peut vite tomber dans une vision magique qui attise tous les fantasmes. Il me semble important de prendre un peu de recul et de réflexion (après une bonne expérimentation). Voici donc ma vision de ce qu’on appelle « IA ».

Une précision d’abord. Sous le mot IA, il y a plusieurs couches : réseaux de neurones, apprentissage profond, modèles de langage, agents. Ce qui émeut les foules, ce sont les LLM et les agents. C’est de ça que je vais parler ici.

1. Les vendeurs de miracle

Rien de nouveau, finalement. Depuis longtemps, on nous vend des produits miracles… vous savez, ceux qui nettoient sans frotter, par exemple ! Tout le marketing est derrière, et ici, il y a tout pour que ça marche : fascination, magie, science-fiction. Les vendeurs de modèles se frottent les mains. Leur dernière IA va pouvoir gérer votre entreprise pour vous, tout faire à votre place, etc.

Après, il y a leurs relais, qui ont compris (ou pas, d’ailleurs) qu’il y avait du business à faire.

Bref, une machine commerciale bien rodée.

Néanmoins, ne pas tomber dans le panneau du produit miracle qui lave sans frotter ne veut pas dire que le produit n’est pas un très bon outil (même s’il faut frotter). Voici donc mon angle d’attaque pour aborder ce sujet qui me semble très controversé. Car à l’opposé, le phénomène alimente aussi les peurs les plus profondes chez certains.

Je ne cherche à convaincre personne, je donne simplement ma vision, mes réflexions, à partir de mon expérience quotidienne.

2. Ma première rencontre avec un LLM

Elle a été tardive. ChatGPT faisait déjà beaucoup parler. J’ai essayé, et je n’ai pas compris l’engouement, déjà à l’époque. J’ai tout de suite écarté toute notion d’intelligence (artificielle) là-dedans. C’était en 2023, et une vidéo de Science Étonnante, au même moment, m’a montré ce qu’il y avait sous le capot, de manière très bien vulgarisée. Elle confirmait mon intuition du moment. J’ai refermé ChatGPT après une utilisation, puis plus rien pendant deux ans et demi.

Aujourd’hui, avec le recul, je dirais que j’avais à la fois tort et raison. Raison sur le fond, du moins à mes yeux : je ne vois pas d’intelligence là-dedans (hormis celle des créateurs). Mais tort sur la conclusion : bien utilisé, cet outil est révolutionnaire (mais pas forcément comme on l’entendrait). Ça, je ne l’ai pas senti au premier contact. Et les modèles ont beaucoup progressé depuis.

3. Le générateur statistique de tokens

Un nom certes beaucoup moins vendeur, mais voilà comment je résumerais un LLM (Large Language Model, disons celui avec lequel on interagit dans un chat) : il prend des « tokens » (morceaux de mots) en entrée, calcule la suite la plus probable (en réalité, il tire au sort parmi les plus probables) et donne des tokens en sortie. Tout le monde a déjà vu un texte se générer mot à mot : voilà, après chaque mot, il faut calculer le prochain. C’est très simplifié, mais ça résume bien le fonctionnement. Je vous invite vraiment à aller voir cette vidéo de Science Étonnante.

« The capital of France is », donné à GPT-2 small exécuté dans le navigateur avec Transformer Explainer. Il continue seul : après « now », il affiche « home » à 38 %, tire « the » à 20 %, et poursuit « the capital of Europe and has become ». Chaque token est plausible, la phrase est fausse.

Alors faites l’essai : remplacez « intelligence artificielle » par « générateur statistique de tokens », « agent IA » par « agent GST », et on ne regarde plus l’outil de la même façon. Et ce n’est pas un détail, car le nom façonne ce qu’on attend de l’outil, et surtout ce qu’on lui fait faire.

Il y a une part d’imposture là-dedans. Ceux qui le vendent ont repris le nom qui vend (et c’est de bonne guerre). Mais si on prend le mot pour une réalité, on se fait avoir : on lui prête des capacités qu’il n’a pas.

Qu’on soit bien clair : ça reste un superbe outil. Bien utilisé, il aide de manière incroyable. Il y a un côté bluffant, il faut l’avouer. C’est le mot qui me gêne, pas l’outil. Dit autrement, un générateur statistique de tokens n’est pas l’idée que je me fais de l’intelligence (humaine).

4. Une encyclopédie immersive

Après avoir tourné autour de ce que l’outil n’est pas, voici l’image qui m’aide le plus à penser ce qu’il est.

L’encyclopédie papier a vite été dépassée par l’encyclopédie interactive : des liens entre les pages, une recherche par mots-clés, etc. Avec le LLM, on passe encore une étape : une encyclopédie avec laquelle on communique par du texte (pas le choix, il faut fournir des tokens en entrée à la machine), et qui s’adapte à notre contexte, à notre problème.

Un exemple. J’ai un exercice de maths sous les yeux. L’encyclopédie classique me donne le cours ; à moi de faire le lien avec mon exercice. Le LLM, lui, adapte la connaissance humaine à mon exercice, ici et maintenant. Il le « résout » en imitant tout ce que les humains ont écrit sur le sujet, sans rien comprendre à ce qu’il produit : du mimétisme. Et quand le mimétisme déraille, on obtient des erreurs que l’on appelle hallucinations. On n’ouvre plus une encyclopédie, on est immergé dedans. Il y a de quoi être dérouté.

C’est l’image que j’ai constamment en tête : un amas de connaissances humaines, consultable d’une manière radicalement nouvelle. Pas un cerveau, pas un oracle. Une encyclopédie d’un genre nouveau.

Et comme toute encyclopédie, elle a ses limites : elle ne produit pas la connaissance, elle la restitue. Elle adapte, oui, mais par statistique, pas par intelligence : la formulation est nouvelle, la connaissance ne l’est pas. En la consultant, je m’enrichis. Elle, elle ne s’enrichit que de ce que les humains créent. L’intelligence collective humaine, elle ne la remplace pas : elle en dépend.

5. Une démocratisation sans précédent de la connaissance humaine

Avec cet outil, nous avons à disposition aujourd’hui un agrégat monstrueux de connaissances humaines. Rien de parfait, bien sûr : les modèles sont biaisés, et c’est compréhensible. Mais on peut accéder partout et tout le temps à une quantité astronomique de savoir. La machine, elle, retranscrit et adapte les connaissances au contexte qu’on lui donne. Et elle trouvera toujours une adaptation statistique, même quand il n’y a rien à adapter : c’est une faiblesse !

Ainsi, il faut avoir un œil critique permanent et ne jamais rien prendre pour argent comptant… Mais finalement, c’est la même chose avec les humains : tout le monde peut « halluciner ». À une différence près : un humain qui doute le montre, la machine énonce le faux avec la même assurance que le vrai. Il faut donc remettre en question ce qui nous est donné, et ce n’est pas grave, parce que c’est très formateur. On obtient toujours des pistes ; à nous de savoir s’il faut les exploiter ou pas.

Maintenant, chacun peut utiliser l’outil comme il le veut. On a tous déjà recopié un article ou deux d’encyclopédie (ou de livre) dans une dissertation ou autre. Moi, je l’utilise comme assistant d’apprentissage. Il m’apporte une connaissance, me donne des pistes, et j’explore ou pas. Je n’ai pas compté, mais une fois sur deux environ, je ne suis pas ce qu’il me dit. D’ailleurs, jamais une encyclopédie ne guide ses lecteurs : elle retranscrit juste une connaissance dans un contexte donné.

De manière intuitive, je vois les LLM comme un levier puissant sur l’esprit humain. Mais comme tous les leviers, ça marche dans les deux sens. Un esprit brillant sera décuplé. Un esprit médiocre aussi.

Pour finir, je pense que c’est dans la définition que l’on donne d’un outil que l’on peut savoir comment l’intégrer dans nos vies, nos entreprises, etc. On ne peut pas régler ce qu’il engendre de fait (souveraineté, indépendance, écologie, confidentialité des données, etc.) sans cela. Si on considère, comme moi, que c’est une démocratisation sans précédent de la connaissance, alors réfléchissons à la manière d’ouvrir ces nouvelles bibliothèques !

Avec cette connaissance gigantesque à portée de main, on peut commencer réellement à apprendre à penser par soi-même !

Platon le disait déjà de la science du calcul ; je le dis de ces bibliothèques :

« […] non point pour la faire servir, comme les négociants et les marchands, aux ventes et aux achats, mais […] pour faciliter à l’âme elle-même le passage du monde sensible à la vérité et à l’essence. »

— Platon, La République, livre VII (trad. Émile Chambry)

Alors, apprenez, apprenez et apprenez encore !