L'AGI, le fantôme qu'on veut nous faire acheter

Depuis fin 2022, la tech s’est trouvé un produit à vendre : l’intelligence.

Sam Altman promet qu’on l’achètera bientôt “au compteur”, comme l’eau ou l’électricité. Arthur Mensch, chez Mistral, en a fait sa formule devant les députés au printemps 2026 : l’IA, c’est transformer de l’énergie en intelligence. Le mot est devenu l’argument de vente numéro un du secteur.

Et derrière, il y a deux façons de raconter ce qui se passe. D’un côté, l’AGI, cette intelligence générale qui arriverait bientôt et finirait par nous dépasser, une sorte de nouvelle espèce : c’est l’histoire qu’un scénario très partagé, baptisé AI 2027, a rendue célèbre. De l’autre, une version plus calme : l’IA est une technologie majeure, mais normale, comme l’électricité ou internet à leur époque. Puissante, oui. Une espèce à part, non.

Et les deux récits reposent sur le même mot, celui qui fait le I de l’AGI : “intelligence”. Un mot posé partout comme une évidence, que tout le monde emploie et que personne n’interroge. On a construit le plus gros récit de la décennie sur un fantôme.

Ceux qui pensent, ceux qui vendent

Commençons par ce qui devrait nous mettre la puce à l’oreille.

Les gens qui réfléchissent vraiment à l’intelligence ne prétendent pas l’avoir définie. Ils passent leur temps à montrer à quel point c’est compliqué. En 1921, une revue de référence, le Journal of Educational Psychology, demande à quatorze spécialistes de répondre à une seule question : qu’est-ce que l’intelligence ? Elle reçoit quatorze réponses différentes, parfois contradictoires. On refait l’exercice des décennies plus tard, même résultat. En 2007, deux chercheurs, Shane Legg et Marcus Hutter, finissent par compiler plus de soixante-dix définitions rivales dans un seul document. Un siècle de travail, et le mot résiste encore. Et ce ne sont pas des amateurs : ce sont ceux dont c’est le métier.

Cette prudence n’est pas une lubie de philosophes. On la retrouve chez les meilleurs ingénieurs du domaine. François Chollet a consacré en 2019 un papier entier à la seule question de savoir comment mesurer l’intelligence. Yann LeCun répète qu’un chat comprend le monde physique mieux que n’importe quel LLM. Les plus calés techniquement sont souvent les plus prudents avec le mot.

Maintenant, regardons ceux qui vendent l’AGI. Eux ont une définition toute prête. Plusieurs, même. La charte d’OpenAI parle d‘“un système qui dépasse les humains sur la plupart des tâches à valeur économique”. DeepMind a même construit en 2023 une échelle de l’AGI, niveau par niveau : “le niveau de l’adulte qualifié médian sur la plupart des tâches cognitives”, en précisant qu’on met de côté le corps, le geste, le monde physique. Autrement dit, on définit l’intelligence en retirant pile ce qu’un LLM ne sait pas faire.

Et c’est là qu’est le tour de passe-passe. Le reproche, ce n’est pas qu’ils ratent la définition parfaite : personne ne l’a. C’est qu’ils traitent comme réglé, en une phrase de slide, un problème que des gens sérieux tiennent pour ouvert depuis un siècle. D’un côté on cherche encore, de l’autre c’est déjà mesuré, gradué, mis en roadmap.

La définition la plus parlante, d’ailleurs, ne se trouve pas dans un papier de recherche. Elle est dans un contrat. Microsoft et OpenAI se sont liés en 2023 par un accord où Microsoft gardait l’accès à la technologie d’OpenAI jusqu’au jour où celle-ci atteindrait l’AGI. Il a donc fallu écrire noir sur blanc ce que “atteindre l’AGI” voulait dire. La réponse, révélée fin 2024 : l’AGI serait considérée comme atteinte quand les systèmes d’OpenAI auraient généré cent milliards de dollars de profits. L’accord a depuis été renégocié deux fois : fin 2025, la déclaration d’AGI passe sous le contrôle d’un panel d’experts indépendants ; en avril 2026, la clause disparaît carrément, remplacée par des dates fixes. À aucun moment le mot n’a été défini : il a fini par sortir du contrat. La seule définition de l’AGI qui ait jamais engagé juridiquement deux entreprises ne parlait pas d’intelligence. Elle parlait d’argent.

Le reste du temps, le mot ne décrit rien, il vend. Reprenons la formule de Mensch devant les députés : transformer de l’énergie en intelligence. Sa version plus technique est moins vendeuse : on met de l’électricité d’un côté, des tokens sortent de l’autre. Entre les deux, entre les électrons & cette “intelligence”, il n’y a rien de plus dans la machine que ces tokens. Le saut est dans le mot, pas dans la technologie. Altman, lui, parle d’intelligence “au compteur”. Dario Amodei, chez Anthropic, refuse carrément le terme “AGI” et préfère “un pays de génies dans un datacenter”. Trois patrons, trois vocabulaires, aucune définition commune. Le mot fait la démonstration à leur place.

Ils n’ont d’ailleurs pas besoin de mentir. Quand un patron lève des milliards sur la promesse de l’intelligence, son discours est commercial par nature, qu’il y croie ou non. Le flou est leur actif : tant que le mot n’est pas défini, chacun peut y projeter ce qu’il veut, l’investisseur comme le client. Personne ne lèverait ces milliards en promettant “de la génération de tokens”. Le mot “intelligence”, lui, fait écho à tout un imaginaire qui vaut des milliards.

L’intention, c’est nous

Mais si le mot tient si mal, ce n’est pas qu’une affaire de marketing. Il y a plus fondamental.

Prenons le plus impressionnant des modèles du moment, et demandons-lui de générer du texte au hasard. Il s’exécute. Personne ne parlera d’intelligence devant le charabia qui sort. L’expérience est bête, mais elle montre où se loge notre jugement : la mécanique n’a pas changé entre un charabia et une démonstration brillante ; ce qui a changé, c’est la demande. Ce qui me semble intelligent dans ce que produisent ces systèmes, c’est plutôt l’intention qu’on y a mise : quelqu’un a fixé un but, l’outil l’a poursuivi avec une compétence parfois stupéfiante. Même quand il boucle, se corrige, enchaîne les étapes seul pendant des heures, la direction a été pointée par quelqu’un. Il optimise un objectif qu’il n’a pas choisi. Aujourd’hui du moins, rien dans ces systèmes ne se donne son propre but.

Et même les innovations récentes, les fonctions /goal & /loop des outils agentiques, qui laissent un modèle travailler seul vers un objectif, sont toujours l’œuvre d’ingénieurs qui les configurent, écrivent les conditions, et auditent le système pour lui donner son autonomie. Il y a d’ailleurs encore plus besoin d’intelligence humaine pour réussir à configurer des LLM dans des boucles autonomes, tout en évitant qu’ils s’enfoncent dans des rabbit holes.

Et pour pousser encore un peu l’idée, la calculette rend ça évident. Elle écrase n’importe qui en calcul mental, 1000 à 0, et personne ne la dit intelligente : elle fait une chose, très bien, et le but vient toujours de celui qui tape. L’objection arrive tout de suite : les modèles actuels, eux, font des milliers de choses. C’est vrai, et c’est exactement le point de François Chollet : avec assez de données, une machine devient bonne à presque n’importe quelle tâche ; la compétence s’achète, aussi large soit-elle. L’intelligence, pour lui, se mesure ailleurs : à ce qui reste quand on tombe sur du nouveau, ce que rien n’a préparé.

Yann LeCun raconte la même chose avec la conduite : un ado apprend en une vingtaine d’heures ; une voiture autonome, après des millions d’heures de route absorbées, cale encore dès que les conditions sortent de l’ordinaire, un marquage effacé, une météo bizarre, un chantier mal signalé. Énorme compétence sur le prévu, perdue sur l’imprévu.

De tout ça sort une exigence, à défaut d’une définition. Le mot ne se décrète pas d’avance, collé sur un système comme une étiquette sur un produit. Il se juge sur pièces, à deux choses : ce que l’outil produit réellement, et ce qu’il tient quand la situation sort du scénario prévu. La démonstration d’abord. Le mot, peut-être, ensuite.

Et l’AGI, dans tout ça ? On pourrait croire que c’est le moment où la machine décroche enfin le mot. Mais reprenons leurs définitions : des tâches à valeur économique, des niveaux de performance, un seuil de profit. De la compétence en plus, toujours, plus large, plus autonome, plus rentable. Une intention à elle, jamais. L’AGI ne bouche pas le trou, elle le repousse d’un cran.

Au fond, l’intelligence qu’on croit voir dans la machine, c’est la nôtre qui passe à travers un outil très doué. Le but, la direction, le jugement : nous. Ce qui devrait nous rassurer. On préfère souvent l’oublier.

Le pouvoir et la puissance

Si on préfère l’oublier, c’est que le fantôme nous arrange. Comprendre vraiment un de ces outils, ce qu’il sait faire, ce qu’il rate, pourquoi il rate, demande du travail. Et un travail inconfortable : tout y est complexe, tout bouge, rien ne se laisse résumer. Alors on se réfugie derrière un mot qu’on ne comprend pas, mais qui rassure. Un fantôme insaisissable, on n’a pas à l’apprendre : on peut en avoir peur, on peut s’en émerveiller, dans les deux cas on reste devant, sans y toucher. “De toute façon, l’IA va tout faire.” “C’est trop technique pour moi.” “Y a qu’à demander à ChatGPT.” Le fantôme arrange les deux bords : ceux qui le vendent, parce qu’un mot flou & flatteur se vend mieux qu’une liste de fonctionnalités ; et nous, parce qu’il nous évite d’entrer dans la complexité.

Sauf que ce confort a un prix, et il est plus élevé qu’il n’en a l’air.

Moins on comprend une chose, moins on la maîtrise, et plus on s’en remet à ceux qui prétendent la maîtriser pour nous. Or on vient de le voir : la seule intelligence dans la boucle, c’est la nôtre. La déléguer, c’est se déposséder de la seule chose qui était à nous.

Spinoza a une distinction pour ça, et elle tombe juste. Il sépare deux mots qu’on confond tout le temps : le pouvoir et la puissance. Le pouvoir, c’est ce qu’on exerce sur les choses, et qu’on peut recevoir, déléguer, perdre. La puissance, c’est ce qui vient de soi, ce dont on est vraiment capable, et que personne ne peut exercer à notre place. On peut avoir énormément de pouvoir et très peu de puissance. Face à l’IA, c’est le piège exact : déléguer sa compréhension jusqu’à n’avoir plus aucune prise réelle sur des outils qu’on utilise pourtant tous les jours.

Qu’on soit clairs, je ne dis pas que l’IA c’est du vent. Ces systèmes deviennent vraiment capables, vraiment autonomes. C’est même pour ça qu’il faut les comprendre, plutôt que de s’en remettre à un mot. On nous présente le débat comme un match entre ceux qui ont peur de l’IA et ceux qui l’attendent. Il se joue ailleurs : entre ceux qui gardent la main, et ceux qui la lâchent.

Garder la main

Alors comment on garde la main ?

En arrêtant de fixer le fantôme, et en regardant ce qu’on a devant nous. Pas “l’intelligence” en général, mais cet outil-ci, sur cette tâche-là : ce qu’il produit, ce qu’il rate, ce qu’il tient quand la situation sort du scénario prévu. C’est l’exigence de tout à l’heure, ramenée au quotidien. Faire tourner un milliard de tokens pour accoucher d’un truc inutile, ça n’a rien d’intelligent, c’est juste cher. La seule mesure qui compte, c’est ce que ça donne pour de vrai.

C’est d’ailleurs ce que disent les gens qui regardent l’IA le plus froidement. Deux chercheurs de Princeton, Arvind Narayanan et Sayash Kapoor, défendent une idée simple : l’IA est une technologie normale. Puissante, mais normale, comme l’électricité ou internet. Ce qui compte, ce n’est pas le moment mythique où elle deviendrait une conscience, c’est la façon dont elle se diffuse et ce qu’on en fait. Même Andrej Karpathy, un des meilleurs ingénieurs du domaine, refroidit tout le monde : à ceux qui annonçaient “l’année des agents”, il répondait fin 2025 “la décennie des agents”, et pour l’instant “les modèles n’y sont pas”. Les gens les plus lucides parlent d’usage et de temps long. Le fantôme de l’AGI, lui, promet une révélation imminente.

Et s’il y a une chose à retenir, surtout quand on n’y connaît pas grand-chose, c’est celle-là. Pas besoin d’être ingénieur pour ne pas se faire avoir. Il suffit de refuser qu’on nous serve un grand mot à la place d’une démonstration, et de demander, à chaque fois : concrètement, ça fait quoi, sur quelle tâche, avec quel résultat. Personne n’est à l’abri du mot qui flatte. L’exigence est simple, et elle est à la portée de tous : qu’on nous montre, sur pièces, au lieu de nous vendre un mot.

On ne saura peut-être jamais définir l’intelligence d’une machine. La nôtre, en revanche, on peut décider de la garder.