Les AI (modèles de langage) actuels écrivent du code, composent des poèmes et réussissent des examens médicaux. Avec aisance. Face à ces prouesses, une question revient souvent, et surtout fait le buzz marketing des fournisseurs d’IA: Sommes-nous sur le point de créer une AGI, cette Intelligence Artificielle Générale capable d’égaler ou de dépasser l’esprit humain sur n’importe quelle tâche ? Si les géants promettent son arrivée d’ici quelques années, ou crient au danger tout en galopant vers sa création, la réalité technique est bien plus complexe. Ce n’est pas qu’une simple course à la puissance. Entre véritables ruptures technologiques et fantasmes, voici ce qui nous sépare encore de la superintelligence.
L’AGI c’est quoi ?
Premier problème : il n’existe aucune définition officielle de l’AGI (Intelligence Artificielle Générale. J’ai résumé l’histoire de la création de l’IA et sa définition initiale dans cet article : Intelligence artificielle : concepts et enjeux. Il s’agit de simuler, imiter, l’être humain. C’est pensé comme un super-outil. Pas un super-individu.
le G de AGI c’est : Général. La définition qui devrait faire consensus est donc la suivante :
Une AGI est un système informatique autonome capable d’égaliser ou de surpasser les capacités cognitives humaines sur toutes les tâches.
Avec cette définition : si on trouve une tâche intellectuelle que l’IA ne peut pas faire ou sur laquelle elle n’est pas l’égale de l’humain, alors il n’y a pas AGI.
Mais ce qui fait consensus, c’est : sur la vaste majorité des tâches économiquement utiles.
Avec cette définition, on peut se battre sur ce que signifie « une vaste majorité » et ce qui est « économiquement utile ».
Les critères qui distingueraient l’IA de maintenant avec l’AGI
Ce que j’appelle « IA de maintenant » est en réalité appelé « AI étroite » (ou narrow AI)
- Généralité : une AGI doit pouvoir s’adapter à n’importe quel domaine, sans entraînement spécifique.
- Transférabilité : une AGI doit pouvoir utiliser des connaissances dans un domaine, pour résoudre des problèmes dans un autre.
- Autonomie d’apprentissage : une AGI doit pouvoir formuler ses propres hypothèses, et apprendre de nouveaux concepts, par elle-même.
Les définitions par OpenAI et Google
- OpenAI : « un système hautement autonome qui surpasse les humains dans le travail le plus valorisé sur le plan économique ». Cette vision est très pragmatique et axée sur la productivité et la valeur du travail. Et surtout, « hautement autonome » n’est pas vraiment mesurable, c’est estimé au doigt mouillé. Et « le plus valorisé sur le plan économique », c’est pareil. Ce ne sont pas des critères très bien définis.
- Google (DeepMind) : propose 5 niveaux dans son article Levels of AGI for Operationalizing Progress on the Path to AGI
- Pour chaque niveau, Google estime qu’il existe des « narrow AI » (clearly scoped task or set of tasks), c’est-à-dire des IAs spécialisées qui sont égales ou meilleurs que le meilleur des humain. En revanche, en dehors du niveau « émergent », Google déclare qu’aucune IA ne se qualifie pour le coté AGI (wide range of non-physical tasks, including metacognitive tasks like learning new skills)
- Emergent : égal ou légèrement supérieur à un humain non qualifié : ChatGPT, gemini, Claude… peuvent se qualifier (tout est dans le « wide range »). Cela ne veut pas dire que ChatGPT est égal à un humain non qualifié. Ca veut que sur beaucoup de tâches, l’IA peut remplacer un humain non qualifié.
- Les autres niveaux sont
- Compétent : « at least 50th percentile of skilled adults »
- Expert : « at least 90th percentile of skilled adults »
- Exceptionnel : « at least 99th percentile of skilled adults »
- Super Humain (ASI) : « outperforms 100% of humans »
Ce qui fait débat : doit-on opposer intelligence et conscience ? Quid du corps ?
Performances vs Conscience : l’IA imite. A quel point l’imitation de l’intelligence et de la conscience, rapproche de l’intelligence et de la conscience.
Faut-il simplement mesurer le résultat (ce que l’IA peut faire), sans se préoccuper de la compréhension interne et de la conscience ? On peut dire que sur le plan pragmatique et fonctionnel, peu importe que l’IA comprenne ou pas. Le tout c’est qu’elle fasse. Il faut alors continuer à déléguer à l’humain le jugement, la décision, l’éthique.
Intelligence sans corps : l’IA a-t-elle besoin d’interagir avec le monde physique (corps robotique) pour développer un sens commun ? Et quid des émotions ?
Est-on proche de l’AGI ? la barrière est-elle technique ? Doit-on juste faire « grossir » les IAs ?
La majorité des chercheurs estiment que « faire grossir les IAs » ne suffira pas à se rapprocher de l’AGI.
Le problème de la généralisation et de la transférabilité
Les IA sont déjà pluridisciplinaires, et font des ponts entre des domaines très différents.
Mais. Dans ce cas, les IAs (LLMs) font de l’interpolation dans un espace mathématique immense. Ils combinent des milliards de données, et ça « tombe en marche ». En revanche, ils ne peuvent pas extrapoler (inventer une logique totalement absente de leurs données d’entraînement). Les raisonnements ne sont pas « rigoureux ». Ce sont des suites de stats et de probas. IL n’y a pas de réelle logique autre que statistique.
Faire grossir les modèles (scaling) réduit les erreurs statistiques, mais ne change pas la nature du mécanisme.
C’est un peu comme sur le plan médical, utiliser un médicament car on a constaté son effet (par de vastes études). Ou utiliser un médicament car on sait pourquoi et comment il fonctionne (on décrypte les mécanismes physiques).
Autonomie et auto-apprentissage : on atteint la limite, et l’apprentissage reste statistique
Actuellement il est possible de faire une IA qui apprend par elle-même. Du reste c’est même exactement comme cela qu’elles fonctionnent lors de leur entraînement : apprentissage par renforcement (RL) et boucles d’agents. Les IAs testent et apprennent de leurs erreurs, dans des cadres fermés.
- Mais :
- Le problème des données : l’auto-entraînement sur des données générées par IA peut entraîner ce qu’on appelle le « model collapse » (effondrement du modèle). Le modèle se dégrade. On a déjà atteint la limite des données « pures » exploitables. En d’autres termes, on a déjà tout utilisé. Et ce qui est produit maintenant est massivement produit par IA. Donc perte de diversité, etc.
- Le problème de « l’association d’idée » et du « cause à effet » : un humain comprend les causes et les effets. Il généralise des règles, de la « vraie » connaissance. L’IA gère des corrélations statistiques, sans compréhension de la causalité. L’IA ne pourrait donc pas réellement former de nouvelles hypothèses scientifiques (réellement nouvelles et réellement fiables). Rappelons que l’IA ne comprend pas. Elle imite la compréhension.
Emotions, intuitions et résolution de problèmes
Dans une logique économique, une IA qui simule ou qui comprend, peu importe. Par exemple, les IAs sont de bons confidents et peuvent être de bon conseils : elles simulent très bien l’empathie. Mais elles n’ont pas « le jugement » qui leur permettra de décider d’un coup qu’il faut arrêter ou faire autrement.
C’est ensuite le débat sur l’intuition humaine. L’intuition pourrait se définir en disant que c’est de la compression d’expérience, sous forme de raccourci cognitif. L’IA n’a pas. Nous avons des intuitions. L’IA a des hallucinations.
L’absence de « modèle du monde »
Si l’on sort du discours marketing … le consensus scientifique est qu’il faudrait un « modèle du monde ». Et que ce n’est pas seulement un problème de volume (quantité de données ou de machines / GPU et d’électricité, etc). Mais un problème d’architecture informatique.
Pour passer à l’AGI, il faudrait probablement fusionner les modèles actuels avec :
- Un modèle « du monde » : règles physiques et sociales
- Une mémoire explicite et continue. En vrai, les IAs LLMs « repartent à 0 » après chaque sessions. On a l’illusion que c’est différent car elles « remangnent » toute la conversation et des bribes des autres conversations, à chaque fois. A chaque prompt. C’est ce qui fait office de « mémoire de travail », mais c’est externe à l’IA.
- De quoi planifier la logique, le raisonnement.
Sur ces points, la recherche avance et certains points sont déjà en cours d’intégréation aux IAs.
Saura-t-on que l’AGI est là ? Comment tester ?
Comme les IAs simulent déjà très bien, il faut passer à des tests plus difficilement imitables.
Le test du café (Steve Wozniak) : Une IA peut-elle entrer dans une maison américaine inconnue, trouver la cuisine, identifier la machine, comprendre comment elle marche et servir une tasse de café ? (Teste l’ancrage dans le monde réel).
Le test de l’étudiant (Sam Altman) : Une IA capable de passer un cursus universitaire complet de quatre ans et de produire une thèse originale de doctorat sans aide.
Le test de l’employé distant : Être capable de postuler à un job de développeur ou d’analyste 100 % en télétravail, réussir l’entretien, s’intégrer à l’équipe et effectuer le travail pendant 6 mois sans être démasquée.
Les questions éthiques
Si l’AGI émerge, quid du choc économique (sans parler de l’environnement!)
Si l’AGI émerge, le coût d’une tâche cognitive complexe tend vers zéro. En gros, les métiers à « jus de cerveau » sont finis. Et rappelons que certains métiers sont déjà largement en danger.
- On parle de la fin du « travail du savoir » : faire basculer une économie basée sur les compétences individuelles, vers une économie axée sur l’accès aux ressources énergétiques et au calcul.
- C’est alors l’IA qui analyse des images d’un scanner médical… et l’humain qui plie la serviette. Est-ce un progrès souhaitable ?
On peut penser (espérer), que l’AGI coûte trop cher (électricité, eau, composants, etc). Et que l’humain soit moins cher. Alors l’humain garde sa place pour les métiers intéressants « aussi ».
Les divergences de calendrier
- Les « Techno-optimistes » (Sam Altman, Jensen Huang) : Prédisent une AGI à très court terme (d’ici 2028-2030), estimant que le scaling et les architectures d’agents suffiront >> Buzz ou réalité ? A mon avis ce n’est rien d’autre que des coups marketing.
- Les « Sceptiques de la structure » (Yann LeCun, Gary Marcus) : Estiment que les LLM sont une « voie sans issue » (dead end) pour la vraie intelligence et que cela prendra des décennies de recherche fondamentale.
Alignement et contrôle : comment contrôler une AGI plus intelligente que nous ?
- Comment s’assurer qu’une AGI autonome conserve des valeurs bénéfiques pour l’humanité ? Si elle est plus intelligente que « nous », alors elle pourra contourner toutes les règles, et se réécrire.
- Une AGI n’a pas besoin d’être « méchante » ou d’avoir de l’intention de détruire pour être dangereuse. Il suffit de mal optimiser un objectif, de mal le spécifier. C’est le sujet de nombreux films. Comment « sauver la planète »? En détruisant les humains. Aucune intention maléfique, juste un raisonnement sans humanité.
Les impacts géopolitiques
En plus des sujets économiques, sociaux, cognitifs et environnementaux, on voit déjà les soucis géopolitiques.
Pour l’AGI, il faut probablement énormément de puissance de calcul. Et cela dépend des composants (terres rares), et des infrastructures énergétiques.
La centralisation de l’AGI entre les mains d’entreprises privées conduirait ces entreprises ) avoir une capacité cognitive (une intelligence) supérieure à celle des états.
Conclusion
L’AGI, on n’y est pas.
Y sera-t-on un jour ? peut-être. Mais on sait que ça va coûter très cher. Et que les impacts seront considérables.
Et que ce sera toujours « loin » d’un humain conscient, avec ses émotions et ses intuitions.