La superintelligence artificielle n'existera pas

La superintelligence est une hypothèse selon laquelle une entité (biologique ou informatique) pourrait avoir un intellect beaucoup plus compétent que les meilleurs cerveaux humains dans pratiquement tous les domaines, y compris l’apprentissage et la créativité scientifique.

Avec tous les progrès réalisés dans l’industrie de l’IA, nous sommes en train d’imaginer la possibilité qu’une “superintelligence artificielle” puisse exister, qui apprend absolument tout et fait absolument tout mieux que tout le monde.

Ce concept de superintelligence artificielle fait autant rêver que cauchemarder sur les réseaux sociaux, mais on reste au stade de l’imagination. Et ce sera précisément le but de ce sujet : montrer que la superintelligence artificielle est et restera un objet d’imagination.

Les capacités d'une superintelligence artificielle

Nous avons plusieurs grandes catégories d’IA pour nous donner une idée de ce qu’un modèle d’IA peut ou ne peut pas faire.

Premièrement, on a l'intelligence artificielle étroite (ANI) qui est spécialisée dans l'exécution d'une seule tâche ou d'un ensemble restreint de tâches. Ils sont très efficaces dans ce cadre spécifique, mais inefficaces en dehors.

L’ANI est déjà omniprésente dans notre vie quotidienne avec les assistants virtuels (Siri), les systèmes de recommandation (Netflix, Spotify, Youtube…) ou encore les véhicules autonomes (Waymo, Tesla, Baidu…)

Le stade supérieur est l’intelligence artificielle générale (AGI) qui désigne des machines capables d'effectuer toutes les tâches intellectuelles qu'un être humain peut accomplir. L'AGI a la capacité d’apprendre par elle même, avoir une curiosité, explorer des hypothèses sans programmation explicite :

• Jarvis dans Iron Man
• HAL 9000 dans L’Odyssée de l’espace
• Data dans Star Trek

Pour l’AGI, le plus important n’est pas ce que l’on sait mais ce qu’on fait lorsqu’on ne sait pas, et cette notion est indispensable pour atteindre la superintelligence artificielle (ASI), qui représente en quelque sorte le stade ultime de développement pour ce secteur.

Concrètement, l’ASI surpasserait l’intelligence humaine absolument partout :

• Santé : capacité supérieure à prévenir et à guérir les maladies à la fois physiques et psychologiques
• Science : capacité à créer de nouvelles innovations aussi bien théoriques que pratiques. Même les phénomènes inexplicables et les problèmes scientifiques non résolus peuvent avoir une solution.
• Créativité : capacité à créer de nouveaux courants artistiques voire créer des œuvres intemporelles peu importe l'art (cinéma, musique, jeu vidéo…)
• Prise de décision : capacité à prendre systématiquement les décisions permettant à toutes les parties prenantes de tirer le meilleur de leur situation respective

Et tout cela sans aucune intervention extérieure puisque l’ASI serait capable de corriger ses erreurs et améliorer ses propres algorithmes par lui-même.

L’avènement de ce type de technologie donnerait lieu à une transformation de nos sociétés dont l’ampleur atteindrait un niveau jamais vu (en bien ou en mal selon l’opinion), et certains professionnels de l’IA se sont fixés comme objectif d'atteindre ce stade.

Les problèmes actuels

Malheureusement, on se retrouve confrontés à un ensemble de problèmes qui empêchent l’atteinte de la superintelligence artificielle. Rien qu’à l’heure actuelle, nous faisons face à des problématiques complexes.

L’absence d’autonomie

Comme énoncé précédemment, il faut que le stade de l’intelligence artificielle générale (AGI) soit atteint pour prétendre à la superintelligence. Et pour cela, il faut qu’un modèle d’IA prouve son aptitude à explorer des hypothèses et à apprendre par lui-même sans intervention extérieure.

Le problème est que nous n’avons encore aucune preuve tangible montrant que ce degré d’autonomie a été atteint.

Il est vrai que les modèles d’IA actuels peuvent montrer une forme d’autonomie :

• Les modèles de langage peuvent générer du contenu original et résoudre des problèmes non vus pendant l'entraînement
• Certains agents démontrent une forme d'initiative dans leur environnement

Seulement, cette capacité d’autonomie reste dans le cadre de leur entraînement et reste très dépendante des objectifs qui ont été fixés par leur créateurs.

Nous sommes encore loin du stade de l’AGI où un modèle d’IA trouverait des solutions en dehors de son domaine d'entraînement, pour accomplir un objectif imprévu.

En parallèle de tout ça, le concept d’autonomie peut s’interpréter de plusieurs façons :

• La capacité à se fixer des objectifs et prendre des initiatives
• L’adaptation à des environnements complètement différents
• La conscience de soi et de ses propres intentions

La définition de l’autonomie pour l’IA reste floue. Et encore, quand bien même un modèle d’IA ferait preuve d’autonomie, nous ne savons pas comment faire la différence entre un comportement déterministe (telle condition amène à tel résultat sans surprise) et une volonté propre de l’IA.

En résumé, nous n’avons aucune preuve incontestable que l’IA fasse preuve d’une autonomie complète, et on ne sait pas comment la mesurer rigoureusement.

Le manque d'intuition

A la différence de l’autonomie qui relève de l’action et de la volonté, l’intuition relève davantage de la connaissance et de la perception (on cherche à comprendre sans analyse délibérée).

Dans le cas de l’IA, ses connaissances proviennent des ensembles de données massifs avec lesquels elle a été entraînée, et c’est en identifiant des patterns dans ces ensembles de données que l’IA peut fonctionner.

Tout le problème se trouve ici : l’IA a besoin de quantités massives de données, et de répétitions multiples pour atteindre une performance satisfaisante. C’est tout le contraire de l’intuition qui implique de comprendre sans se baser sur la moindre donnée.

Alors que l’esprit humain n’a besoin que de quelques itérations pour s’adapter à une situation nouvelle, l’IA doit quant à elle procéder à des milliers de simulations pour un résultat comparable.

Concrètement, l’IA est bien plus performante que l’humain pour réaliser des raisonnements par déduction, mais l’intuition est absente. Cela se ressent particulièrement dans la science et dans l’art :

• L’IA est beaucoup utilisée dans la recherche scientifique, mais uniquement pour optimiser des procédés d’expérimentation et non pour les concevoir
• Certains artistes utilisent l’IA pour obtenir une base afin de se mettre d’accord avec les clients sur la direction artistique à prendre, puis travaillent par-dessus cette base.

Une IA avec des capacités d’intuition aurait créé des procédés d’expérimentation de toutes pièces, ou aurait créé des directions artistiques jamais vues auparavant.

Mais à l’heure actuelle, il n’existe aucun exemple pour le confirmer et le passage à l’intelligence artificielle générale ne sera pas possible tant que l’IA restera aussi dépendante à ses données d’entraînement.

L'impossibilité de la superintelligence artificielle

Si les problèmes précédents étaient déjà préoccupants, il existe un plafond de verre qui rend la création de la superintelligence artificielle impossible, et ce plafond de verre a déjà été découvert dans les années 1930.

En 1928, le mathématicien David Hilbert a présenté le “problème de la décision”. Il se demandait s’il existait un algorithme qui pouvait répondre vrai ou faux à n’importe quel énoncé sans se tromper.

Ce problème à tout à voir avec notre sujet, puisque l’IA repose sur des algorithmes. S’il existe une solution au problème de la décision, alors il est possible de créer une superintelligence artificielle.

Seulement, trois mathématiciens vont prouver plusieurs années plus tard que ce problème est impossible à résoudre.

En 1931, Kurt Gödel présente ses théorèmes d’incomplétudes, où il montre qu’il existe des énoncés “indécidables”, qu’on ne peut ni démontrer ni réfuter. Autrement dit, la logique universelle ne peut pas exister.

Pour établir une logique, il faut mettre au point des hypothèses, sauf que peu importe les hypothèses qu’on choisit, celles-ci laisseront obligatoirement des zones d’ombre qui créeront des réponses incohérentes ou incomplètes.

Les théorèmes d’incomplétude de Gödel serviront de base qui permettront à Alan Turing et Alonzo Church de prouver chacun à leur façon que le problème de la décision ne peut pas être résolu. Church a utilisé le lambda-calcul pour le prouver, et Turing l’a illustré avec le “problème de l’arrêt”.

Quand trois mathématiciens différents trouvent une même réponse avec une méthode différente pour chacun, on peut estimer que la réponse est formelle : il est impossible de créer un algorithme universel capable de résoudre tous les problèmes, et cela se confirme avec l'IA.

En effet, les modèles d'IA sont construits sur des "hypothèses" implicites :

• Choix d'architecture
• Données d'entraînement
• Fonctions...

Ces mêmes hypothèses créent inévitablement des angles morts et des biais dont beaucoup émergent de manière non intentionnelle, donc l'espoir de voir une IA plus intelligente que l'humain est vain.

L'IA reste un outil en développement

En conclusion, l'IA est un outil et restera un outil. Mais ce constat n’a jamais empêché l’industrie de l’IA de poursuivre son développement, et de créer des modèles de plus en plus performants d’année en année.

Par ailleurs, la recherche mathématique participe énormément à ces avancées. Il est vrai que la création d’un algorithme universel n’est pas possible à cause d’un problème de maths, mais c’est aussi grâce aux maths qu’on peut créer de meilleurs algorithmes, et donc des meilleurs modèles d’IA sachant que plusieurs découvertes mathématiques datant de moins de 5 ans sont actuellement exploitées dans cette industrie.

C’est un outil qui est encore sujet à amélioration et qui augmente la productivité d’énormément de personnes. Donc travailler dans l'industrie de l'IA, ça signifie non seulement qu'on participe à une industrie en plein essor, mais aussi qu'on rend service à de nombreuses personnes à travers le monde.

Si la perspective d’apprendre des compétences relatives à l’IA vous intéresse, Alyra vous propose de vous y former !

‍