International Essays

Et si nous avions de plus grands cerveaux ? Imaginez des esprits au-delà du nôtre

21 mai 2025
Article original

Les chats ne parlent pas

Nous, les humains, avons peut-être 100 milliards de neurones dans notre cerveau. Mais que se passerait-il si nous en avions beaucoup plus ? Ou si les IA que nous avons construites en avaient effectivement beaucoup plus ? Quels types de choses pourraient alors devenir possibles ? Avec 100 milliards de neurones, nous savons, par exemple, que le langage compositionnel tel que nous l’utilisons, nous les humains, est possible. Avec les quelque 100 millions de neurones d’un chat, cela ne semble pas être le cas. Mais qu’est-ce qui deviendrait possible avec 100 billions de neurones ? Et serait-ce même quelque chose que nous pourrions imaginer comprendre ?
Mon objectif ici est de commencer à explorer de telles questions, en m’appuyant sur ce que nous avons observé ces dernières années dans les réseaux neuronaux et les LLM, ainsi que sur ce que nous savons désormais de la nature fondamentale du calcul, de même que sur les neurosciences et le fonctionnement des cerveaux réels (comme celui qui écrit ceci, en image ici):
Un point suggestif est que, à mesure que les réseaux neuronaux artificiels sont devenus plus grands, ils semblent avoir franchi successivement une série de seuils en termes de capacité :
In[]:=
Text[Grid[{Row[{"~",Superscript[10,#1]," de connexions"}],#2}&@@@{{5,"permettent de reconnaître des images de 10 chiffres"},{6,"permettent de reconnaître les images de toutes les lettres"},{7,"permettent de reconnaître les images de 5000 noms pouvant être représentés graphiquement "},{8,"permettent de retranscrire un discours à partir d'un fichier audio"},{9,"permettent de générer des images photo-réalistes à partir de texte"},{11,"permettent de générer un texte fluide en langage naturel"}},Alignment->Left,Frame->All,FrameStyle->GrayLevel[.7]]]
Out[]=
~
5
10
de connexions
permettent de reconnaître des images de 10 chiffres
~
6
10
de connexions
permettent de reconnaître les images de toutes les lettres
~
7
10
de connexions
permettent de reconnaître les images de 5000 noms pouvant être représentés graphiquement
~
8
10
de connexions
permettent de retranscrire un discours à partir d'un fichier audio
~
9
10
de connexions
permettent de générer des images photo-réalistes à partir de texte
~
11
10
de connexions
permettent de générer un texte fluide en langage naturel
Alors, quelle est la suite ? Il ne fait aucun doute qu’il y aura des choses comme le contrôle robotique humanoïde qui auront des analogues proches de ce que nous, les humains, faisons déjà. Mais que se passerait-il si l’on allait bien au-delà des
~
14
10
de connexions que possèdent nos cerveaux humains ? Quelles nouvelles sortes de capacités qualitativement différentes pourraient alors émerger ?
Si cela concernait « le calcul en général », il n’y aurait alors pas vraiment grand-chose à dire. Le principe d’équivalence computationnelle implique qu’au-delà d’un certain seuil bas, les systèmes computationnels peuvent, de façon générique, produire des comportements qui correspondent à des calculs aussi sophistiqués qu’ils peuvent l’être. Et en effet, c’est exactement ce qu’on observe aussi bien dans de nombreux contextes abstraits que dans le monde naturel.
Mais l’essentiel ici, c’est que nous ne traitons pas du « calcul en général ». Nous traitons des types de calculs que les cerveaux réalisent fondamentalement. Et l’essence de ceux-ci semble concerner la réception de grandes quantités de données sensorielles, puis la prise de décisions sur ce qu’il faut faire ensuite.
Il n’existe évidemment pas de manière raisonnable de faire cela. Le monde en général est rempli d’irréductibilité computationnelle. La seule manière générale de déterminer ce qui va se passer dans un système est simplement d’exécuter les règles sous-jacentes de ce système étape par étape et d’observer le résultat :
Et oui, il existe de nombreuses questions et problématiques pour lesquelles il n’y a essentiellement pas d’autre choix que de faire ce calcul irréductible. Tout comme il existe de nombreux cas où les LLM ont besoin d’avoir recours à notre système de calcul Wolfram Language pour effectuer des calculs. Mais le cerveau, pour les choses qui lui importent le plus, semble parvenir systématiquement à « prendre de l’avance » sans, en réalité, simuler chaque détail. Et ce qui rend cela possible, c’est le fait fondamental que, dans tout système présentant une irréductibilité computationnelle globale, il doit inévitablement exister une infinité de « poches de réductibilité computationnelle », associées en effet à des « caractéristiques simplificatrices » du comportement du système.
Ce sont ces « poches de réductibilité » que les cerveaux exploitent pour pouvoir « naviguer » avec succès dans le monde selon leurs objectifs, malgré son « arrière-plan » d’irréductibilité computationnelle. Dans cette optique, des choses comme les progrès de la science (et de la technologie) peuvent essentiellement être considérées comme l’identification de davantage de poches de réductibilité computationnelle. On peut alors imaginer que les capacités des cerveaux plus grands pourraient tourner autour de la faculté de « retenir en mémoire » un plus grand nombre de ces poches de réductibilité computationnelle.
On peut considérer que les cerveaux servent fondamentalement à « compresser » la complexité du monde et à en extraire seulement certains aspects, associés à des poches de réductibilité, qui nous importent. Pour nous, une manifestation essentielle de cela est l’idée de concepts, et du langage qui les utilise. Au niveau de l’entrée sensorielle brute, nous pouvons percevoir de nombreuses images détaillées d’une catégorie d’objet, mais le langage nous permet de toutes les décrire simplement à l’aide d’un concept symbolique particulier (par exemple « roche »).
Dans une première approximation grossière, on peut imaginer qu’il existe une correspondance directe entre les concepts et les mots dans notre langue. Il est alors remarquable que toutes les langues humaines tendent à avoir environ 30 000 mots courants (ou constructions proches de mots). Cette échelle est-elle donc le résultat de la taille de notre cerveau ? Et des cerveaux plus grands pourraient-ils peut-être gérer beaucoup plus de mots, disons des millions ou davantage ?
« De quoi pourraient bien parler tous ces mots ? » pourrions-nous demander. Après tout, notre expérience quotidienne nous donne l’impression que nos 30 000 mots actuels suffisent amplement à décrire le monde tel qu’il est. Mais en un sens, cela est circulaire : nous avons inventé les mots que nous possédons parce qu’ils sont nécessaires pour décrire les aspects du monde qui nous importent et dont nous souhaitons parler. Il y aura toujours davantage de caractéristiques, par exemple, sur le monde naturel dont nous pourrions discuter. C’est simplement que nous n’avons pas choisi de nous y intéresser. (Par exemple, nous pourrions très bien inventer des mots pour désigner tous les motifs détaillés des nuages dans le ciel, mais ces motifs ne sont pas, à l’heure actuelle, quelque chose dont nous ressentons le besoin de parler en détail.)
Mais, étant donné notre ensemble actuel de mots ou de concepts, y a-t-il une « conclusion » à cela ? Pouvons-nous fonctionner avec succès dans une « tranche auto-cohérente de l’espace conceptuel » ou bien aurons-nous toujours besoin de nouveaux concepts ? Nous pourrions considérer les nouveaux concepts comme étant associés au progrès intellectuel que nous choisissons de poursuivre ou non. Mais dans la mesure où « l’opération du monde » est computationnellement irréductible, il est en fait inévitable que nous soyons un jour confrontés à des choses qui ne peuvent pas être décrites par nos concepts actuels.

Le fonctionnement des cerveaux

Le langage et au-delà

Les capteurs et les actionneurs

L’abstraction

Le langage computationnel

De nombreux cerveaux ensemble : la formation de la société

Des esprits au-delà du nôtre