Remarque : cliquez sur un diagramme pour obtenir le code Wolfram Language permettant de le reproduire. Le code Wolfram Language permettant d’entraîner les réseaux neuronaux utilisés ici est également disponible (nécessite un processeur graphique).

Article original

L’IA peut-elle résoudre la science ?

par Stephen Wolfram

L’IA ne sera-t-elle pas un jour capable de tout faire ?

Compte tenu notamment de ses récents succès surprenants, il existe une croyance assez répandue selon laquelle l’IA sera un jour capable de « tout faire », ou du moins de tout ce que nous faisons actuellement. Qu’en est-il de la science ? Au fil des siècles, nous, les humains, avons progressé par étapes, construisant peu à peu ce qui est aujourd’hui essentiellement le plus grand travail intellectuel de notre civilisation. Mais malgré tous nos efforts, toutes sortes de questions scientifiques restent en suspens. L’IA peut-elle donc arriver et les résoudre toutes ?

À cette question ultime, nous allons voir que la réponse est inévitablement et fermement non. Mais cela ne signifie certainement pas que l’IA ne peut pas contribuer de manière importante au progrès de la science. À un niveau très pratique, par exemple, les LLM fournissent un nouveau type d’interface linguistique aux capacités de calcul que nous avons mis tant de temps à construire dans Wolfram Language. Grâce à leur connaissance de la « sagesse scientifique conventionnelle », les LLM peuvent souvent fournir ce qui équivaut à une « saisie automatique » de très haut niveau pour compléter les « réponses conventionnelles » ou les « étapes suivantes conventionnelles » dans le travail scientifique.

Mais ce que je veux faire ici, c’est discuter de ce qui s’apparente à des questions plus profondes sur l’IA dans le domaine de la science. Il y a trois siècles, la science a été transformée par l’idée de représenter le monde à l’aide des mathématiques. À notre époque, nous sommes en train de passer à une représentation fondamentalement computationnelle du monde (et, oui, c’est le but de notre langage informatique, Wolfram Language). Comment l’IA se présente-t-elle ? Devons-nous la considérer essentiellement comme un outil pratique permettant d’accéder aux méthodes existantes, ou apporte-t-elle quelque chose de fondamentalement nouveau à la science ?

Mon objectif ici est d’explorer et d’évaluer ce que l’IA peut et ne peut pas faire dans le domaine scientifique. J’examinerai un certain nombre d’exemples spécifiques, simplifiés pour faire ressortir l’essence de ce qui se passe (ou ne se passe pas). Je parlerai de l’intuition et des attentes basées sur ce que nous avons vu jusqu’à présent. Et je discuterai de certains des fondements théoriques et, d’une certaine manière, philosophiques de ce qui est possible et de ce qui ne l’est pas.

Qu’est-ce que j’entends par « IA » ? Dans le passé, tout ce qui était sérieusement computationnel était souvent considéré comme de l’« IA », auquel cas, par exemple, ce que nous faisons depuis si longtemps avec notre langage computationnel Wolfram Language serait qualifié d’« IA », de même que toute mon étude « ruliologique » de programmes simples dans l’univers de l’informatique. Mais ici, pour l’essentiel, je vais adopter une définition plus étroite et dire que l’IA est quelque chose basé sur l’apprentissage automatique (et généralement mis en œuvre avec des réseaux neuronaux) qui a été entraîné progressivement à partir d’exemples qui lui ont été donnés. J’ajouterai souvent un autre élément : ces exemples comprennent soit un vaste corpus de textes scientifiques générés par l’homme, etc., soit un corpus d’expériences réelles concernant des choses qui se produisent dans le monde.

Nous avons donc défini ce que nous entendions par « intelligence artificielle ». Qu’entendons-nous à présent par science et par « faire de la science » ? En fin de compte, il s’agit de prendre des choses qui sont « dans le monde » (et généralement le monde naturel) et de trouver des moyens de les relier ou de les traduire en choses sur lesquelles nous pouvons penser ou raisonner. Mais il existe plusieurs « flux de travail » communs, assez différents, pour faire de la science. Certains sont axés sur la prédiction : à partir d’un comportement observé, prédire ce qui va se passer ; trouver un modèle que nous pouvons explicitement énoncer et qui dit comment un système va se comporter ; à partir d’une théorie existante, déterminer ses implications spécifiques. D’autres flux de travail sont davantage axés sur l’explication : à partir d’un comportement, produire un récit compréhensible par l’homme ; trouver des analogies entre différents systèmes ou modèles. D’autres flux de travail encore concernent davantage la création de choses : découvrir quelque chose qui a des propriétés particulières ; découvrir quelque chose d’« intéressant ».

Dans ce qui suit, nous explorerons ces flux de travail plus en détail, en voyant comment ils peuvent (ou ne peuvent pas) être transformés, ou informés, par l’IA. Mais avant d’entrer dans le vif du sujet, nous devons discuter d’un élément qui se profile à l’horizon sur les tentatives de « résoudre la science » : le phénomène de l’irréductibilité computationnelle.

La limite de l’irréductibilité computationnelle

En science, il est souvent difficile de trouver les règles sous-jacentes qui régissent le fonctionnement d’un système. Mais admettons que nous ayons trouvé ces règles et que nous disposions d’un moyen formel de les représenter, par exemple sous la forme d’un programme. Il reste alors à savoir ce que ces règles impliquent pour le comportement réel du système. c’est exact, nous pouvons appliquer explicitement les règles étape par étape et retracer ce qui se passe. Mais pouvons-nous « tout résoudre » d’un seul coup et savoir comment le système se comportera ?

Pour ce faire, nous devons en quelque sorte être « infiniment plus intelligents » que le système. Le système doit passer par toutes ces étapes, mais d’une certaine manière, nous pouvons « prendre de l’avance » et déterminer immédiatement le résultat. Une des idées clé, soutenue au niveau fondamental par notre projet de physique, c’est que nous pouvons considérer tout ce qui se passe comme un processus de calcul. Le système effectue un calcul pour déterminer son comportement. Nous, les humains, ou d’ailleurs les IA que nous créons, devons également effectuer des calculs pour tenter de prédire ou de « résoudre » ce comportement. Mais le principe de l’équivalence computationnelle stipule que ces calculs sont tout au plus équivalents en termes de sophistication. Cela signifie que nous ne pouvons pas nous attendre à « prendre de l’avance » et à prédire ou « résoudre » le système de manière systématique ; il faut inévitablement une certaine quantité irréductible de travail de calcul pour comprendre ce que le système fera exactement. Ainsi, quels que soient nos efforts, avec l’IA ou autre, nous serons finalement limités dans notre « pouvoir scientifique » par l’irréductibilité computationnelle du comportement.

Mais étant donné l’irréductibilité computationnelle, pourquoi la science est-elle possible ? Ce qui est essentiel c’est qu’à chaque fois qu’il y a irréductibilité computationnelle globale, il y a aussi un nombre infini de poches de réductibilité computationnelle. En d’autres termes, il existe toujours certains aspects d’un système à propos desquels il est possible de dire des choses en utilisant un effort computationnel limité. Et c’est sur ces aspects que nous nous concentrons généralement pour « faire de la science ».

L’IA peut-elle résoudre la science ?

L’IA ne sera-t-elle pas un jour capable de tout faire ?

La limite de l’irréductibilité computationnelle

Ce qui a fonctionné dans le passé

L’IA peut-elle prédire ce qui va se passer ?

Prédire les processus computationnels

Identifier la réductibilité computationnelle

L’IA dans le monde non humain

Résoudre des équations avec l’IA

L’IA pour le multi-calcul

Exploration des espaces de systèmes

La science comme narration

Trouver ce qui est intéressant

Au-delà des « sciences exactes »

Alors... Que fera l’IA pour la science ?

Remarques