Prédire…

Prédire consiste à anticiper un événement futur en s’appuyant sur des observations ou des modèles. Que ce soit pour estimer les embouteillages, la météo, les résultats électoraux ou même l’humeur d’un collègue, cette activité est omniprésente dans notre vie. Les chercheurs, comme les philosophes avant eux, cherchent à formaliser des règles pour prédire de manière fiable. Une méthode courante consiste à privilégier les hypothèses les plus simples, une approche connue sous le nom de principe de parcimonie ou rasoir d’Ockham. Ce principe, énoncé au XIVe siècle par le moine franciscain Guillaume d’Ockham, suggère de ne pas multiplier les explications sans nécessité, en se basant sur des causes tangibles plutôt que sur des croyances abstraites comme l’existence de Dieu.

Le théorème de convergence de Ray Solomonoff, mathématicien américain du XXe siècle, propose une formalisation rigoureuse de la prédiction à travers le cadre des algorithmes et des données. Selon ce théorème, toutes les mesures universelles (des outils mathématiques attribuant une probabilité aux causes possibles d’un phénomène) convergent vers les mêmes prédictions lorsqu’elles observent un processus répété. Par exemple, si l’on observe la séquence « 1 ; 2 ; 4 ; 8 ; 16 ; 32 ; ? », la prédiction la plus probable est « 64 », car cette suite suit un algorithme simple (multiplier par 2). À l’inverse, pour un lancer de pièce (pile ou face), chaque tirage est indépendant et aucune prédiction n’est possible. Solomonoff a introduit une mesure de probabilité sur l’ensemble des programmes informatiques, en accordant plus de poids aux algorithmes les plus courts et simples, reflétant ainsi le principe d’Ockham.

L’inférence bayésienne est une méthode statistique qui permet de mettre à jour la probabilité d’une hypothèse à mesure que de nouvelles données sont observées. Un exemple concret illustre son application : imaginons deux urnes, A et B. L’urne A contient deux fois plus de boules rouges que de bleues, et l’urne B contient deux fois plus de boules bleues que de rouges. Si l’on tire uniquement des boules rouges à répétition, la formule de Bayes suggère que l’urne A est plus probable. Cependant, Solomonoff précise que pour obtenir une prédiction fiable, il faut considérer tous les algorithmes possibles et accorder une importance majeure aux plus simples. Dans cet exemple, l’explication la plus simple (tirer uniquement des rouges) est privilégiée, même si elle semble contre-intuitive au premier abord.

Le théorème de Solomonoff repose sur des mesures universelles, mais celles-ci ne sont pas calculables de manière exacte en pratique. En effet, le problème de l’arrêt (établi par Alan Turing en 1936) montre qu’il est impossible de déterminer à l’avance si un programme informatique s’arrêtera ou non. Cette indécidabilité limite la précision des prédictions, même si les mesures universelles convergent théoriquement vers une solution. Les chercheurs doivent donc se contenter d’approximations, ce qui introduit une marge d’incertitude parfois large. Malgré ces limites, ce cadre théorique reste une référence en informatique théorique et en philosophie des sciences.

Les intelligences artificielles (IA) modernes explorent des milliards de paramètres et d’algorithmes, bien au-delà des capacités humaines. Contrairement aux humains, qui sont limités par leur rationalité et leurs biais cognitifs, les IA peuvent envisager des chemins algorithmiques complexes et inattendus. Par exemple, les IA comme AlphaGo ou ChatGPT ont surpris par leurs performances, non pas parce qu’elles « pensent » comme des humains, mais parce qu’elles traitent des combinaisons d’algorithmes que les concepteurs n’avaient pas anticipées. Cela soulève des questions sur leur alignement avec les attentes humaines et la nécessité de les contrôler strictement. Solomonoff souligne que la prédiction parfaite nécessiterait de prendre en compte tous les algorithmes possibles, une tâche hors de portée pour les humains comme pour les machines.