Dieu, la science, et l'absence de preuve

Dieu, la science, les preuves de Michel-Yves Bolloré et Olivier Bonnassies connaît un succès de librairie qui m'intriguait. La thèse de l'ouvrage est la suivante : certaines théories scientifiques récentes provenant de domaines aussi divers que l'astrophysique, la biologie, et la logique (qui nous occupera ici) mettent à mal le matérialisme et l'athéisme triomphant des siècles précédents. Les auteurs y voient d'ailleurs autant de nouvelles "preuves" de l'existence de Dieu, ou du moins un faisceau d'indices concordants qui ne laissent plus de doute raisonnable sur la question. Il s'agit d'un livre grand public aux objectifs ambitieux compte tenu de l'ampleur du sujet et de la diversité des domaines scientifiques abordés. Les auteurs ne sont d'ailleurs spécialistes d'aucun de ces domaines, mais ont, selon leurs dires, collaboré pendant "trois ans avec plus de vingt scientifiques et spécialistes de haut niveau". Suite à certaines critiques remettant en question la rigueur de leur argumentation, j'ai décidé de lire le chapitre intitulé "En quoi croyait Gödel ?" afin de me faire ma propre opinion. J'ai choisi ce chapitre tout simplement car les théorèmes d'incomplétude de Gödel sont le sujet que je maîtrise le mieux parmi tous ceux abordés dans l'œuvre.

D'abord, il faut signaler qu'il s'agit davantage d'un chapitre sur les opinions de Gödel lui-même concernant l'existence de Dieu. Bien qu'ils commencent par une introduction à ses célèbres théorèmes, les auteurs les abandonnent rapidement pour se concentrer sur cet autre sujet. C'est d'ailleurs dans le titre ("En quoi croyait Gödel ?"), donc on ne peut pas leur reprocher, même si à mon sens, l'auteur d'un théorème n'a pas forcément plus de légitimité à en interpréter les conséquences philosophiques qu'un autre. Par conséquent, le contenu sur les théorèmes en question et sur leur interprétation est assez léger. Cela se comprend–c'est un livre destiné au grand public après tout ! Néanmoins, je vais me focaliser sur la partie plus technique, puisque je ne suis pas un historien des sciences et connais mal les opinions philosophiques de Gödel concernant ses propres théorèmes^[1].

Premier constat : sur les théorèmes en question et leur interprétation, il y a clairement un biais de confirmation dans la présentation, qui ne donne qu'une seule interprétation parmi plusieurs possibles. En substance, l'interprétation des auteurs est une forme de platonisme mathématique, qu'ils définissent comme la position selon laquelle les objets mathématiques "existent indépendamment de l’esprit humain". Le platonisme est une position philosophique légitime par le prisme duquel on peut interpréter les théorèmes d'incomplétude. Cependant, cette interprétation est en compétition avec d'autres perspectives, telles que le constructivisme, le formalisme etc., qui n'ouvrent pas vers le même horizon transcendant. En ne présentant qu'une seule interprétation, les auteurs effacent donc le débat sur la question, ce qui est, à mon avis, trompeur. C'est d'autant plus étrange qu'ils soulignent que le débat a "fait rage sur les conséquences directes ou indirectes" de ces théorèmes sans jamais en rappeler les termes. Ils s'empressent d'ailleurs d'ajouter (dans la phrase suivante) que l'interprétation "la plus généralement admise, c'est que [...] le théorème conforte la position platonicienne". Comment le savent-ils ? Il n'est pas possible d'affirmer ça sans justification. Plus "généralement admise" par qui ? Aucune citation, sondage ou recherche supplémentaire ne sont fournis pour étayer cette affirmation. Pire encore, les auteurs ne présentent aucune autre position et n'offrent aucun argument contradictoire. J'estime qu'un ouvrage grand public rédigé par des non-experts devrait, par souci d'honnêteté, présenter les différentes positions d'un débat, quand débat il y a (même s'il finit par pencher d'un côté plutôt que d'un autre).

Ensuite, bien que le platonisme mathématique soit, comme je l'ai mentionné, une position philosophique valable, les arguments avancés dans le livre pour justifier l'interprétation platonicienne des théorèmes d'incomplétude sont, au mieux, impressionnistes et, au pire, erronés, comme j'aimerais le montrer dans ce qui suit.

D'abord rappelons quelques points de la démonstration de Gödel pour expliquer pourquoi les conclusions des auteurs ne sont pas aussi inévitables qu'ils les présentent. Cela permettra au lecteur de se faire une opinion plus équilibrée de la situation. Je me concentre sur les questions philosophiques les plus proches de celles abordées par les auteurs, sans prétendre être exhaustif. Pour une vue d'ensemble plus complète des problèmes philosophiques soulevés par les théorèmes de Gödel, je recommande au lecteur de consulter la première référence bibliographique que j'ai utilisée.

La contexte est le suivant : on se dote d'un système formel $S$, c'est à dire d'un ensemble de règles qui nous permettent de former des démonstrations à propos d'objets mathématiques qui nous intéressent (disons l'arithmétique sur les nombres entiers, $0,1,2$, etc). On pose comme contrainte que ces règles obéissent à des principes suffisamment simples pour qu'il soit possible non seulement de reconnaître une démonstration valide mais aussi d'énumérer toutes les démonstrations mécaniquement (en utilisant un ordinateur par exemple). On suppose de plus que le système déductif ainsi défini est cohérent : il est impossible de démontrer une proposition et son contraire (sa négation) en utilisant les règles de $S$. Retenez bien cette hypothèse ; elle est très importante pour le développement technique de Gödel, mais aussi pour l'interprétation qu'on fera de ses résultats. Dans son article, Gödel a montré comment on peut définir une proposition mathématique–qu'on appellera $G_S$–qui est vraie si $G_S$ n'est pas démontrable dans $S$^[2]. Une fois $G_S$ construite, on peut se demander si $G_S$ est démontrable (toujours dans $S$). Par construction, si elle l'était, $G_S$ serait fausse (puisque $G_S$ signifie "$G_S$ n'est pas démontrable" ou plus simplement "je ne suis pas démontrable") et donc $S$, qui prouverait une proposition fausse, serait incohérent. On voit donc que, si $S$ est cohérent–ce que l'on suppose–la proposition $G_S$ est vraie–c'est le premier théorème d'incomplétude. En d'autres termes, on peut démontrer (dans $S$ d'ailleurs, par un effort supplémentaire d'encodage) que $G_S$ est vraie si $S$ est cohérent. Cela implique donc aussi que $S$ est incapable de démontrer sa propre cohérence–c'est le deuxième théorème d'incomplétude–sinon il démontrerait $G_S$ aussi. En un sens, il n'est pas surprenant qu'un système formel cohérent soit incapable de prouver sa propre cohérence. Mais ce fut une bombe atomique qui fit voler en éclat le projet de fondements finitistes des mathématiques prônés par Hilbert à l'époque, comme le rappellent les auteurs à juste titre.

Revenons donc à l'interprétation proposée. Les auteurs affirment que le théorème indique "que la notion de vérité est plus vaste en mathématiques que la notion de démontrabilité", ce qui selon eux conforte le platonisme mathématique. Il y a ici un premier saut conceptuel qui demande une justification supplémentaire. Le théorème de Gödel n'implique pas nécessairement que la "vérité est plus vaste [...] que la notion de démontrabilité" dans les mathématiques en général, mais que la vérité dépasse la démontrabilité dans tout système formel suffisamment expressif. On ne parle pas de démontrabilité en un sens absolu, mais au sein d'un système donné. Pour tout système formel dans lequel une proposition P n'est pas démontrable, il en existe toujours un dans lequel elle l'est ; il suffit pour cela de poser P comme axiome ! Il n'est donc pas possible d'avancer une telle affirmation à propos de toutes les mathématiques, puisque celles-ci ne sont pas un système formel justement. Il y a bien des systèmes formels–la théorie des ensembles dite de ZFC par exemple–qui suffisent (en théorie) à formaliser la plupart des mathématiques ordinaires. Comme tout système formel suffisamment expressif, la théorie des ensembles n'échappe pas au théorème de Gödel et contient donc des propositions indémontrables, comme $G_{ZFC}$. Mais en quel sens cette proposition est-elle vraie ?

Pour répondre à cette question, il convient de se demander comment on sait que la proposition $G_S$ ci-dessus est vraie ? La position de M.-Y. Bolloré et O. Bonnassies semble être que l'esprit humain a accès à un envers transcendant où il entrevoit la véracité des propositions. En ce qui concerne la proposition de Gödel, ce n'est pas du tout le cas : la vérité hypothétique de $G_S$ ne relève pas de la révélation divine, mais bien d'une démonstration. Je dis bien "hypothétique", car celle-ci est conditionnéé à la cohérence du système $S$, comme nous l'avons vu. En effet, ce que la démonstration de Gödel prouve c'est que la cohérence de $S$ implique la vérité de $G_S$. Dès lors, la démonstration de $G_S$ ne peut être formalisée dans $S$ lui-même, mais requiert nécessairement un système plus puissant. Lequel ? Par exemple $S+$"$S$ est cohérent" y suffirait, c'est-à-dire le système $S$ auquel on a ajouté la proposition "$S$ est cohérent" comme axiome. En résumé, on peut montrer que $G_S$ est vraie parce qu'on postule la cohérence de $S$. Sans ce postulat en revanche, nous n'aurions pas accès à la vérité de $G_S$. Mais ce postulat ne fait que déplacer la charge de la preuve ! Quid donc de la cohérence de $S$ ? Elle ne se justifie que par la pratique ou par le recours à un système formel $S'$ encore plus puissant dans lequel nous pouvons la démontrer. Et bien sûr, si la cohérence de $S$ peut se démontrer dans $S'$, celui-ci contiendra à nouveau des propositions indémontrables (notamment sa propre cohérence) et vraies si $S'$ est cohérent. Mais nous aurions alors plus de raisons de douter de la cohérence de $S'$. C'est le cas par exemple si $S$ est un système d'arithmétique et que $S'$ est la théorie des ensembles ZFC. Comme je l'ai écrit plus haut, on peut encoder dans ce dernier système la plupart des mathématiques usuelles. Si on interprétait l'affirmation générale des auteurs à propos des "mathématiques" comme se référant au système ZFC, nous obtiendrons bien que la notion de vérité dépasse celle de démontrabilité dans le sens qu'on peut construire, comme Gödel, une proposition $G_{ZFC}$ indémontrable, mais vraie si ZFC est cohérent. Le problème c'est que la cohérence de ce système est moins certaine que celle de l'arithmétique usuelle. En effet, pour la démontrer, il faudrait un système formel qui s'éloigne des règles et axiomes ordinaires des mathématiques, tant et si bien qu'une telle démonstration semblerait suspecte à bon nombre de mathématicien.ne.s. On le voit, plus le système est puissant, plus la vérité des propositions indémontrables construite à la Gödel nous échappe puisqu'elles dépendent de la cohérence du système qu'on utilise^[3]. Pour répondre à la question du paragraphe précédent, $G_{ZFC}$ reste certes indémontrable dans ZFC, mais sa véracité est elle plus difficile à admettre (et certains en doute d'ailleurs même si cela reste une attitude très marginale en mathématique).

Dans la pratique, les mathématicien.ne.s sont ravis d'ignorer la question des fondements et se contentent souvent d'arguments qui permettent de convaincre leurs collègues de la validité d'une démonstration, sans se placer dans un système formel précis^[4]. Pour ce faire, iels postulent (à un niveau pré-théorique du moins) la cohérence de ce qu'iels font, tout en restant suffisamment critique vis à vis de leurs arguments pour en détecter l'éventuelle incohérence. C'est la politique éminemment pragmatique du "jusqu'ici ça va". À nouveau, rien de surprenant là dedans : l'alternative serait de tenir pour vrai tout et son contraire, une pratique auto-destructrice sans grand intérêt. Mais pour ce qui est éloigné des questions de cohérence, il n'est plus question de vérité. Il existe ainsi des propositions indémontrables qui ne mettent pas en cause la cohérence du système dans lequel elles sont formalisées. En d'autres termes, la cohérence de ce système ne permet pas de déduire immédiatement leur véracité. Dans de tels cas, nous sommes libres de postuler la proposition en question ou sa négation. Il existe ainsi des propositions indémontrables dans des systèmes formels aussi expressifs que la théorie des ensembles. La plus célèbre est sûrement l'hypothèse du continu : l'hypothèse selon laquelle il n'existe pas d'infini d'une grandeur (les mathématicien.ne.s emploient le terme de "cardinal") située strictement entre celle des entiers, $0,1,2...$ et celle des nombres réels, que l'on peut se représenter comme une ligne continue fait de nombres avec une infinité de décimales derrière la virgule (comme $\pi$ par exemple). Cohen, qui a reçu la médaille Fields pour cette découverte, a prouvé qu'on ne peut démontrer ni l'hypothèse du continu, ni sa négation dans la théorie des ensembles. On est donc libre de postuler l'une ou l'autre. Dans ce cas, aucune des deux n'est plus vraie que l'autre, et il peut être intéressant d'explorer ces deux mondes mathématiques parallèles.

Le théorème de Gödel montre donc plutôt que les mathématiques sont en principe inépuisables. Il invite les mathématicien.ne.s à réfléchir aux systèmes d'axiomes qu'iels utilisent–certains préfèreront par exemple éviter des principes dits non-constructifs, tels que le tiers-exclus ou l'axiome du choix (le C dans ZFC, qui est aussi indémontrable à partir des seules axiomes de ZF !), donnant naissance à de nouvelles formes de mathématiques. Le choix d'un système d'axiomes est une question méta-mathématique, à la fois philosophique, esthétique, et pratique, qui n'admet pas de réponse univoque. On pourrait presque dire que le choix d'un système donné se fait par expérimentation collective, par un procédé qui n'est pas explicable formellement, mais relève plus de la sociologie que des sciences déductives !

Pour revenir à Dieu, la science, les preuves, on voit mieux pourquoi l'affirmation selon laquelle "la notion de vérité est plus vaste en mathématiques que la notion de démontrabilité" ne tient pas la route. Les mathématiques ne sont pas un système formel clos, mais une activité humaine aux frontières floues et extensibles. Comme je l'ai rappelé, les auteurs définissent le platonisme mathématique comme la position selon laquelle les objets mathématiques "existent indépendamment de l’esprit humain". Selon eux, cela laisse supposer un "autre monde ou, au minimum, une autre dimension dans laquelle ces objets existent indépendamment de toute personne pour les penser". Pour adopter le même vocabulaire de science-fiction, on comprend maintenant qu'il n'y a pas besoin d'aller dans "un autre monde" : un système formel plus expressif suffit, même si, plus ce système est puissant, moins on aura confiance en sa cohérence. D'ailleurs le système le plus puissant qui soit est bien un système incohérent, puisqu'il permet de tout démontrer ! Il y a en effet une sorte d'équilibre entre la puissance déductive d'un système et sa cohérence. Quitte à me répéter : le théorème de Gödel ne donne donc pas un exemple de vérité indémontrable dans l'absolu, mais de proposition indémontrable dans un système formel donné (que l'on peut pourtant démontrer dans un système plus puissant). La notion même de vérité indémontrable dans l'absolu n'a pas de sens a priori ; elle n'en a que si on présuppose un cadre philosophique platonicien–ce qui serait circulaire de la part des auteurs qui souhaitent justifier cette position philosophique par le théorème d'incomplétude. En dehors d'une interprétation platonicienne des mathématiques, il n'y a pas nécessairement de vérité indépendante des moyens mis en œuvre pour y accéder et donc le statut d'éventuelles vérités mathématiques indémontrables reste chimérique.

Plus loin dans le même chapitre, les auteurs reprennent certains arguments qui opposent théories de l'esprit matérialistes ou mécanistes au théorème d'incomplétude. Ici, les auteurs citent, entre autres, Gödel lui-même et Penrose, un physicien célèbre qui défend une position anti-matérialiste en théorie de l'esprit. Je ne connais pas bien les arguments de Penrose et, malheureusement, Dieu, la science, les preuves n'en présente qu'un résumé lacunaire. Le voici : 1) si notre esprit est le produit d'un mécanisme purement matériel, ce mécanisme pourrait alors s'identifier à un système formel ; 2) en suivant le théorème de Gödel, il serait alors possible de construire une proposition vraie mais indémontrable dans ce système ; 3) la vérité de cette proposition serait tout de même accessible à l'esprit humain, ce qui nous permet de conclure qu'il n'est pas le pur produit d'un tel mécanisme. Il n'est pas difficile de pointer du doigt ce qui ne va pas dans ce raisonnement. L'argument suppose que pour tout système formel $S$, il existe une proposition $G_S$ qui est indémontrable dans ce système, mais que l'esprit humain peut reconnaître comme étant vraie. Ce n'est pas ce qu'affirme le théorème de Gödel, qui a, comme nous l'avons vu, une forme conditionnelle : $G_S$ est indémontrable et vraie si $S$ est cohérent. Autrement dit, tout ce que le théorème de Gödel nous permet de prouver avec une certitude mathématique, pour un système formel $S$, est que la cohérence de $S$ implique la véracité de $G_S$. Dès lors, contrairement à ce qu'affirment les auteurs, nous ne comprenons pas "la vérité de cette proposition par un certain accès transcendant aux vérités mathématiques" mais parce que nous supposons la cohérence du système $S$. L'argument de Penrose repose donc sur la capacité supposée de l'esprit humain à connaître la cohérence de tout système formel, ce qui est plus qu'improbable. Les auteurs concèdent que l'argument de Penrose "suscite encore bien des débats dans le monde de la logique, des mathématiques et de l’intelligence artificielle". L'article de la SEP sur le théorème de Gödel va plus loin : pour son auteur, un philosophe spécialiste du sujet, il y a un large consensus dans la littérature universitaire sur le caractère erroné de ce type d'argument anti-mécaniste, pour les raisons que je viens d'expliquer. Ce n'est d'ailleurs pas le seul problème avec le raisonnement de Penrose tel qu'il est présenté : même si nous pouvions identifier le mécanisme supposé de l'esprit humain à un système formel (à la manière dont nous le faisons pour un ordinateur), celui-ci pourrait-être incohérent. Dans ce cas, il n'y pas de contradiction avec le théorème d'incomplétude : toutes les vérités sont accessibles à l'esprit humain... de même que les faussetés, malheureusement ! Notez à nouveau que la question même n'a de sens que dans un cadre conceptuel platonicien ou, du moins, dans lequel les vérités existent a priori, indépendamment de l'esprit humain qui ne fait que les découvrir.

Pour conclure, si je n'ai pas lu les autres chapitres du livre, et serais de toute façon incapable d'évaluer le raisonnement des auteurs dans des domaines qui vont de l'astrophysique à la biologie, je pense que ce billet devrait faire réfléchir ceux qui se sont laissés convaincre par leurs arguments. Il est bon de rappeler que, pour nous forger une opinion informée sur des sujets aussi compliqués, nous devons nécessairement accorder notre confiance à d'autres. Cela s'applique aussi aux auteurs de ce livre, auxquels il incombait d'aller chercher les éléments qui contredisent leur thèse, autant que ceux qui l'affirment. Qu'importe si cela affaiblissait leur argumentaire et laissait subsister des doutes raisonnables. Dans ce cas, notre responsabilité est d'apprendre à vivre avec ces doutes. C'est peut-être présomptueux de ma part, mais j'ai tendance à penser qu'on est plus proche de Dieu en vivant pleinement avec une aporie, qu'en y substituant une certitude mal acquise.

Références

• Raatikainen, P., On the Philosophical Relevance of Gödel’s Incompleteness Theorems, Revue Internationale de Philosophie, 59: 513–534.

• Raatikainen, P., Gödel’s Incompleteness Theorems, The Stanford Encyclopedia of Philosophy (Spring 2022 Edition).

• Feferman, S., The nature and significance of Gödel’s incompleteness theorem, lecture for the Princeton Institute for Advanced Study Gödel Centenary Program, Nov. 17, 2006.

• Girard, J.-Y., Le champ du signe ou la faillite du réductionnisme, essai en post-face de Le théorème de Gödel, Nagel E. et Newman J. R.