Dieu, la science, et l'absence de preuve

Dieu, la science, les preuves de Michel-Yves Bolloré et Olivier Bonnassies connaît un succès de librairie qui m'intriguait. La thèse de l'ouvrage est la suivante : certaines théories scientifiques récentes provenant de champs tels que l'astrophysique, la biologie, et la logique (qui nous occupera ici) mettent à mal le matérialisme et l'athéisme triomphant des siècles précédents. Les auteurs y voient d'ailleurs autant de nouvelles "preuves" de l'existence de Dieu, ou du moins un faisceau d'indices concordants qui ne laissent plus de doute raisonnable sur la question. Il s'agit d'un livre grand public aux objectifs ambitieux compte tenu de l'ampleur du sujet et de la diversité des domaines scientifiques abordés. Les auteurs ne sont d'ailleurs spécialistes d'aucun de ces domaines, mais ont, selon leurs dires, collaboré pendant "trois ans avec plus de vingt scientifiques et spécialistes de haut niveau". Suite à certaines critiques remettant en question la rigueur de leur argumentation, j'ai décidé de lire le chapitre intitulé "En quoi croyait Gödel ?" afin de me faire ma propre opinion. J'ai choisi ce chapitre tout simplement car les théorèmes d'incomplétude de Gödel sont le sujet que je maîtrise le mieux parmi tous ceux abordés dans l'œuvre.

D'abord, il faut signaler qu'il s'agit davantage d'un chapitre sur les opinions de Gödel lui-même concernant l'existence de Dieu. Bien qu'ils commencent par une introduction à ses célèbres théorèmes, les auteurs les abandonnent rapidement pour se concentrer sur cet autre sujet. C'est d'ailleurs dans le titre ("En quoi croyait Gödel ?"), donc on ne peut pas leur reprocher, même si à mon sens, l'auteur d'un théorème n'a pas forcément plus de légitimité à en interpréter les conséquences philosophiques qu'un autre. Par conséquent, le contenu sur les théorèmes en question et sur leur interprétation est assez léger. Cela se comprend–c'est un livre destiné au grand public après tout ! Néanmoins, je vais me focaliser sur la partie plus technique, puisque je ne suis pas un historien des sciences et connais mal les opinions philosophiques de Gödel concernant ses propres théorèmes[1].

Premier constat : sur les théorèmes en question et leur interprétation, il y a clairement un biais de confirmation dans la présentation, qui ne donne qu'une seule interprétation parmi plusieurs possibles. En substance, l'interprétation des auteurs est une forme de platonisme mathématique (un peu teinté de science-fiction dans sa formulation). Le platonisme est une position philosophique légitime par le prisme duquel on peut interpréter les théorèmes d'incomplétude. Cependant, cette interprétation est en compétition avec d'autres perspectives, telles que le constructivisme, le formalisme etc., qui n'ouvrent pas vers le même horizon transcendant. En ne présentant qu'une seule interprétation, les auteurs effacent donc le débat sur la question, ce qui est, à mon avis, trompeur. C'est d'autant plus étrange qu'ils soulignent que le débat a "fait rage sur les conséquences directes ou indirectes" de ces théorèmes sans jamais en rappeler les termes. Ils s'empressent d'ailleurs d'ajouter (dans la phrase suivante) que l'interprétation "la plus généralement admise, c'est que [...] le théorème conforte la position platonicienne". Comment le savent-ils ? Il n'est pas possible d'affirmer ça sans justification. Plus "généralement admise" par qui ? Aucune citation, sondage ou recherche supplémentaire n'est fournie pour étayer cette affirmation. Pire encore, les auteurs ne présentent aucune autre position et n'offrent aucun argument contradictoire. J'estime qu'un ouvrage grand public rédigé par des non-experts doit, par souci d'honnêteté, présenter les différentes positions d'un débat, quand débat il y a (même s'il finit par pencher d'un côté plutôt que d'un autre).

Ensuite, bien que le platonisme mathématique soit, comme je l'ai mentionné, une position philosophique valable, les arguments avancés dans le livre pour justifier l'interprétation platonicienne des théorèmes d'incomplétude sont, au mieux, impressionnistes et, au pire, erronés, comme j'aimerais le montrer dans ce qui suit.

D'abord rappelons quelques points de la démonstration de Gödel pour expliquer pourquoi les conclusions des auteurs ne sont pas aussi inévitables qu'ils les présentent. Cela permettra au lecteur de se faire une opinion plus équilibrée de la situation. Je me concentre sur les questions philosophiques les plus proches de celles abordées par les auteurs, sans prétendre être exhaustif. Pour une vue d'ensemble plus complète des problèmes philosophiques soulevés par les théorèmes de Gödel, je recommande au lecteur de consulter la première référence bibliographique que j'ai utilisée.

La contexte est le suivant : on se dote d'un système formel SS, c'est à dire d'un ensemble de règles qui nous permettent de former des démonstrations à propos d'objets mathématiques qui nous intéressent (disons l'arithmétique sur les nombres entiers, 0,1,20,1,2, etc). On pose comme contrainte que ses règles obéissent à des principes suffisamment simples pour qu'il soit possible non seulement de reconnaître une démonstration mais aussi d'énumérer toutes les démonstrations mécaniquement (en utilisant un ordinateur par exemple). On suppose de plus que le système déductif ainsi défini est cohérent : il est impossible de démontrer une proposition et son contraire (sa négation) en utilisant les règles de SS. Retenez bien cette hypothèse ; elle est très importante pour le développement technique de Gödel, mais aussi pour l'interprétation qu'on fera de ses résultats. Dans son article, Gödel a montré comment on peut définir une proposition mathématique–qu'on appellera GSG_S–qui est vraie si GSG_S n'est pas démontrable dans SS[2]. Une fois GSG_S construite, on peut se demander si GSG_S est démontrable (toujours dans SS). Par construction, si elle l'était, GSG_S serait fausse (puisque GSG_S signifie "GSG_S n'est pas démontrable" ou plus simplement "je ne suis pas démontrable") et donc SS, qui prouverait une proposition fausse, serait incohérent. On voit donc que, si SS est cohérent–ce que l'on suppose–la proposition GSG_S est vraie (le premier théorème d'incomplétude). En d'autres termes, on peut démontrer (dans SS d'ailleurs, par un effort supplémentaire d'encodage) que GSG_S est vraie si SS est cohérent. Cela implique donc aussi que SS est incapable de démontrer sa propre cohérence (le deuxième théorème d'incomplétude), sinon il démontrerait GSG_S aussi. En un sens, il n'est pas surprenant qu'un système formel cohérent soit incapable de prouver sa propre cohérence. Mais ce fut une bombe atomique qui fit voler en éclat le projet de fondements finitistes des mathématiques prônés par Hilbert à l'époque, comme le rappellent les auteurs à juste titre.

Revenons donc à l'interprétation proposée. Les auteurs affirment que le théorème indique "que la notion de vérité est plus vaste en mathématiques que la notion de démontrabilité", ce qui selon eux conforte le platonisme mathématique. Il y a ici un premier saut conceptuel qui demande une justification supplémentaire. Le théorème de Gödel n'implique pas nécessairement que la "vérité est plus vaste [...] que la notion de démontrabilité" dans les mathématiques en général, mais que la vérité dépasse la démontrabilité dans tout système formel suffisamment expressif. On ne parle pas de démontrabilité en un sens absolu, mais au sein d'un système donné. Pour tout système formel dans lequel une proposition P n'est pas démontrable, il en existe toujours un dans lequel elle l'est ; il suffit pour cela de poser P comme axiome ! Il n'est donc pas possible d'avancer une telle affirmation à propos de toutes les mathématiques, puisque celles-ci ne sont pas un système formel justement. Il y a bien des systèmes formels–la théorie des ensembles dite de ZFC par exemple–qui suffisent (en théorie) à formaliser toutes les mathématiques ordinaires. Comme tout système formel suffisamment expressif, la théorie des ensemble n'échappe pas au théorème de Gödel et contient donc des propositions indémontrables, comme GZFCG_{ZFC}. Mais en quel sens cette proposition est-elle vraie ?

Pour répondre à cette question, il convient de se demander comment on sait que la proposition GTG_T ci-dessus est vraie ? N'est-ce pas que l'esprit humain a accès à un envers transcendant où il entrevoit la véracité des propositions ? Cela semble être la position des auteurs de Dieu, la science, les preuves. Mais c'est une erreur ! La vérité de la proposition GTG_T de Gödel ne relève pas de la révélation divine, mais bien d'une démonstration. C'est juste que cette démonstration ne peut être formalisée dans SS lui-même, mais nécessairement dans un système plus puissant. Lequel ? Par exemple S+S+"SS est cohérent" y suffirait, c'est-à-dire le système SS auquel on a ajouté la proposition "SS est cohérent " comme axiome. Pour comprendre pourquoi, rappelons que GSG_S est construit de sorte que la cohérence du système SS implique la vérité de GSG_S. En résumé, on peut montrer que GSG_S est vraie parce qu'on postule la cohérence de SS. Sans ce postulat en revanche, nous n'aurions pas accès à la vérité de GSG_S. Quant à la cohérence de SS, elle ne se justifie que par la pratique ou par le recours à un système formel SS' encore plus puissant dans lequel nous pouvons la démontrer. Et bien sûr, si la cohérence de SS peut se démontrer dans SS', celui-ci contiendra à nouveau des proposition indémontrables (notamment sa propre cohérence) et vraies si SS' est cohérent. Mais nous aurons alors encore plus de raisons de douter de la cohérence d'un tel système. C'est le cas par exemple si SS est un système d'arithmétique et que SS' est la théorie des ensembles ZFC. Comme je l'ai écrit plus haut, on peut d'ailleurs encoder dans ce dernier système la plupart des mathématiques usuelles. Si on interprétait l'affirmation générale des auteurs à propos des "mathématiques" comme se référant au système ZFC, nous obtiendrons bien que la notion de vérité dépasse celle de démontrabilité dans le sens qu'on peut construire, comme Gödel, des propositions GZFCG_{ZFC} indémontrables, mais vraies si ZFC est cohérent. Le problème c'est que la cohérence de ce système est plus incertaine que celle de l'arithmétique usuelle ; la démontrer requiert un système formel qui s'éloigne des méthodes et axiomes ordinaires des mathématiques, tant et si bien qu'une telle démonstration semblerait suspecte à bon nombre de mathématicien.ne.s. On le voit, plus le système est puissant, plus la vérité des propositions indémontrables construite à la Gödel nous échappe puisqu'elles sont équivalentes à la cohérence du système qu'on utilise[3]. Pour répondre à la question du paragraphe précédent, GZFCG_{ZFC} reste certes indémontrable dans ZFC, mais sa véracité est elle plus difficile à admettre.

Dans la pratique, les mathématicien.nes sont ravis d'ignorer la question des fondements et se contentent souvent d'arguments qui permettent de convaincre leurs collègues de la validité d'une démonstration, sans se placer dans un système formel précis[4]. Pour ce faire, il postulent (à un niveau pré-théorique du moins) la cohérence de ce qu'ils font, tout en restant suffisamment critique vis à vis de leurs arguments pour en détecter l'éventuelle incohérence. C'est la politique du "jusqu'ici ça va". À nouveau, rien de surprenant là dedans : l'alternative serait de tenir pour vrai tout et son contraire, une pratique pour auto-destructrice sans grand intérêt. Mais pour ce qui est des éloigné des questions de cohérence, il n'est plus question de vérité. Il existe ainsi des propositions indémontrables qui ne mettent pas en cause la cohérence du système dans lequel elles sont formalisées. En d'autres termes, la cohérence de ce système ne permet pas de déduire immédiatement leur véracité. Dans de tels cas, nous sommes libres de postuler la proposition en question ou sa négation. Il existe ainsi des propositions indémontrables dans des systèmes formels aussi expressifs que la théorie des ensembles. La plus célèbre est sûrement l'hypothèse du continu : l'hypothèse selon laquelle il n'existe pas d'infini d'une grandeur (les mathématicien.nes emploient le terme de "cardinalité") située strictement entre celle des entiers, 0,1,2...0,1,2... et celle des nombres réels, que l'on peut se représenter comme une ligne continue fait de nombres avec une infinité de décimales derrière la virgule, comme π\pi par exemple. Cohen, qui a reçu la médaille Fields pour cette trouvaille, a prouvé qu'on ne peut démontrer ni l'hypothèse du continu, ni sa négation dans la théorie des ensembles. On est donc libre de postuler l'une ou l'autre. Dans ce cas, aucune des deux n'est plus vraie que l'autre, et il peut être intéressant d'explorer ces deux mondes mathématiques parallèles.

Le théorème de Gödel montre donc plutôt que les mathématiques sont en principe inépuisables. Il invite les mathématicien.ne.s à réfléchir aux systèmes d'axiomes qu'iels utilisent–certains préfèreront par exemple éviter des principes dits non-constructifs, tels que le tiers-exclus ou l'axiome du choix (le C dans ZFC, qui est aussi indémontrable à partir des seules axiomes de ZF !), donnant naissance à de nouvelles formes de mathématiques. Le choix d'un système d'axiomes est une question méta-mathématique, à la fois philosophique, esthétique, et pratique, qui n'admet pas de réponse univoque. En pratique, on pourrait presque dire que le choix d'un système donné se fait par expérimentation collective, par un procédé qui n'est pas explicable formellement, mais relève plus de la sociologie que des sciences déductives !

Pour revenir à Dieu, la science, les preuves, on voit mieux pourquoi l'affirmation selon laquelle "la notion de vérité est plus vaste en mathématiques que la notion de démontrabilité" ne tient pas la route. Les mathématiques ne sont pas un système formel clos, mais une activité humaine aux frontières floues et extensibles. Les auteurs définissent le platonisme mathématique comme la position selon laquelle les objets mathématiques "existent indépendamment de l’esprit humain". Selon eux, cela laisse supposer un "autre monde ou, au minimum, une autre dimension dans laquelle ces objets existent indépendamment de toute personne pour les penser". Pour adopter le même vocabulaire de science-fiction, on comprend maintenant qu'il n'y a pas besoin d'aller dans "un autre monde" : un système formel plus expressif suffit, même si, plus ce système est puissant, moins on aura confiance en sa cohérence. D'ailleurs le système le plus puissant qui soit est bien un système incohérent, puisqu'il permet de tout démontrer ! Il y a en effet une sorte d'équilibre entre la puissance déductive d'un système et sa cohérence. Quitte à me répéter : le théorème de Gödel ne donne donc pas un exemple de vérité indémontrable dans l'absolu, mais de proposition indémontrable dans un système formel donné (que l'on peut pourtant démontrer dans un système plus puissant). La notion même de vérité indémontrable dans l'absolu n'a pas de sens a priori ; elle n'en a que si on présuppose un cadre philosophique platonicien–-ce qui serait circulaire de la part des auteurs qui souhaitent justifier cette position philosophique par le théorème d'incomplétude. En dehors d'une interprétation platonicienne des mathématiques, il n'y a pas nécessairement de vérité indépendante des moyens mis en œuvre pour y accéder et donc le statut d'éventuelles vérités mathématiques indémontrables est chimérique.

Plus loin dans le même chapitre, les auteurs reprennent certains arguments qui opposent théories de l'esprit matérialistes et mécanistes au théorème d'incomplétude. Ici, les auteurs citent, entre autres, Gödel lui-même et Penrose, un physicien célèbre qui défend une position anti-matérialiste en théorie de l'esprit. Je ne connais pas bien les arguments de Penrose et, malheureusement, Dieu, la science, les preuves n'en présente qu'un résumé lacunaire : 1) si notre esprit est le produit d'un mécanisme purement matériel, ce mécanisme pourrait alors s'identifier à un système formel ; 2) en suivant le théorème de Gödel, il serait alors possible de construire une proposition vraie mais indémontrable dans ce système ; 3) la vérité de cette proposition serait tout de même accessible à l'esprit humain, ce qui nous permet de conclure qu'il n'est pas le pur produit d'un tel mécanisme. Il n'est pas difficile de pointer du doigt ce qui ne va pas dans ce raisonnement. L'argument suppose que pour tout système formel SS, il existe une proposition GSG_S qui est indémontrable dans ce système, mais que l'esprit humain peut reconnaître comme étant vraie. Ce n'est pas ce qu'affirme le théorème de Gödel, qui a, comme nous l'avons vu, une forme conditionnelle : GSG_S est indémontrable et vraie si SS est cohérent. Autrement dit, tout ce que le théorème de Gödel nous permet de prouver avec une certitude mathématique, pour un système formel SS, est que la cohérence de SS implique la véracité de GSG_S. Dès lors, contrairement à ce qu'affirment les auteurs, nous ne comprenons pas "la vérité de cette proposition par un certain accès transcendant aux vérités mathématiques" mais parce que nous supposons la cohérence du système SS. L'argument de Penrose repose donc sur la capacité supposée de l'esprit humain à connaître la cohérence de tout système formel, ce qui est plus qu'improbable. Les auteurs concèdent que l'argument de Penrose "suscite encore bien des débats dans le monde de la logique, des mathématiques et de l’intelligence artificielle". L'article de la SEP sur le théorème de Gödel va plus loin : pour son auteur, un philosophe spécialiste du sujet, il y a un large consensus dans la littérature universitaire sur le caractère erroné de ce type d'argument anti-mécaniste, pour les raisons que je viens d'expliquer. Ce n'est d'ailleurs pas le seul problème avec le raisonnement de Penrose tel qu'il est présenté : même si nous pouvions identifier le mécanisme supposé de l'esprit humain à un système formel (à la manière dont nous le faisons pour un ordinateur, ce qui n'est déjà pas évident), celui-ci pourrait-être incohérent. Dans ce cas, il n'y pas de contradiction avec le théorème d'incomplétude : toutes les vérités sont accessibles à l'esprit humain... de même que les faussetés, malheureusement ! Notez à nouveau que la question même n'a de sens que dans un cadre conceptuel platonicien ou, du moins, dans lequel les vérités existent a priori, indépendamment de l'esprit humain qui ne fait que les découvrir.

Pour conclure, si je n'ai pas lu les autres chapitres du livre, et serais de toute façon incapable d'évaluer et, si besoin, de déconstruire le raisonnement des auteurs dans des domaines qui vont de l'astrophysique à la biologie, je pense que ce billet devrait faire réfléchir ceux qui se sont laissés convaincre par leurs arguments. Il est bon de rappeler que, pour nous forger une opinion informée sur des sujets aussi compliqués, nous devons nécessairement accorder notre confiance à d'autres. Cela s'applique aussi aux auteurs de ce livre, auxquels il incombait d'aller chercher les éléments qui contredisent leur thèse autant que ceux qui l'affirment. Qu'importe si cela affaiblissait leur thèse de départ et laissait subsister des doutes raisonnables. Dans ce cas, notre responsabilité est d'apprendre à vivre avec ses doutes. C'est peut-être présomptueux, mais j'ai tendance à penser qu'on est plus proche de Dieu en vivant pleinement avec une aporie, qu'en y substituant une certitude mal acquise.

Références

[1] Je sais bien sûr qu'il a tenté de formaliser l'argument d'Anselme en logique modale vers la fin de sa vie, mais je ne suis pas à même d'évaluer la relation qu'il établissait entre les théorèmes d'incomplétude et l'existence de Dieu.
[2] Les détails de la construction de cette formule sont fastidieux mais peu important. Il s'agit en gros d'une forme d'encodage de la notion même de démontrabilité au sein de SS (donc avec des nombres, dans notre exemple). Ce type d'encodage était innovant dans les années 1930 ; il l'est moins maintenant que l'on sait à peu près tout encoder–-du texte, des images, des programmes, et des démonstrations mathématiques–-avec des 0 et des 1.
[3] Il existe aussi des propositions indémontrables plus concrètes, dans le sens où celles-ci se réfèrent à des objets mathématiques usuels (et pas seulement méta-mathématiques, comme les notions de cohérence, de démonstration etc.). Un exemple connu est celui des équations diophantiennes, c'est-à-dire, des équations polynomiales à coefficients entiers dont on cherche des solutions entières. Si SS est un système formel pour l'arithmétique, on peut montrer qu'il existe de telles équations qui n'ont pas de solutions, mais dont l'absence de solution ne peut être démontrée dans SS.
[4] Il s'agit avant tout d'un exercice de persuasion. D'ailleurs, si je me risquait à définir les mathématiques (et je ne m'y risquerais qu'en note de bas de page), je dirais qu'il s'agit de ce recoin du langage où on s'accorde sur des règles pour manipuler certains concepts aussi précisément que possible, de sorte qu'il soit possible d'avancer des arguments convaincants pour tous, dès lors qu'on se limite à l'emploi de ces règles. Autrement dit, c'est une pratique sociale qui vise à produire du consensus (par l'usage d'outils linguistiques). D'où l'importance de la notion de cohérence ; sans elle, il n'y a plus de consensus possible ou, du moins, devient-il inopérant, puisqu'il est possible de montrer tout et son contraire. Enfin, il n'est pas surprenant, dans ce contexte, qu'une fois les règles établies, la cohérence de ses règles soit une affirmation qui leur échappe. On peut toutefois concocter des règles plus laxes pour montrer la cohérence des premières règles, mais on ne peut faire cela sans troquer un peu de certitude quant à la cohérence des nouvelles règles.