Benkirane, La Complexité, Éditions Le Pommier, 2002, p. 283-310

COMPLEXITÉ, LOGIQUE ET HASARD

Entretien avec Gregory Chaitin


« Vous pouvez déjà clairement voir le commencement d'un nouveau genre de mathématiques, un genre plus compliqué qui, d'une certaine manière, ressemble à la biologie. »

Gregory Chaitin, The Unknowable.


-- Vous êtes connu pour avoir développé la théorie algorithmique de l'information. Les mathématiques semblent vous passionner depuis toujours, si l'on considère que vous avez écrit vos premières contributions scientifiques, par exemple sur la notion de compression, alors que vous étiez adolescent...

-- D'une certaine manière, je suis un autodidacte en mathématiques. J'ai eu cette idée de la mesure de la complexité d'un objet mathématique à l'âge de quinze ans et j'ai publié mon premier article important sur le sujet à l'âge de dix-neuf ans dans le Journal of the Association for Computing Machinery. J'ai eu un parcours assez inhabituel...

-- Vos recherches sur la complexité algorithmique sont très techniques, tournées vers la science informatique, mais les implications de vos travaux sont, elles, d'ordre philosophique et finalement assez abordables en dehors de votre discipline. En fait, vous montrez qu'il existe des vérités mathématiques sans démonstration possible, sans structure ni modèle, des vérités qui n'ont aucune explication. Vous révélez l'existence d'objets mathématiques produits uniquement par le hasard. Comment réagit la communauté des mathématiciens à vos travaux ?

-- Il n'y a pas eu dans le monde des mathématiques beaucoup de réactions par rapport à ma recherche sur le hasard, de même qu'il n'y avait pas eu beaucoup de réactions aux travaux du logicien Kurt Gödel sur l'incomplétude. La plupart des mathématiciens travaillent sur des problèmes relevant de leur domaine technique particulier. Ce travail de métamathématique, propre notamment aux recherches de Gödel, de Turing ou aux miennes, reste en dehors des champs de recherche spécialisés. Le grand public s'est montré davantage intéressé... Dans la communauté scientifique, les physiciens ont manifesté plus de sympathie pour ce que j'ai fait que les mathématiciens. Cela correspond mieux à leur point de vue sur le monde et à leur façon de penser. La plupart des ouvrages de vulgarisation qui évoquent mes travaux viennent de physiciens -- je pense par exemple à John Barrow et Paul Davies. Je trouve deux causes à cet intérêt des physiciens. D'abord, je montre que les mathématiques ne conduisent pas à une vérité absolue mais sont quasi empiriques ; je considère qu'elles sont plus proches de la physique que ne veulent le croire les mathématiciens en général. Je ne veux pas dire par là que les deux disciplines scientifiques se confondent, elles sont clairement distinctes, mais mon approche consiste plutôt à mettre en avant les similarités que les différences. En second lieu, j'utilise des idées issues des sciences physiques : l'idée du hasard a été beaucoup plus étudiée par la physique au cours du XXe siècle. Lorsque Einstein dit que « Dieu ne joue pas aux dés », il le fait en référence à la mécanique quantique. D'ailleurs, j'ai été invité à participer à un numéro spécial de La Recherche consacré à la théorie du chaos, qui est une théorie physique. La même chose est arrivé en Grande-Bretagne avec la revue New Scientist.

L'idée du hasard n'est pas une idée avec laquelle les mathématiciens se sentent à l'aise : ils ne croient pas au hasard, ils ont tendance à penser que les choses sont noires ou blanches, vraies ou fausses, ils considèrent que les choses surviennent uniquement en fonction d'une raison particulière. Quelques mathématiciens, toutefois, portent attention à mes idées. Aux États-Unis, John Allen Paulos, qui est connu pour ses livres grand public sur les mathématiques, s'y est intéressé -- il est intéressé par la philosophie, ce qui est inhabituel pour un mathématicien !

À ma connaissance, il n'y a qu'un philosophe, Thomas Tymoczko, l'auteur de New Directions in the Philosophy of Mathematics, qui ait réagi un peu à mes travaux... Mon travail est interdisciplinaire et il est parfois difficile pour des spécialistes de comprendre de quoi je parle !

-- Vous définissez la complexité algorithmique d'un objet mathématique en fonction de « la taille du plus petit programme qui le calcule ou produit sa description complète »...

-- Une autre manière de le dire serait de définir la complexité algorithmique en fonction de la théorie la plus concise qui puisse l'expliquer.

-- Vous précisez que « des objets plus simples requièrent des programmes plus courts ». Ce qui est désigné comme un programme informatique -- un ensemble d'instructions codées en chaînes de 0 et 1 -- est un nombre décrivant un autre nombre mais dans une séquence généralement plus courte. Dans cette perspective, un nombre aléatoire n'a pas de compression possible ; le plus petit programme susceptible de le décrire consiste à écrire entièrement ce nombre. Existe-t-il des définitions mathématiques -- plus courtes ou plus longues -- du hasard ?

-- Il y a d'autres définitions, en particulier la définition statistique du hasard due au Suédois Martin-Löf. Sa définition s'appuie sur les propriétés statistiques du hasard alors que ma définition est fondée sur la notion de complexité de l'information. Un joli théorème a prouvé que nos deux théories étaient équivalentes, ce qui est toujours une bonne chose en mathématiques ! Lorsque, pour un même objet, plusieurs définitions proposées se révèlent équivalentes, cela indique que vous avez réellement touché le coeur du problème, que vous avez identifié les concepts les plus pertinents.

En ce qui concerne la complexité algorithmique et la taille des programmes informatiques, deux autres personnes ont eu l'idée d'y travailler ; Solomonoff et Kolmogorov. Solomonoff n'a jamais parlé de hasard, le problème central qui l'intéressait était l'intelligence artificielle, il parlait de prédiction et soulevait des questions liées au problème de l'induction scientifique et au principe du rasoir d'Occam (qui affirme que les meilleures théories sont les plus simples). Kolmogorov et moi-même avons développé, en parallèle et à peu près à la même période, une réflexion sur la question du hasard. Nous pensions tous deux que cette idée était importante pour définir le manque de structure ou de motif.

-- Concrètement, quelle utilité y a-t-il à connaître la complexité algorithmique d'un objet ? Ce concept pourrait-il servir, par exemple, dans la discipline émergente qu'est la cryptographie, dont l'une des applications est de générer des chiffres aléatoires ?

-- Ma théorie sur les nombres aléatoires est surtout théorique ! Je pense que l'application la plus intéressante est l'épistémologie. Le fait le plus marquant de cette théorie est qu'elle prouve qu'elle est impraticable, qu'elle n'a pas d'application parce que vous ne pourrez jamais calculer le degré de complexité ! Vous pourrez prouver des théorèmes la concernant, mais il sera impossible d'être jamais sûr du degré de complexité d'un objet en particulier. Même si, selon ma définition, la plupart des choses sont aléatoires, vous ne pourrez jamais en être sûr ! C'est ce qui rend ma théorie impraticable, inutile du point de vue des applications scientifiques et technologiques, mais c'est aussi ce qui la rend fascinante philosophiquement parlant.

Beaucoup de travail a été accompli par les théoriciens de l'informatique dans le domaine de la cryptographie, mais je pense que la plupart de ces études recourent à des concepts plus pratiques que les miens, peut-être parce que ces chercheurs sont plus intéressés par le monde réel que moi-même...

-- Doit-on en déduire que vous travaillez surtout sur un plan épistémologique et philosophique ?

-- C'est ce que j'essaie de faire. Mais mon travail est en réalité connecté aux idées fondamentales de la physique. Ma mesure de la complexité algorithmique est très proche de la notion d'entropie développée par Ludwig Boltzmann (1844-1906), fondamentale en physique statistique et en thermodynamique et qui mesure le degré de désordre d'un système physique. Cette notion d'entropie, dès l'époque de Boltzmann, entretenait des liens solides avec la philosophie, par exemple en ce qui concerne la direction, la flèche du temps. Boltzmann s'est suicidé en partie parce que sa théorie très controversée de l'entropie croissante, postulant que les systèmes physiques passent d'un état ordonné à un état désordonné, impliquait une direction du temps, en contradiction flagrante avec la physique newtonienne qui, étrangement, n'avait pas, elle, de direction du temps. Au lieu d'accueillir favorablement la théorie de Boltzmann, qui était plus proche de la vie courante -- nous savons tous que tout finit par vieillir et se casser --, certains de ses collègues la rejetèrent parce que, justement, elle semblait contredire la physique newtonienne où, si vous connaissez le présent de l'état d'un système donné, vous pouvez prédire aussi bien son passé que son futur.

Un autre connexion importante est celle avec la biologie, où l'ADN est semblable à un programme d'information biologique servant à construire des organismes, à développer un embryon et à construire un être vivant. Ces notions d'information et de complexité sont beaucoup discutées actuellement parce que les sociétés humaines, notre technologie et les organismes biologiques sont des organisations complexes. Ce que je propose est une théorie de la complexité dans le cas le plus simple possible, celui des mathématiques pures. Ce n'est donc pas une théorie réaliste et pratique, mais elle montre au moins qu'il existe une notion de complexité mathématiquement concevable. Le domaine des mathématiques pures est beaucoup plus simple que le monde réel, le monde de la biologie ou celui de la physique. Ma théorie de la complexité est en fait plus facile car elle s'applique uniquement à l'épistémologie et non au monde réel. Elle atteste uniquement des limites du raisonnement mathématique, mais j'espère qu'elle suggère que de nouvelles définitions, de nouveaux concepts de complexité émergent au sein de chaque discipline pour être utiles dans le monde réel.

-- Vous avez montré qu'il existe des nombres aléatoires, incompressibles. Vous avez notamment découvert un nombre appelé Ω, qui est la probabilité d'arrêt d'un ordinateur universel, et qui ne possède aucune structure. Cela veut dire qu'il n'est pas possible de distinguer les bits de la valeur numérique d'Ω du résultat d'un lancer de pièce de monnaie. Quels enseignements tirez-vous de ce nombre ?

-- C'est un nombre fascinant, une sorte de cauchemar pour la raison pure. Il a une définition mathématique précise, mais il est également inconnaissable, incalculable. Donc, d'un point de vue rationnel, Ω est très effrayant. Quelles implications peut-on en tirer ? C'est une question très controversée mais selon moi, Ω montre bien que les mathématiques sont plus proches de la physique que ne le croient les mathématiciens. Ω est un cas extrême où, pour être en mesure de prouver plus, vous avez besoin de plus d'hypothèses et d'axiomes. En fait, c'est un cas où la seule façon de prouver ce à quoi ce nombre correspond en bits, c'est-à-dire en mode binaire, il faut ajouter ce que vous essayez de prouver en nouveaux axiomes. En d'autres termes, c'est irréductible, le raisonnement mathématique n'est réellement d'aucune aide. Por des physiciens, cela ne semble pas trop outrageux comme affirmation car, au fur et à mesure que progresse la physique, de nouvelles hypothèses sont ajoutées -- comme ça a été le cas par exemple pour les équations de Newton, Maxwell, Einstein, Schrödinger, etc., et récemment la théorie des cordes. Mais en mathématiques, on avait l'habitude de penser que tous les principes étaient connus, que la discipline était statique et que les principes fondamentaux ne changeaient pas en fonction du temps comme c'est le cas en physique. Ω suggère que, peut-être, cette vision traditionnelle n'est plus pertinente ; même si l'on se place au niveau de la théorie élémentaire des nombres, il sera peut-être nécessaire d'ajouter de nouveaux principes si l'on veut que la recherche progresse. Cette conception des mathématiques a reçu le nom de « quasi-empirisme », et le livre New Directions in the Philosophy of Mathematics montre que son auteur, Thomas Tymoczko, soutient cette voie. Davantage de recherches et de débats sont nécessaires pour clarifier les choses et aller plus avant dans cette direction. D'une certaine façon, mon travail poursuit celui de Kurt Gödel et d'Alan Turing dans les années trente, les premiers à déclencher la crise au sein des mathématiques. Simplement, j'ai le sentiment que mon travail rend la question plus pressante et plus pessimiste, dans la mesure où il risque de déclencher des crises majeures dans la discipline.

-- Revenons à Ω et à π (3,14159...), qui correspond au rapport de la circonférence d'un cercle à la longueur de son diamètre. On peut générer d'innombrables décimales de π à partir d'un petit programme informatique et il semble que celles-ci ne révèlent aucune structure particulière. Mais selon votre définition du hasard, π n'est pas à strictement parler un nombre aléatoire.

-- Selon la définition du hasard que je propose dans le cadre de la théorie algorithmique de l'information, π n'est pas un nombre aléatoire puisqu'il peut être comprimé en un petit programme informatique qui peut le calculer. Cependent, un certain nombre de chercheurs se sont intéressés au nombre π, notamment les frères Borwein, de l'université Simon Fraser (Canada), et les frères Chudnovsky, de New York, notamment en calculant des milliards de décimales pour vérifier si chaque chiffre était aussi probable que les autres. Si vous observez le nombre π non pas globalement mais localement, il semble qu'il n'y ait pas de motif particulier qui se reproduise. Il y a certes un motif, dans le sens où cette chaîne de chiffres correspond aux décimales calculées de π, mais si vous l'ignorez et que vous observez simplement une partie de sa séquence décimale, il semble qu'il n'y ait pas de structure. Il s'agit là d'un sens plus faible de la notion de hasard que celle que je donne. Ce serait bien sûr merveilleux si l'on pouvait démontrer que dans le nombre π, tous les chiffres de 0 à 9 ont une probabilité égale d'advenir ; il semble que ce soit le cas mais personne ne peut le prouver. Ma théorie est en fait la définition la plus contraignante et la plus impraticable du hasard dans les nombres. C'est pourquoi elle n'est pas utilisée en cryptographie mathématique.

-- Au début de XXe siècle, le mathématicien allemand David Hilbert ambitionnait de codifier le raisonnement mathématique dans un système général d'axiomes et de règles d'inférence, il voulait produire un système qui soit à la fois « consistant » et « complet ». Les implications du théorème de l'incomplétude formulé en 1931 par Kurt Gödel furent à ce propos radicales et plutôt dévastatrices ! Comme le dit si justement l'astrophysicien John Barrow, « si nous définissons une religion comme un système de pensée qui contient des affirmations indémontrables, alors elle contient des éléments de foi, et Gödel nous enseigne que les mathématiques sont non seulement une religion, mais que c'est la seule religion capable de prouver qu'elle en est une ». Pourquoi, selon vous, l'incomplétude développée par Gödel a-t-elle eu un tel impact en dehors de sa discipline, pourquoi a-t-elle inspiré tant d'interprétations, en particulier en sciences sociales ?

-- Je pense que pour comprendre la cause de cet intérêt multidisciplinaire pour le théorème d'incomplétude, il faut remonter à Platon. Cette idée, d'ailleurs, m'a été suggérée par l'un de mes amis, le philosophe Walter Meyerstein, l'auteur, avec Luc Brisson, de Puissance et limites de la raison. Je ne connais pas beaucoup le monde de la philosophie mais j'ai beaucoup discuté de la question qui nous préoccupe avec Walter Meyerstein, qui m'a expliqué qu'une école rationaliste se réclamant de Descartes et Spinoza et se ressourçant dans les idées de Platon tenait en très haute estime le raisonnement mathématique. Platon, lui aussi, voulait traiter de questions philosophiques, d'éthique ou de morale de façon aussi convaincante qu'une argumentation mathématique. En d'autres termes, cette école philosophique voit les mathématiques comme l'exemple suprême du raisonnement et essaie de s'en inspirer pour des questions relevant d'autres domaines. Pour les tenants de cette vision rationaliste, le théorème de Gödel fut perçu comme un choc car il coupait l'herbe sous le pied aux défenseurs de la raison pure. Si les fondations des mathématiques pures devenaient elles-mêmes incertaines, alors qu'en serait-il d'autres domaines de la réalité, moins ordonnés et plus compliqués mais plus significatifs encore pour nous ? Le but était d'amener la certitude mathématique dans d'autres champs de la pensée humaine, mais si les mathématiques venaient à produire des doutes, de quoi serions-nous sûrs désormais ? Ce sont en partie les raisons du choc.

Toutefois, je ne pense pas que les implications du théorème d'incomplétude de Gödel ou de mon théorème sur le hasard doivent nous faire désespérer. Ma conclusion provisoire est que nous ne pouvons avoir de certitude absolue sur rien. En conséquence, nous devons toujours tendre vers la raison, mais raisonner ne suppose plus uniquement déduire mécaniquement des conséquences à partir d'axiomes généraux. Raisonner implique de discuter et d'échanger avec les autres, d'utiliser des intuitions, de faire émerger un consensus. Affirmer que, la raison étant en déroute, il est nécessaire d'utiliser la force pour convaincre serait une attitude extrême ! Ce serait une interprétation détestable du théorème de Gödel, que l'on peut comprendre mieux et plus profondément en admettant que même les mathématiques pures ont leurs limites. Même le plus sûr de tous les champs de la connaissance -- car le raisonnement mathématique est beaucoup plus sûr que le raisonnement en physique, en sociologie ou en psychologie --, a des limites. Il nous faut réaliser que tous les champs de la connaissance humaine ont de sérieuses limites. Il s'agit en quelque sorte d'être plus modeste et moins dogmatique.

-- Pour les profanes, et même pour une majorité de scientifiques, les mathématiques sont la reine des sciences et leur territoire ne peut être qu'un royaume de la vérité, de l'impeccabilité et de l'infaillibilité. Un système de preuves mathématiques comme celui que voulait établir David Hilbert correspondrait à un système parfait dans lequel la vérité diffuserait de façon descendante (top-down). On sait que ce système ne vit jamais le jour à cause des résultats de Gödel sur l'incomplétude, de Turing sur l'incalculabilité, et de vos propres travaux sur le hasard. Dans un système formel, pourrions-nous représenter le hasard comme un ensemble de données qui diffuse par le bas (bottom-up) et dénie toute possibilité d'aboutir à l'efficience par la preuve ?

-- Oui, c'est une bonne image, ce pourrait être une façon de voir les choses. Si Hilbert avait réussi dans son projet, la vérité mathématique serait effectivement absolue -- les choses seraient noires ou blanches --, très dogmatique ; nous aurions un système autoritaire. Mais cela n'a pu advenir.

-- Le second scientifique à avoir fait trembler les fondations des mathématiques est Alan Turing. En formalisant sa fameuse machine, il découvrit qu'il était théoriquement impossible de prévoir si certains programmes informatiques vont finalement s'arrêter ou non (halting problem). Ce problème théorique a des implications très concrètes car pour un informaticien, il est inutile d'avoir un programme sur lequel il ne puisse pas compter et sur lequel il ne soit pas possible de planifier une action quelconque. Pour les non-spécialistes, il est difficile de saisir l'importance de cette question qui, pourtant, a eu des conséquences importantes dans l'histoire des mathématiques en ce qu'elle montrait les limites du formalisme. Mais vous avez mis en avant le paradoxe fécond de la situation en remarquant très justement que ce qui peut être vu comme une défaite du raisonnement peut en même temps être considéré comme une victoire de la computation. L'incalculabilité du problème de l'arrêt montre que le formalisme du raisonnement mathématique est incomplet, mais Turing a proposé un formalisme universel de la computation. Vous considérez par conséquent l'universalité du langage machine comme une forme très importante de complétude. Ce qui a échoué dans le domaine des mathématiques est un succès éclatant dans le domaine informatique...

-- L'échec du formalisme est un échec glorieux. Il n'a pu aboutir dans le raisonnement mathématique voulu par Hilbert mais il a abouti dans le calcul et les algorithmes. C'est le plus grand succès du XXe siècle, à l'origine des langages des programmes informatiques et des technologies de l'information. Nous utilisons tous ces langages formels qui font fonctionner nos ordinateurs. C'est donc un fait historique très surprenant. Aussi me semble-t-il quelque peu injuste d'affirmer que Hilbert a échoué dans l'édification de son programme formel car d'une façon totalement inattendue, celui-ci a abouti à une immense réussite en tant que technologie. C'est une étonnante histoire intellectuelle, dans laquelle les mathématiques s'examinent elles-mêmes et découvrent que leurs fondations ne sont pas suffisamment sûres. Mais une partie de ce travail, qui avait un but philosophique, a contribué à la naissance de la science informatique. En relisant les textes originaux de Gödel et de Turing à la lumière de la situation présente, j'y vois du langage de programmation informatique. À cette époque, il n'existait pas encore de langage de programmation ni d'ordinateur, mais le texte de Gödel me semble se référer à un langage de programmation ressemblant au LISP -- un langage utilisé dans le domaine de l'intelligence artificielle -- et celui de Turing à un langage machine -- un langage primitif, situé au niveau de l'ordinateur. C'est un succès, certes dans une direction différente de celle envisagée par Hilbert mais il n'en reste pas moins vrai que le formalisme s'est imposé de façon considérable au cours du XXe siècle. Mais les ordinateurs ne raisonnent pas, ils calculent...

-- Donc le rêve de Hilbert s'est en réalité concrétisé dans la programmation informatique. Mais vous dites que son grand projet d'intégration de toutes les mathématiques en un système axiomatique formel caractérisé par un alphabet, des règles de grammaire, une syntaxe, la consistance et la complétude, tout cela, dès le début, correspond à un langage de programmation. C'est pour cela aussi que vous constatez qu'en pratique, la programmation requiert plus de précision que de prouver des théorèmes.

-- À l'exception de la consistance et de la complétude, qui ont à voire avec le raisonnement, le reste du corpus esquissé par Hilbert semble très familier aux informaticiens d'aujourd'hui, qui utilisent toutes ces caractéristiques de langage pour communiquer avec les ordinateurs. Turing est largement reconnu comme l'un des pères de l'ordinateur. Sa réflexion philosophique a finalement conduit à un développement au sein de la société. Mais Leibniz, qui parlait de remplacer le raisonnement, les arguments et les mots par le calcul, n'aurait probablement pas été étonné. Il avait préfiguré un système semblable à celui de Hilbert et évoquait une Lingua characteristica universalis. Je crois que la vision de Leibniz relevait d'une logique symbolique où raisonner correspondait à une sorte de calcul arithmétique destinée à éviter la « dispute ».

-- Au début de votre livre sur l'« inconnaissable » (The Unknowable), vous citez justement Leibniz qui nous dit « qu'il n'y a guère de paradoxe sans utilité ». Quelle est l'utilité, le message ultime des paradoxes révélés par votre « métamathématique », c'est-à-dire cette étude introspective des mathématiques par le microscope mathématique ?

-- Je crois, qu'essentiellement, ils aident à comprendre les limites du raisonnement. Les paradoxes que j'évoque dans mon livre ont des aspects positifs. En première lecture, ils révèlent que le raisonnement se contredit, mais quand on les étudie plus attentivement, ils aident à clarifier les limites du raisonnement. Je ne me rappelle plus qui a dit que ces paradoxes paraissent aux premiers abords enfantins et qu'un adulte ne devrait pas s'y attarder, mais Gödel les a pris très au sérieux, et c'est ce qui a fait en partie son génie car il aboutit à une auto-analyse des limites de la raison. Mais le raisonnement ne s'arrête pas subitement dès lors que vous butez sur une contradiction...

-- Avec Gödel, nous découvrons l'incomplétude des mathématiques, puis Turing nous montre l'incalculabilité de certains problèmes et, enfin, vous nous signalez la part de hasard dans le monde des mathématiques. Mais l'incomplétude, l'incalculabilité et le hasard sont-ils trois manifestations différentes des limites des mathématiques ou se réfèrent-ils au même noeud de contradictions ? Autrement dit, aurions-nous pu découvrir ces trois idées indépendamment les unes des autres ou devons-nous plutôt les saisir dans la progression historique ?

-- Il est utile d'étudier l'évolution de ces trois idées. Elles sont indépendantes dans la mesure où l'incomplétude de Gödel ne peut être déduite de la méthode employée par Turing pour aboutir à l'incalculabilité. Les résultats auxquels aboutit Gödel sont différents de ceux qu'a trouvés Turing. Ces trois idées sont trois sources différentes de limitation, aucune d'entre elles n'inclut les deux autres mais chacune de ces étapes montre de manière plus claire les limites du raisonnement. En découvrant les travaux de Gödel, ma première réaction a été une extrême surprise, un choc, et ils me semblaient compliqués et fragiles car dépendant de beaucoup trop de détails. Les travaux de Turing m'ont paru plus « naturels » car ils concernaient les machines et ce qu'elles ne pouvaient pas réaliser -- cela ressemblait à de la physique. De mon point de vue, l'incomplétude semble inévitable. Où que vous portiez le regard, vous butez sur la question des limites du raisonnement, il n'y a pas d'échappatoire.

-- Questions d'ordre pratique : avons-nous une idée de la taille ou de la densité de l'ensemble des « théorèmes qui sont vrais par accident », selon votre expression ? Quelle est la dimension de cet ensemble par rapport aux théorèmes prouvés ?

-- C'est la question clé, et précisément, je voulais essayer de répondre à cette question. Je ne peux parler que de certains aspects. Si vous me demandez s'il est possible de prouver qu'un nombre est aléatoire, je répondrai non, bien que la plupart des nombres soient aléatoires. Presque tous les nombres sont aléatoires mais il n'est possible de le démontrer que pour un petit nombre d'entre eux. C'est un cas où l'incomplétude est vraiment partout. Mais qu'en est-il des questions naturelles des mathématiques, qui intéressent les mathématiciens dans leur travail ordinaire ? Là, il n'y a pas de réponse claire. Des recherches restent à mener pour fournir des éléments de réponse. Le dernier théorème de Fermat a été récemment démontré par Wiles, et c'est un résultat formidable car je craignais qu'il n'échappe aux méthodes normales du raisonnement mathématique ! À l'époque où j'étais enfant, il restait encore à résoudre le fameux problème de la conjecture des quatre couleurs, qui consiste à tenter de colorier des cartes en utilisant uniquement quatre couleurs. Les pays qui ont des frontières en commun doivent être de couleurs différentes pour qu'on ne puisse pas les confondre. On a pu montrer, à l'aide d'un ordinateur, que quatre couleurs étaient effectivement suffisantes. Récemment, cette preuve a encore été améliorée mais il reste beaucoup de calcul dans la démonstration.

La question est donc de savoir ce qu'il en est des mathématiques réelles. Quelle est la fréquence d'apparition de l'incomplétude ? Pendant les trente dernières années, on a pu répondre à deux des trois questions mathématiques exceptionnelles qui étaient encore ouvertes -- le problème des quatre couleurs, le dernier théorème de Fermat et la conjecture de Riemann. L'expérience de la communauté mathématique est que les mathématiques progressent admirablement. Et pourtant, les résultats de Gödel, de Turing et les miens semblent indiquer le contraire ! Il serait intéressant de comprendre en quoi les mathématiques fonctionnent si bien et comment on arrive à des résultats positifs en dépit des implications de l'incomplétude. Cela rejoint votre question : l'incomplétude est-elle chose courante ou survient-elle uniquement dans des circonstances inhabituelles ? -- y répondre nous permettrait de savoir si elle affecte les questions mathématiques plus naturelles. Cela demande davantage de réflexion... Il n'est pas évident de définir ce qu'est vraiment une question mathématique naturelle... Mon travail est trop négatif, des résultats positifs seraient intéressants !

La question que vous posez cherche à évaluer la magnitude de l'incomplétude sur un plan général. À quel point ce problème est-il grave ? Mon collègue roumain Cristian Calude, de l'université d'Auckland, a tenté de répondre à cette question. Mais comment poser la question correctement ? Il a utilisé des méthodes topologiques suggérant, je crois, que les questions auxquelles on ne peut répondre sont « partout denses »... Un gros travail doit être mené pour avancer dans l'élucidation de ce problème. Mon propre travail suggère que l'incomplétude prévaut plus souvent qu'on ne le pensait jusque-là avec le théorème de Gödel. Mais chaque étape d'une recherche mathématique fait apparaître de nouvelles questions.

-- Une tradition mathématique vieille de deux mille ans a été quelque peu déstabilisée par Gödel. Depuis le théorème de l'incomplétude, qu'est-ce qui est en train de changer dans les mathématiques ?

-- Les mathématiques sont en perpétuelle transformation. Si l'on se penche sur l'histoire, chaque siècle produit des mathématiques différentes. Le changement le plus important auquel on assiste actuellement n'est pas dû aux idées de Gödel, de Turing ou aux miennes, mais au développement de l'ordinateur. Les questions-réponses mathématiques qui sont lancées aujourd'hui sont d'un autre ordre que celles d'avant l'ordinateur. Désormais, les mathématiciens se préoccupent beaucoup plus de ce qui est susceptible d'être calculé. C'est un nouveau genre de mathématiques, constructiviste, moins abstrait, qui cherche ce qui peut être objet de computation. Certains mathématiciens puristes et abstraits refusent toute relation avec l'ordinateur, ils ne veulent pas être « corrompus » par le concept d'algorithme. D'autres, moins théoriques par le genre de problèmes qui les intéressent, sont clairement influencés par l'ordinateur. On observe le même changement dans les mathématiques appliquées à la physique.

-- La plupart des mathématiciens sont platoniciens, c'est-à-dire qu'ils pensent qu'en quelque sorte, les mathématiques précèdent l'existence, que les nombres sont des entités célestes. D'un autre côté, des recherches récentes, notamment celles du cognitiviste Stanislas Dehaene, tendent à montrer que les animaux ont un sens inné du nombre et que celui-ci serait une sorte de signe métaphorique produit par le cerveau. Selon ce point de vue, les mathématiques seraient un langage humain, à l'instar du langage naturel ou de la musique. Les mathématiques sont-elles inventées ou découvertes ? Comment vous situez-vous par rapport à l'origine des mathématiques ?

-- Je suis mathématicien. Les lundi, mercredi et vendredi, je me sens comme un platonicien parce que dans mon travail, j'ai affaire à tous les nombres entiers positifs, 1, 2, 3, 4... jusqu'à l'infini, et un être humain normal considérerait comme insensé de travailler avec une notion comme l'infini, qui ne relève vraiment pas de notre expérience de tous les jours. Mais si vous enleviez les nombres entiers positifs, que resterait-il des mathématiques ? Les mardi et jeudi, je me sens comme un physicien, quasi empiriste, et les samedi et dimanche, je ne sais plus quoi penser ! Comme vous le faites remarquer, les mathématiques sont une activité humaine et, historiquement, la discipline a évolué au cours du temps. Les questions que se posent les chercheurs changent, de même que les méthodes utilisées. Je crois qu'il y a une part de vérité dans tous ces points de vue, je n'ai pas de conception dogmatique. Je ne pense pas qu'une seule philosophie des mathématiques soit en mesure de répondre à toutes ces questions. C'est assez compliqué et tous les points de vues peuvent contribuer à fournir des éléments de réponse.

-- Vous tendez à vous éloigner des mathématiques pures et abstraites. Vous accordez une plus grande importance à l'expérience et aux faits qu'à la vérité, qui paraît trop absolue pour correspondre aux objets mathématiques. Vous plaidez pour un ressourcement de la discipline au travers du quasi-empirisme. Vous avez déclaré que « Dieu joue aux dés » non seulement en physique mais aussi dans les mathématiques pures. De fait, la seule façon selon vous de traiter des théorèmes qui sont vrais par hasard est de les accepter comme des axiomes. Mais en ajoutant des axiomes aux mathématiques, on injecte des éléments de foi dans la discipline. Si les limitations du raisonnement mathématique impliquent un système d'axiomes de plus en plus fourni, alors la part de foi augmente dans le système, qui devient de moins en moins certain !

-- Je ne prétends pas que les mathématiciens devraient cesser de pratiquer la discipline comme ils le font actuellement. Les genres traditionnels des mathématiques sont plus solides ainsi que si on leur ajoutait des axiomes fondés sur des observations empiriques. Mais j'établirais une distinction entre les preuves irréfutables, qui mettraient tout le monde d'accord et seraient la meilleure des choses, et les hypothèses non prouvées utilisées pour démontrer une assertion mathématique mais qui seraient moins convaincantes. Je ne suis pas aussi révolutionnaire que peuvent le laisser penser certains de mes propos ! Peut-être les mathématiciens devraient-ils simplement considérer que certains démonstrations sont plus convaincantes que d'autres et accepter des preuves qui ne seraient pas absolument convaincantes mais qui seraient utiles tout de même. C'est ainsi que procèdent les physiciens. C'est une erreur des mathématiciens que d'exiger toujours une certitude absolue des preuves ; c'est très bien d'y parvenir, mais les hypothèses non prouvées, même si elles ne sont pas aussi convaincantes qu'on le voudrait, peuvent jouer un rôle, par exemple dans le processus de découverte mathématique. Les mathématiciens agissent souvent comme des empiristes pour faire des découvertes mais ensuite, ils essaient d'avoir une preuve complète et cherchent à effacer toute trace de l'empirisme qui a conduit à la découverte.

-- Le mécanisme auto-référentiel révèle souvent la contradiction du raisonnement mathématique. On pourrait penser que l'auto-référence est à la source de la contradiction. Et l'élément « auto- » joue un rôle important dans l'apparition de paradoxes ou de propriétés émergentes de certains mécanismes d'organisation, par exemple la boucle rétroactive (le feed-back) de la cybernétique. À la lumière de la théorie algorithmique de l'information, que signifie pour vous le auto-référence ?

-- En fait, moins de choses que vous ne le supposez ! Certaines personnes sont fascinées par l'aspect auto-référentiel de la preuve de Gödel. Il y a ce très beau livre, Gödel, Escher, Bach: an Eternal Golden Braid, qui met l'accent sur cet aspect, et l'auteur croit que l'auto-référence est liée à la conscience humaine, cette capacité à penser sur nous-mêmes. C'est ce qui m'ennuyait dans la preuve originale de Gödel : l'aspect fragile du théorème. Cela me dérangeait, m'inquiétait et je cherchais un autre chemin. Dans mon travail, je parle uniquement de hasard et d'information, l'auto-référence intervient assez peu.

-- En fait, vous voulez démontrer les limites du raisonnement sans avoir à recourir à un argument aussi étrange pour ne pas laisser penser qu'il serait la cause de la limitation...

-- Exactement, parce qu'un certain nombre de scientifiques, dont moi-même, ne se sentent pas très à l'aise avec l'auto-référence dans la preuve de Gödel. Intuitivement, cela semble difficile à saisir. Dans mon approche, j'ai voulu l'éviter pour essayer de trouver un point de vue alternatif à celui de Gödel et mieux comprendre ses conclusions. Mais toutes ces questions sont liées : quand on évoque l'auto-référence, on parle de niveaux supérieurs, de méta-niveaux, d'émergence de nouvelles propriétés à un niveau supérieur, etc. Dans ma théorie, la notion d'émergence est liée à l'acroissement d'information dans le système d'axiomes. Mon approche est en quelque sorte complémentaire.

-- Si nous devions, pour faire image, établir une comparaison avec la crise de la physique au début du XXe siècle, pourrions-nous dire que ce qui se passe actuellement au sein des mathématiques est similaire à la divergence entre physique classique et physique quantique ?

-- Le célèbre mathématicien John von Neumann (1903-1957), l'un des héros de ma jeunesse, disait que le public connaissait la révolution survenue en physique -- les théories de la relativité et de la mécanique quantique -- mais que personne en dehors de la discipline ne connaissait la révolution survenue dans la façon de penser les fondations des mathématiques, ni les controverses importantes suscitées par ce problème. Pourtant l'analogie est bien réelle, particulièrement dans le champ de la mécanique quantique où la notion de hasard joue un rôle important. L'univers physique est-il déterministe ou aléatoire ? En fait, cette question fut en partie une source d'inspiration pour ma recherche. Je crois qu'aucun champ de connaissance n'a été exempt de crise ou d'examen de conscience au cours du XXe siècle. À l'instar des sociétés, du monde de la politique et de l'économie, le domaine de la pensée pure a été touché par les crises, et les idées de Gödel sont largement discutées par les intellectuels. Il y a eu beaucoup de débats autour du livre de Sokal et Bricmont, Impostures intellectuelles, où ils s'en prennent notamment aux intellectuels qui discutent de Gödel sans le comprendre... Je ne suis pas sûr que les auteurs de ce livre aient raison. Manifestement, nous ne sommes plus dans la situation que décrivait von Neumann au premier tiers du XXe siècle.

-- Intuitivement, je sens très fortement que l'on pourrait résumer la situation par la formule générique d'Ilya Prigogine : « la fin des certitudes ». À l'orée du troisième millénaire, ce thème, qui sonne le glas de toute vérité absolue, revient de façon récurrente dans toutes les disciplines scientifiques et même au-delà, dans le mode réel.

-- Sans doute, mais il faut tout de même être prudent quant aux conclusions à en tirer. Il serait excessif de déclarer la science en état de faillite, de prétendre qu'elle est finie, inutile, et que toute chose désormais n'est qu'affaire d'opinion. Il n'en reste pas moins que, comme le fait remarquer le professeur Prigogine, au cours du XXe siècle, de nombreux champs scientifiques sont devenus, du fait de leurs propres limitations, plus prudentes. Mais je continue à penser que la science est la bonne voie pour tenter de comprendre le monde, dans les limites restreintes des questions qu'elle peut approcher.

-- Vous avez écrit un livre sur les limites des mathématiques et par là même contribué à ce que vous considériez à l'instant comme pessimiste. Mais vous affirmez rester un chercheur optimiste et ouvert à de nouvelles vérités. Comment voyez-vous le futur des mathématiques, avec cette notion tellement importante désormais de l'information ?

-- Pour mener des recherches, il est nécessaire d'être très optimiste, on doit toujours aller de l'avant. Je suis optimiste pour l'avenir car par exemple, l'ordinateur est un nouveau concept très fructueux en mathématiques. Mon travail sur l'information et le hasard, qui sont venus d'autres disciplines, montre que ces nouveaux concepts peuvent être utilisés en mathématiques. Le XXe siècle a vu des progrès considérables dans la discipline. Demain, nous utiliserons de mieux en mieux l'ordinateur en tant qu'assistant de recherche. Et nous utilisons déjà de plus en plus le réseau Internet pour communiquer les mathématiques. Vous avez pu consulter mon dernier livre avant sa publication grâce à l'Internet.

Il y a une centaine d'années, on ignorait l'existence de l'électron. Des progrès considérables ont été accomplis, non seulement technologiques mais intellectuels et scientifiques, autour de concepts fondamentaux. Je suis optimiste et j'espère que le XXIe siècle sera scientifiquement aussi riche. Mais de grands risques subsistent, nos démons sont toujours là : les guerres, la pauvreté, et toutes sortes de maux pourraient nous conduire à la catastrophe. Nous sommes tous conscients de ces démons, d'un autre côté, nos possibilités sont immenses... Je crois que ce siècle sera intéressant... Qu'en pensez-vous ?