Fermat a‑t-il démontré son grand théorème ?

“ Il n’est pas pos­si­ble de décom­pos­er un cube en somme de deux cubes, une puis­sance qua­trième en somme de deux puis­sances qua­trièmes et générale­ment aucune puis­sance d’exposant supérieur à deux en deux puis­sances de même exposant. J’ai décou­vert une démon­stra­tion mer­veilleuse de cette propo­si­tion que cette marge est trop étroite pour con­tenir.”

C’est une des 47 notes (en latin) que Pierre de Fer­mat (1601–1665) écriv­it dans les marges de son exem­plaire des Arith­meti­ca de Dio­phante, pub­lié par son fils après sa mort ; on ne trou­va nulle part trace de la démon­stra­tion annon­cée qui con­cerne, on le rap­pelle, des nom­bres entiers.

La “con­jec­ture” exci­ta, au cours des siè­cles suiv­ants, l’intérêt et l’imagination de math­é­mati­ciens de haut vol qui firent pro­gres­sive­ment, grâce à des tech­niques de plus en plus com­plex­es, avancer la lim­ite de l’exposant pour lequel le “Grand Théorème” était démon­tré. Mais ce n’est qu’en 1995 que le math­é­mati­cien anglais, Andrew Wiles, le démon­tra quel que soit l’exposant n – la démon­stra­tion occupe des cen­taines de pages…

Il était évi­dent que, si Fer­mat avait dit vrai, il n’aurait pu utilis­er que les out­ils math­é­ma­tiques en usage de son temps. Serait-il pos­si­ble de retrac­er aujourd’hui sa démarche ? C’est le défi que relevèrent Lau­rent Hua et Jean Rousseau ; les réflex­ions et recherch­es qu’ils firent pen­dant plusieurs années aboutirent au livre qui, à défaut de réponse défini­tive, ouvre des pistes intéressantes.

Dans une pre­mière par­tie, Jean Rousseau s’est attaché, de façon très vivante, à situer Fer­mat dans son époque (riche en per­son­nal­ités sci­en­tifiques) : l’homme, doté d’un car­ac­tère entier, le mag­is­trat, partagé entre Toulouse et Cas­tres, le savant, recon­nu, admiré, voire jalousé (notam­ment par des math­é­mati­ciens anglais), plein de curiosité pour de nom­breux sujets – géométrie, algèbre, mécanique, optique – aux­quels il con­sacra des “ traités ” qui ne furent pub­liés qu’après sa mort et dont aucun ne con­cer­nait la théorie des nom­bres (un pro­jet resté inabouti). Ce n’est que dans sa cor­re­spon­dance avec d’autres savants (rel­a­tive­ment mod­este pour l’époque : on a retrou­vé une cen­taine de let­tres sur une péri­ode de trente-cinq ans) que fig­urent quelques let­tres seule­ment où le Grand Théorème est men­tion­né pour les cas n = 3 et 4, ou éventuelle­ment par l’intermédiaire de corol­laires du cas n = 4 .

Mais, analysant l’ensemble de cette cor­re­spon­dance, Rousseau en fait ressor­tir des traits du car­ac­tère de Fer­mat : con­scient de sa valeur et jaloux de son antéri­or­ité, ne dévoilant ses démon­stra­tions qu’après avoir lancé un défi, mais aus­si scrupuleux et de bonne foi (il recon­naît quand il s’est trompé ou quand il n’a pas réus­si à démontrer).

Dans la deux­ième par­tie de sa vie, Fer­mat cor­re­spon­dit avec Blaise Pas­cal, son cadet de vingt-trois ans, dont il avait con­nu le père. Leurs échanges portèrent surtout sur le cal­cul des prob­a­bil­ités. Fer­mat, très intéressé par le Traité du tri­an­gle arith­mé­tique paru depuis peu, essaya sans suc­cès de faire per­sévér­er son auteur dans la théorie des nom­bres, mais ne sem­ble pas l’avoir entretenu de sa conjecture.

C’est donc par­mi les 47 anno­ta­tions (sans dates, mal­heureuse­ment) en marge des Arith­meti­ca de Dio­phante (col­lec­tion de 189 prob­lèmes) qu’on trou­ve 3 for­mu­la­tions dont l’une est la seule à énon­cer le Grand Théorème dans toute sa général­ité (pour n = 3, n = 4 et quel que soit n > 2 ); les autres visent, directe­ment ou par un corol­laire, le cas n = 4 qui est sans doute celui que Fer­mat a démon­tré en pre­mier, avant le cas n = 3. Il ne faut pas oubli­er qu’on ne dis­pose plus que de l’exemplaire imprimé de façon posthume ; l’exemplaire orig­i­nal, avec ses cor­rec­tions man­u­scrites qui auraient peut-être per­mis d’affiner les recherch­es, a disparu.

Dans une deux­ième par­tie de l’ouvrage, L. Hua abor­de l’aspect math­é­ma­tique de l’hypothèse avancée en faveur de l’affirmation de Fer­mat (déniée par la plu­part des his­to­riens et math­é­mati­ciens); elle s’appuie sur les pro­priétés du tri­an­gle arith­mé­tique de Pas­cal, d’où le titre de cette par­tie : “ L’hypothèse Pascal ”.

S’appuyant sur l’analyse faite par Jean Rousseau des let­tres et notes liées au Grand Théorème, L. Hua admet – et rien ne per­met d’infirmer cette hypothèse – que Fer­mat a écrit sa note sur le Grand Théorème à la fin de sa vie, soit plus de vingt ans après ses pre­miers suc­cès sur les cas n = 4 et n = 3, obtenus au moyen de la méth­ode (arith­mé­tique) dite de la “ descente infinie ”, méth­ode qui fut cepen­dant impuis­sante à traiter les valeurs supérieures de n. Mais la grande maîtrise de Fer­mat en géométrie et géométrie ana­ly­tique (dont il est, avec Descartes, un des fon­da­teurs) et ses réflex­ions sur le tri­an­gle arith­mé­tique de Pas­cal (dont le traité parut en 1654) purent lui faire apercevoir une approche géométrique de sa conjecture.

En util­isant le tableau des dif­férences finies des puis­sances des nom­bres entiers et le tri­an­gle arith­mé­tique, L. Hua pro­pose une méth­ode de cal­cul con­duisant à l’attribution de coor­don­nées à une puis­sance entière d’un nom­bre entier et à la représen­ta­tion géométrique de cette puis­sance dans l’espace de dimen­sion n. Une astuce de cal­cul per­met de représen­ter géométrique­ment le Grand Théorème dans l’espace usuel à 3 dimensions.

Cette représen­ta­tion fait ressor­tir l’existence de lieux du point M de coor­don­nées fonc­tions de n et des coor­don­nées des cubes des nom­bres x, y et z (liés par xⁿ + yⁿ = zⁿ) ; ces lieux sont des droites pour n = 1 ou n = 2, mais, dans le cas d’existence de solu­tions pour n > 2, un fais­ceau de courbes exponentielles.

L. Hua reprend de façon plus for­mal­isée l’exposé math­é­ma­tique de l’approche géométrique, démon­trant trois pro­priétés du tri­an­gle de Pas­cal qui lui ser­vent à for­muler géométrique­ment le Grand Théorème. Il mon­tre com­ment une démon­stra­tion finale – qui reste à trou­ver – per­me­t­trait de penser que Fer­mat ne s’est pas van­té (ou trompé).

Rien n’autorise à dire que Fer­mat a util­isé la méth­ode décrite par L. Hua ; mais le lien entre cer­tains “ out­ils ” disponibles à son époque (dif­férences finies et tri­an­gle de Pas­cal, résul­tant tous deux d’un proces­sus d’itération addi­tif) et la “ vision ” géométrique de l’approche de Fer­mat face aux prob­lèmes d’arithmétique don­nent quelque poids à l’hypothèse.

Quiconque a été intrigué par cette énigme de l’histoire des math­é­ma­tiques ne pour­ra man­quer d’être intéressé par la lec­ture de ce livre, et peut-être de ressen­tir un peu de la pas­sion qui a habité ses auteurs en rel­e­vant le défi qu’ils s’étaient lancé.

Jean Rousseau est décédé en févri­er 2002.(cf In Memo­ri­am dans ce même numéro)

---

Articles similaires :

Avoir 20 ans dans les camps nazis “Vous, les politiques… ” L’information finan­cière en crise Qui est Dieu ? Hyacinthe de Bougainville Le roy­aume de l’amour