中学から高校にかけての数学は一種の脅迫観念にかられて勉強してきたように思う。中学の代数の先生は、竹の鞭を振り回し軍事教練なみに生徒を叱りつけた。私など叱られたときは、おしっこ漏らしそうになった。高校の代数の先生は微分積分を教え始めるまえに、「これは難しいぞ。」とまず脅し、微分、積分の記号を黒板に書きまくった。数学が好きになるわけがない。しかしそんな授業のなかでも中学時代、ある幾何の先生がピタゴラスの定理を教えていたとき次のようなエピソードを話してくれた。
「フランスの数学者フェルマーは、古代ギリシャの数学者ディオファントスの『算術』という数論の本を読みながら、ページの余白に、そこに書かれている定理についての証明や彼の考えを記述していた。しかし、次の定理については、『余は真に驚くこの証明を得たが、それを記述するにはこの余白はあまりにも狭すぎる。』という意味のことばを残したのみで終わっていた。 『nが2より大きい自然数であれば、 Xn+Yn=Zn を満たす自然数X,Y,Zは存在しない。』 nが2であればピタゴラスの定理、X2+Y2=Z2である。彼の時代を含む後年の大数学者たちは「算術」の余白に残された彼の証明の検証や彼の考えの証明を行ったが、この定理の証明だけは現在(1960年)まで、誰も証明できていない。だからフェルマーの最終定理と呼ばれている。」
この話はなぜか後年まで心の片隅に残っていが、素人からみてもこの定理の証明をしたところで世の中の役に立つものだとは到底思えない。ピタゴラスの定理のほうが、土地測量などよっぽど役に立っている。とはいえ、フェルマーがこのメモを残したのが1637年である。私が初めてこの話を聞いた1960年には約320年の悠久の時間が流れていた。そして、アメリカのプリンストン大学の教授であったイギリス人の数学者アンドリュー・ワイルズがこの定理の証明をしたのが1994年10月、証明が誤っていないことが他の数学者たちから確認されたのが1995年5月であったからこの定理は358年目に証明されたことになる。
1997年にイギリス人Simon Singhという人が著した"Fermat's Last Theorem"(「フェルマーの最終定理」青木薫 訳、新潮社)によると、アンドリュー・ワイルズが町の図書館でこの「謎」に出会い必ず解いてみせると心に誓ったのは10歳のときだという。「17世紀の学者が証明できたことが20世紀の10歳の僕にできないはずがないと思った。」という。10歳の少年が生涯の目的を定めしかもそれを実践したという事実にだけで彼の偉大さを知るのに十分である。仮に彼が死ぬまでこの定理を証明できなかったとしても彼は十分に偉大であっただろう。逆に言うと、42歳で生涯の夢を実現してしまった彼はその空虚感を味わったという。
アンドリュー・ワイルズがこの定理を証明するまでの約360年の間には、幾多の天才たちが直接的、間接的にこの謎解きに苦悩し、狂気して創造してきた様々な理論と歴史の蓄積があった。真摯な数学者にとってはこの苦悩と狂気はもちろん数学者としての名誉のためである。さらにフェルマーの本職が法律家であり、彼は「アマチュア数学家」だったことが後世のプロの数学家の挑戦心を掻き立てたのかもしれない。しかしこの「謎解き」に巨額の賞金が懸けられると、アマチュア数学家も含め多くの人たちがこの謎解きに参加したという。
1700年代後半、スイスの天才数学者オイラーはn=3の場合について証明した。1825年ディリクレとルジャンドルはn=5の場合について証明した。おなじディリクレは1832年にn=14の場合について証明した。ラメは1839年にn=9の場合について証明した。しかし、これらの個別の数の場合の証明を繰り返したところでこの定理の証明にはならないことは彼ら数学者自身が承知しているところである。1900年代後半に発達したコンピューターにより1994年初めには400万以下のnについてフェルマーの最終定理が正しいことが「計算」されている。しかし、数値的な計算を何億回繰り返しこの方程式を満たすX、Y、Zがないことを示してもこの定理が証明されたことにはならない。10億回の計算でフェルマーの最終定理が証明された後で、10億1回目でX、Y、Zを満たす自然数が見つかるかもしれないからである。
数学の証明は、私のような素人にはある意味で屁理屈に見えることがある。アンドリュー・ワイルズが使った論理も私にとっては一種の屁理屈のような論理だった。つまり、「『nが2より大きい自然数であるとき、Xn+Yn=Znを満たす自然数X,Y,Zが存在するとすれば、』すでにある定理と矛盾する。この矛盾はXn+Yn=Znを満たす自然数X,Y,Zが存在すると仮定した事に因る。よってこの仮定は誤りであり、これらの自然数X,Y,Zは存在しない。証明終わり。」となる。しかし、この屁理屈は数学の世界ではスーパーコンピューターによる何億回の計算より強力な説得力があるという。この屁理屈を数学の世界で背理法という。
世の中の発見なり発明は、神様から見れば必然の道であっても、人間の目から見ればいわゆる偶然によるところが多々ある。1975年からアンドリュー・ワイルズがケンブリッジ大学の大学院での専門分野として「楕円曲線方程式」といわれる数論の分野を専攻したのはその偶然のひとつだったかもしれない。それより25年前に、遠く離れた日本で当時としては流行遅れだったモデュラー形式という数論の分野の研究を始めた谷山豊、志村五郎という若き数学者が東大にいた。谷山助教授は1950年代後半、当時まったく異なる数学の領域と考えられていた「楕円曲線方程式とモデュラー形式は同じものではないか」という仮説を発表し世界の数学界に衝撃を与えた。その直後、谷山助教授はなぞの自殺をする。プリンストン大学に招かれた志村教授はこの仮説を補強する証拠を次々とあげ、世界の数学者もこの仮説をかなり確かなものと思い始める。こうしてこの仮説はまだ証明されていない定理という意味の「予想」という言葉を付けられて「谷山・志村」予想と呼ばれるようになった。
1984年にドイツ人数学者ゲルハルト・フライは、「フェルマーの方程式に解があるとするとその解はある楕円曲線方程式になる。しかし、この楕円曲線方程式はあまりに異常でモデュラー形式に結びつきそうにない。」ことを発表した。ここで一挙にフェルマーの最終定理と「谷山・志村」予想との関連が脚光を浴びることになる。もし「谷山・志村」予想が証明されると次のような背理法でフェルマーの最終定理が証明されることになるからである。
@ フェルマーの方程式に解があるとするとそれはある楕円曲線方程式で表現できる。
A しかしこの楕円曲線方程式はモデュラー形式と関連づけられない。
B したがって、「谷山・志村」定理(証明されたものとして)と矛盾する。
C この矛盾はフェルマーの方程式には解があると仮定したことに因る。よってこの仮定は誤りであり、フェルマーの方程式には解がない。 証明終わり。
残念ながらゲルハルト・フライはAの部分を厳密に証明していなかったが、1986年に、カルフォルニア大学バークレーキャンパスのケン・レベット教授が、「フェルマーの方程式に解があるとした場合に導かれる楕円曲線方程式はモデュラー方程式と関連づけられない。」ことを完全に証明した。この段階で、「谷山・志村」予想を証明できれば、フェルマーの最終定理が証明されることが明確になった。これ以降、アンドリュー・ワイルズは自宅の屋根裏部屋の書斎に7年間閉じこもり「谷山・志村」予想の証明に没頭することになる。そして1993年6月23日にケンブリッジのニュートン研究所において世界有数の数論研究者をまえにして「ここで終わりにしたいと思います。」という言葉で歴史的な講演を終える。しかし、レフェリーとなった数学者の検証で重大な論理の欠陥が発見される。それから1年と数ヶ月の間、彼は苦悩のなかでこの論理の欠陥を修復し、1994年9月19日に最終的に証明を完成させる。
アンドリュー・ワイルズの証明をすべて理解できるのは世界の先端の数学者の10%程度だという。プリンストン大学名誉教授である志村五郎氏は、「谷山・志村」予想を証明されたあと感想を求められると、静かに、「だから言ったでしょう。」と答えたという。こうして何世紀にもわたり人類の最高の頭脳に挑戦してきた「謎」が解明された。しかしまだ「謎」は残る。「フェルマーはほんとに証明したのか?」という。