2. Der erste Beweis vom 7. Dezember 1873

 In einem denkwürdigen Brief an Richard Dedekind vom 29. November 1873 stellt Georg Cantor die Frage, ob − in späterer Formulierung − die reellen Zahlen abzählbar seien.

Dedekind liefert sogleich einen Beweis der Abzählbarkeit der algebraischen Zahlen, kann aber die Frage von Cantor nicht beantworten; er billigt auch dem Problem keine allzu große Bedeutung zu, mangels praktischen Interesses. In seinem Antwortschreiben vom 2. Dezember bestätigt Cantor Dedekinds Einschätzung, weist aber darauf hin, dass sich aus der Abzählbarkeit der algebraischen Zahlen ein neuer Beweis der Existenz von transzendenten Zahlen ergeben würde, wenn man die Überabzählbarkeit der reellen Zahlen zeigen könnte. Diese einfache Folgerung hat Dedekind übersehen. In seinen privaten Aufzeichnungen über den Briefwechsel mit Cantor notiert er:

 In der Folge kommt es zu einer Verstimmung zwischen Dedekind und Cantor. Dedekind wirft Cantor in seinen privaten Aufzeichnungen vor, seinen Beweis der Abzählbarkeit der algebraischen Zahlen „fast wörtlich“ in der späteren Veröffentlichung von 1874 wiedergegeben zu haben, ohne Referenzen an Dedekind ([ Cantor / Dedekind 1937, S. 18f ]). Andererseits hatte Cantor bereits in seinem ersten Brief vom 29. November die Abzählbarkeit der Menge aller endlichen Tupel (n₁, …, n_k) natürlicher Zahlen erwähnt, aus der sich die Abzählbarkeit der algebraischen Zahlen unschwer ergibt. Möglicherweise war aber der Vorfall der Grund dafür, dass der Briefwechsel zwischen Cantor und Dedekind nach 1874 ins Stocken geriet (vgl. hierzu speziell auch [ Ferreirós 1999, S. 239f ]).

 In seinem Brief vom 2. Dezember schreibt Cantor, dass sich ihm das Problem der Überabzählbarkeit der reellen Zahlen bereits vor mehreren Jahren gestellt habe, er sich aber nie ernsthaft damit beschäftigt hätte. Wie Cantor auf die Frage gestoßen ist, ist nicht bekannt. Einer Überlieferung zufolge hat er bereits als Student die Abzählbarkeit der rationalen Zahlen in einem Seminar von Weierstraß vorgeführt, und dann ist die Frage nach der Abzählbarkeit aller reellen Zahlen nur natürlich (vgl. [ Fraenkel 1930, S. 199 ]). Als eine direkte Inspirationsquelle kommt Cantors Konstruktion der reellen Zahlen über Fundamentalfolgen rationaler Zahlen von 1872 in Frage [ Cantor 1872 ].

 Am 7. Dezember 1873 findet Cantor einen ersten Beweis der Überabzählbarkeit der reellen Zahlen. Keine Geschichte der modernen Mathematik kommt an dieser Entdeckung vorbei, ohne innezuhalten und ihre Bedeutung zu betrachten. Wir werden den Brief vom 7. Dezember gleich vollständig wiedergeben und zu dem Schluss kommen, dass Cantor im Wesentlichen bereits 1873 den Baireschen Kategoriensatz für das Kontinuum bewiesen hat.

 Der weitere Gang der Geschichte ist, im Überblick, folgender. Sowohl Cantor als auch Dedekind finden unabhängig voneinander Modifikationen des Beweises vom 7. Dezember, die ihnen einfacher erscheinen. Dedekind teilt Cantor seinen vereinfachten Beweis brieflich am 8. Dezember mit, doch bereits am 9. Dezember, also wohl noch vor Ankunft seines eigenen Briefes erreicht ihn seinerseits ein Schreiben von Cantor, in dem dieser ebenfalls von einer gefundenen Vereinfachung spricht. Leider teilt Cantor seine neue Version nicht explizit mit. Dedekind notiert in seinen Aufzeichnungen, dass seine vereinfachte Darstellung „ebenfalls [ wie schon sein Beweis der Abzählbarkeit der algebraischen Zahlen ] fast wörtlich in Cantors Abhandlung (Crelle Bd. 77) übergegangen [ ist ] “ [ Cantor / Dedekind 1937, S. 19 ]. Eine Bemerkung in einem Brief von Cantor an Dedekind vom 25. Dezember 1873 hinterlässt den Eindruck, dass sich Cantor in der Tat bei Dedekind bedient hat − und sich gar nicht viel dabei dachte:

 Möglicherweise waren die beiden von Cantor und Dedekind unabhängig voneinander gefundenen Modifikationen des Beweises in der Tat sehr ähnlich. Insgesamt musste es aber Dedekind irritieren, Teile aus seinen Briefen in Cantors Publikation zu finden. Der ganze Vorfall ist um so bedauerlicher, als die veröffentlichte Modifikation aus heutiger Sicht den mathematischen Reichtum des Briefbeweises nicht voll zur Geltung bringt.

 Obwohl also Cantor und Dedekind selber von einem vereinfachten Beweis sprechen, lohnt es sich, auf die erste Quelle zurückzugreifen, bei der sich zudem keine urheberrechtlichen Fragen ergeben. Wir geben den Brief von Cantor an Dedekind vom 7. Dezember 1873 vollständig wieder. Er ist auch heute noch gut lesbar, und der darin vorgestellte Beweis ist aus heutiger Sicht alles andere als „recht compliziert“, wie Dedekind in seinen Aufzeichnungen urteilte. Cantor schreibt  ([ Cantor 1991, S. 35f ], vgl. auch [ Cantor / Dedekind 1937, S. 14f ]):

 Die tragende Struktur dieses Arguments ist die folgende: Wir betrachten Mengen M_n ⊆ ℝ für n  ∈  ℕ (im Brief: M_n = { ωⁱ_n | i  ∈  ℕ }). Gesucht ist eine reelle Zahl x* mit x*  ∉  ⋃_n M_n. Um ein solches x* zu finden, konstruieren wir eine Folge von abgeschlossenen geschachtelten Intervallen I_n positiver Länge mit

I_n ∩ M_n  =  ∅  für alle n

(im Brief: I₁ = [ p … q ], I₂ = [ p′ … q′ ], usw.). Gelingt dies, so ist jedes Element

x*  ∈  ⋂_n I_n (≠ ∅)

wie gewünscht. Die Konstruktion der Intervalle I_n ist aber offenbar möglich, wenn für alle M = M_n folgende Bedingung erfüllt ist:

Die Bedingung (+), die de facto von Cantor zur Konstruktion der Intervallschachtelung benutzt wird, ist heute als M ist nirgendsdicht bekannt. Das Argument von Cantor zeigt klar:

In dieser Form erscheint der Satz in [ Baire 1899, S. 65 ]. In der äquivalenten dualen Form besagt das Ergebnis, dass der Durchschnitt abzählbar vieler offener und dichter Teilmengen von ℝ wieder dicht ist.

 Es ist müßig zu diskutieren, warum Dedekind und Cantor der originale Beweis als kompliziert erschienen ist, und warum sie den vollen mathematischen Gehalt des Arguments nach einer gefundenen Modifikation anscheinend nicht weiter untersucht haben. Sicherlich ist die Briefkonstruktion nicht optimal zugeschnitten für einen Beweis, der möglichst direkt die Überabzählbarkeit von ℝ zeigen will. Sso spielt etwa die Konstruktion der Matrix ω^k_n keine wesentliche Rolle. Wir geben einen solchen Zuschnitt im nächsten Abschnitt. Wie dem auch sei: Der Beweis vom 7. Dezember zeigt den Baireschen Kategoriensatz für das Kontinuum, den Baire erst 1899 veröffentlicht hat.

 Insgesamt können wir den Baireschen Kategoriensatz historisch wie inhaltlich als eine natürliche Verallgemeinerung der Überabzählbarkeit jedes nichtleeren offenen Intervalls I ⊆ ℝ lesen: Die Überabzählbarkeit von I besagt, dass I nicht „klein“ ist im Sinne einer abzählbaren Vereinigung von einzelnen Punkten. Der Bairesche Kategoriensatz besagt stärker, dass I nicht „klein“ ist im Sinne einer abzählbaren Vereinigung von nirgendsdichten Mengen. Das Intervall I ist, wie wir heute sagen, nicht mager.

 Die Isolation und begriffsbildende Analyse der tragenden Bedingungen eines Beweises gilt heute allgemein als ein wichtiger Schritt der mathematischen Erkenntnis, und in keinem Falle soll hier Cantor ein erst viel später in seiner Bedeutung erkannter Satz zugeschrieben werden. Aber wir können Cantor den Beweis des Satzes zuschreiben. Und das Schicksal des Arguments ist bemerkenswert: Cantor veröffentlichte nur eine Variante des Arguments − möglicherweise sogar in Dedekinds Worten. Weiter hat dann das spätere Diagonalverfahren auch diese Variante zumindest soweit verdrängt, dass viele Mathematiker die Beweise von 1873/74 nicht kennen und den Baireschen Kategoriensatz nicht im Zusammenhang mit der Überabzählbarkeit der reellen Zahlen sehen.

 Wir betrachten nun die veröffentlichte Cantor-Dedekind-Variante des Briefbeweises genauer.