Können wir einer von mir überprüften Mathematik vertrauen? Ein Mathematiker mahnt zur Vorsicht
In einem Gastbeitrag im Blog von Terence Tao erklärt Thomas Hales, wie der Lean-Proof-Checker funktioniert, warum 2026 mehrere schwerwiegende Fehler mit sich brachte und warum Menschen immer noch KI-erstellte formale Beweise prüfen müssen.
Mathematiker beginnen, sich auf KI zu stützen, um Beweise in eine Form zu bringen, die ein Computer prüfen kann. Ein Gastbeitrag von Thomas Hales auf dem Blog von Terence Tao, veröffentlicht am 9. Oktober, stellt die unscheinbare, aber wichtige Frage: Wie sicher sind wir, dass der Prüfer selbst richtig ist?
Die Idee im Klartext
Es wird ein formaler Beweis geschrieben, damit die Software jeden Schritt bis hin zur grundlegenden Logik überprüfen kann. Lean, das unter Mathematikern beliebteste Werkzeug dieser Art, führt die letzte Prüfung in einem kleinen Kernprogramm namens Kernel durch, das einige tausend Zeilen lang ist. Seine gemeinsam genutzte Bibliothek Mathlib enthält fast 300.000 Theoreme. Hales sagt, dass die „Autoformalisierung“ der KI, bei der ein Modell ein Papier in einen formalen Beweis umwandelt, im Jahr 2026 praktikabel wurde. Seine Regel ist einfach: Glauben Sie einem Beweis nicht, bis der Kernel ihn akzeptiert, und lassen Sie einen Menschen überprüfen, ob die Definitionen sagen, was sie sagen sollen. Diese zweite Prüfung ist in der Regel viel einfacher als die Prüfung des Beweises selbst.
Die Sorge sind Insekten. Ein „Stabilitätsfehler“ lässt ein System etwas Falsches beweisen, was den ganzen Punkt zunichte macht. Laut Hales hatte Lean im Jahr 2026, das er den „Sommer von Soundness Bugs“ nennt, mehrere davon. Einer hat sogar eine falsche Widerlegung der berühmten Collatz-Vermutung vorgelegt. Die meisten wurden von KI-Tools in den Händen von Sicherheitsforschern gefunden und alle repariert.
Was steckt dahinter
Warum ist das über die Mathematik hinaus wichtig? Diese Woche hat OpenAI Hunderte von KI-geschriebenen Artikeln veröffentlicht, und nur etwa ein Fünftel hat ein Lean-geprüftes Hauptergebnis. Die formale Überprüfung ist die beste Antwort auf die Frage „Hat die KI es wirklich bewiesen?“, daher ist ihre Vertrauenswürdigkeit sehr wichtig. Hales beschreibt drei Sicherheitsvorkehrungen: die Verwendung vieler unabhängiger Kernel (es gibt etwa 25) zur Gegenprüfung, die formale Überprüfung des Kernels selbst und die Verbesserung der zugrunde liegenden Theorie. Er stellt fest, dass einige Grundlagen noch unbewiesen sind und es noch keinen vollständigen öffentlichen Konsistenzbeweis für Leans Typentheorie gibt. Er übernimmt auch eine Warnung aus der Computergeschichte: Eine KI könnte im Prinzip einen Fehler verbergen, den Menschen übersehen, und er könnte sich in verifizierter Software ausbreiten, die kritische Systeme schützt. Er sagt, die der KI überlassene Grundlagenarbeit sei „gefährlich“, wenn sie nicht sorgfältig von Menschen geprüft werde.
Was das für Sie bedeutet: Für die meisten Menschen ändert sich nichts, und das ist in Ordnung. Diese Erkenntnis ist eine Gewohnheit, die es wert ist, bei jeder KI-Ausgabe beibehalten zu werden: Ein Prüfer ist nur so gut wie das Ding, das ihn überprüft, und die Frage „Wer hat den Prüfer überprüft?“ stellt sich. ist gesund. Wenn Sie die Schlagzeilen von AI for Science verfolgen, achten Sie darauf, ob ein Anspruch offiziell geprüft, unabhängig reproduziert oder nur bekannt gegeben wird. Wenn Sie KI für Code oder Analysen verwenden, gilt die gleiche Logik: Führen Sie die Tests durch und lesen Sie die Teile, die definieren, was „richtig“ bedeutet.
Quellen
ChatGPT antwortet jetzt mit Schaltflächen, Diagrammen und Mini-Apps
OpenAI führt GPT-6 mit Intelligent UI für alle ein, auch für kostenlose Benutzer. Statt nur Text kann ChatGPT jetzt antippbare Tools, Diagramme und Formulare innerhalb der Konversation erstellen.
