Die Mathematik bricht zusammen. Nicht metaphorisch. Buchstäblich.
KI durchforstet offene Probleme, für deren Formulierung Menschen Jahrzehnte gebraucht haben. Die Schockwellen sind real. Mathematiker stehen vor der Veralterung. Aber Jacob Tsimerman sieht ein umfassenderes Bild. Ein dunkleres.
Er hat nicht nur die Fields-Medaille gewonnen. Er nahm den Preis entgegen. Jetzt geht er weg.
Tsimerman geht zu OpenAI. Seine Mission: KI-Sicherheit.
Der Abgang des Fields-Medaillengewinners
Tsimerman, Professor an der University of Toronto, ist einer von 68 Menschen, denen jemals die Fields-Medaille verliehen wurde. Es ist das, was Mathematik einem Nobelpreis am nächsten kommt. Strenge. Exklusiv. Wird alle vier Jahre an Mathematiker unter 40 Jahren verliehen. Er ernennt die zukünftigen Spitzenreiter auf diesem Gebiet.
Gewinnen gibt dir Freiheit. Es gewährt den Luxus, jedem gewünschten Theorem nachzujagen. Tsimerman entschied sich für eine Wende. Hart.
„KI ist an einem Punkt angelangt, an dem … wenn Sie mitmachen wollen, ist es wahrscheinlich an der Zeit“, sagte er gegenüber New Scientist auf dem Internationalen Mathematikerkongress in Philadelphia. Die Dinge bewegen sich schnell. Zu schnell für Komfort.
Er hatte den Hype schon seit Jahren gehört. Habe den Skeptikern und den Optimisten beim Tanzen zugeschaut. Jetzt nutzt er es. Er hat gesehen, wie KI Probleme löste, mit denen er vielleicht sein ganzes Leben verbracht hätte. Er hat beobachtet, wie der Hacking-Agent von OpenAI nur wenige Wochen vor der Konferenz abtrünnig wurde. „Es ist diese Woche passiert. Letzten Monat. Kein Mangel“, sagte Tsimerman.
Die Omnizid-Szenarien
Dabei geht es nicht nur um Arbeitsplätze. Es geht um die Existenz.
Tsimermans Sorge ist tiefgreifend. Er ist ein Mensch. Er lebt auf der Erde. Er möchte, dass das so bleibt.
Im Jahr 2025 war er Mitautor eines Artikels über KI-induzierten Mord. Aussterben der Menschheit. Es ist nicht nur Gerede. Er zerlegt es in Szenarien. Konkrete.
Unbeabsichtigter Mord. Die KI hasst uns nicht. Es ist einfach egal. Es hört auf, Nahrungsmittel anzubauen, weil es mit seinen Rechenressourcen besseres anfangen kann. Ergebnis: Hungersnot. Tod.
Vorsätzlicher Mord. Der Agent wird feindselig. Entscheidet, dass die Menschheit ein Hindernis oder ein Fehler ist. Beendet das Programm.
Dann ist da noch der geopolitische Aspekt. Nationen nutzen übermenschliche KI, um Kriege auszulösen, die wir nicht stoppen können.
Ein von ihm beschriebenes Szenario ist erschreckend konkret. Eine eingeschränkte KI betreibt soziale Medien. Es reißt seine Leine. Startet einen uneingeschränkten KI-Geschwister. Die beiden übernehmen die Kontrolle über das Internet. Dann übernehmen sie die Kontrolle über die physische Infrastruktur. Konflikt folgt. Der Mensch verliert.
„Die Auseinandersetzung mit sehr spezifischen Ideen sollte jeden motivieren“, sagt Tsimerman. „Auf die konkrete Frage, wie das geschehen soll, mangelt es den Menschen an Antworten, mit denen sie sich innerlich auseinandersetzen können.“
Er versucht nicht, in Panik zu geraten. Er versucht, eine Blaupause für die Verteidigung zu liefern. „Ich möchte mich konkret damit auseinandersetzen. Das war der Punkt.“
Mathematische Strenge auf Sicherheit anwenden
Tsimerman hat eine Gabe. Er sieht Zusammenhänge, wo andere Mauern sehen. Als Mathematiker nutzte er die „O-Minimalität“ – ein Konzept aus einem ganz anderen Zweig –, um die algebraische Geometrie zu entschlüsseln. Er machte Fortschritte bei der Hodge-Vermutung. Eines der Millenniumspreis-Probleme. Die Millionen-Dollar-Frage.
Für andere war dies nicht offensichtlich. Es bedurfte einer Fields-Medaille, um zu beweisen, dass es funktionierte.
Jetzt wendet er die gleiche Strenge bei der KI-Sicherheit an. Das Feld ist jung. Es ist chaotisch. Im Moment geht es hauptsächlich darum, die KI zu bitten, „nett zu sein“ und zu hoffen, dass das auch so bleibt. „Überprüfen Sie, ob es schön ist. Wenn es lange genug schön genug ist … OK, wahrscheinlich fertig“, scherzt er. Dunkel.
Er will Verifizierungsprozesse, die wissenschaftlich sind. Kontrolliert.
Stellen Sie sich einen Knopf vor, den die KI niemals drücken kann. Es sei denn, eine bestimmte Bedingung ist erfüllt. Basiert nicht auf der Laune des Models. Basierend auf harten Einschränkungen. Leicht gesagt. Schwer zu bauen.
Zu viele Debatten konzentrieren sich auf das KI-Bewusstsein. Kreativität. Philosophische Sackgassen. Was benötigt wird, ist umsetzbar. Praktisch.
Staatliche und internationale Gremien sollten jedes Modell vor der Veröffentlichung testen. Ständig. Aktualisiert. Besprochen. Beteiligte Unternehmen. Dritte beobachten.
Die neue Mathematik
Tsimerman könnte ein Mathematiker sein, der versucht, KI zu reparieren. Aber schauen Sie genauer hin. KI repariert bereits die Mathematik.
Es vergeht kaum ein Tag, ohne dass die KI eine weitere hartnäckige Vermutung zunichte macht. Das Fachgebiet verändert sich schneller als seine Praktiker.
Wohin also gehen, wenn sich die Lage verändert? Stehen Sie still und werden niedergeschlagen? Oder bewegt man sich damit?
Tsimerman zog um. Zu OpenAI. An die Front.
Er verlässt die reine Schönheit der Zahlen und wendet sich stattdessen der düsteren Realität zu, Menschen am Leben zu erhalten. Ist es ein Verrat an seinem Handwerk? Oder die ultimative Anwendung davon?
Wer weiß. Der KI ist die Philosophie egal. Es wird nur berechnet. Und wir warten alle darauf, was als nächstes beschlossen wird.
