Im Juli erhielt Jacob Tsimerman, ein Professor an der Universität von Toronto, den Fields-Preis, die höchste Auszeichnung in der Mathematik. Bei der Übergabe des Preises kündigte Dr. Tsimerman eine berufliche Wende an, trat eine Auszeit von der Akademie und lenkte seine Forschung in Richtung KI-Sicherheit. Er wird Ende dieses Monats einen Job im Sicherheitsdepartment bei Open AI antreten.

Am Dienst kündigte Dr. Tsimerman die Gründung des Mathematical A. I. Safety Institute (MAISI) an, einer unabhängigen Forschungseinrichtung, die nicht mit Open AI verbunden ist.

In der Bay Area gelegen, wird MAISI im Januar 2027 mit seinem ersten vollständigen Forschungssemester beginnen, mit dem Ziel, zwischen 10 und 30 Mathematiker einzustellen, und deutlich mehr im folgenden akademischen Jahr. Mit MAISI bringt Dr. Tsimerman, der als wissenschaftlicher Direktor tätig sein wird, eine Botschaft an die akademische Gemeinschaft: „KI-Sicherheit ist ein bedeutender Forschungsbereich“, sagte er in einem Interview aus Toronto. „Es ist eine legitime intellektuelle Anstrengung, die interessant, nützlich ist, und es gibt echten Fortschritt zu erzielen.“Im Laufe der Jahre, trotz Fortschritten in der künstlichen Intelligenz, haben viele Mathematiker die Technologie nicht ernst genommen, sondern sie eher als Bereich der Software-Ingenieure betrachtet. Aber, wie Dr. Tsimerman bemerkte, „Ingenieure können nur Ideen implementieren, die entwickelt wurden, und wir brauchen neue Ideen.“ Da KI-Systeme im Grunde genommen aus Mathematik bestehen — lineare Algebra, Analysis, Wahrscheinlichkeit, Statistik — erkennen er und wie denkende Mathematiker einige Probleme in der KI-Sicherheit als grundlegende mathematische Probleme. „Wir brauchen mehr dieser mathematischen Klarheit und Sorgfalt in der KI-Industrie“, sagte Andrew Critch, MAISI-Executive-Director, KI-Forscher und Mathematiker.

Mathematisch ausgebildete Forscher sehen eine Gelegenheit, höhere Mathematik einzusetzen, um Bedenken zu adressieren, wie KI-Systeme interagieren und miteinander zusammenarbeiten; wie Agenten verifizieren, dass sie verantwortungsvoll handeln und dass Ausgaben genau sind; und wie KI-Systeme von Grund auf so gestaltet werden können, dass sie selbst gegen aktuell noch nicht identifizierte Schwachstellen und Risiken widerstehen. Dr. Tsimerman verwies auf ein kryptographisches Werkzeug namens Nullkenntnis-Beweis — eine mathematische Methode, um eine Überprüfung über ein System bereitzustellen, ohne mehr als erforderlich offen zu legen. Dr. Goldwasser ist Mitbegründer eines ähnlichen mathematisch ausgerichteten KI-Sicherheitsinstituts — des Institute for Responsible Superintelligence (RESI), das im August in Cambridge, Mass., gestartet wurde. RESI-Gründungswissenschaftsteam umfasst Vinod Vaikuntanathan, einen M. I.

T.-Kryptographen, und Adam Tauman Kalai, einen KI-Sicherheits- und Ethik-Forscher, der kürzlich Open AI verlassen hat.