जुलाई में, जैकब टिमर्मैन, टॉरंटो विश्वविद्यालय के प्रोफेसर, को गणित के सर्वोच्च सम्मान फ़ील्ड्स पुरस्कार मिला। पुरस्कार प्राप्त करते ही, डॉ. टिमर्मैन ने एक पेशेवर मोड़ घोषित किया, अकादमिया से एक अवकाश लेकर और एआई सुरक्षा की ओर अपने अनुसंधान की दिशा बदल दी। वे इस महीने के अंत में Open AI के सुरक्षा विभाग में नौकरी शुरू करेंगे। मंगलवार को, डॉ. टिमर्मैन ने Mathematical A. I. Safety Institute (MAISI) की स्थापना की घोषणा की, एक स्वतंत्र अनुसंधान संस्थान जो Open AI से संबंधित नहीं है। बे-एरिया में स्थित, MAISI जनवरी 2027 में अपने पहले पूरे सेमेस्टर अनुसंधान शुरू करेगा, जिसका उद्देश्य 10 से 30 गणितीयों को रखना है, और अगले शैक्षण वर्ष में काफी अधिक। MAISI के साथ, डॉ. टिमर्मैन, जो वैज्ञानिक निर्देशक के रूप में सेवा करेंगे, एक संदेश शैक्षण समुदाय को देते हैं: "एआई सुरक्षा एक महत्वपूर्ण अनुसंधान क्षेत्र है," उन्होंने टॉरंटो से एक साक्षात्कार में कहा। "यह एक वैध बौद्धिक अन्वेषण है जो रोचक है, उपयोगी है, और वास्तविक प्रगति हो सकती है।"वर्षों के बीते होने पर, आर्टिफिशियल इंटेलिजेंस में विकास के बावजूद, कई गणितीयों ने प्रौद्योगिकी को गंभीरता से नहीं लिया, इसे सॉफ्टवेयर इंजीनियर्स का क्षेत्र मानकर। लेकिन, जैसा कि डॉ. टिमर्मैन ने टिप्पणी की, "इंजीनियर्स केवल ऐसे विचारों को लागू कर सकते हैं जो विकसित किए गए हैं, और हमें नए विचारों की आवश्यकता है।" चूंकि एआई सिस्टम मूल रूप से गणित से बने हैं — रैखिक बीजगणित, कलन, संभाव्यता, सांख्यिकी — उनके साथ और समान विचारों वाले गणितीय एआई सुरक्षा की कुछ समस्याओं को मूलभूत गणितीय समस्याएं देखते हैं। "हमें एआई उद्योग में ऐसी अधिक गणितीय स्पष्टता और सावधानी की आवश्यकता है," एंड्रयू क्रिटच, MAISI के कार्यकारी निर्देशक, एआई अनुसंधाता और गणितीय ने कहा। गणितीय प्रशिक्षण प्राप्त अनुसंधाता एक अवसर देखते हैं जिसमें उन्नत गणित ऐसी चिंताओं को पता लगा सकता है जैसे एआई सिस्टम कैसे इंटरैक्ट और एक-दूसरे के साथ सहयोग करते हैं; एजेंट्स कैसे सत्यापित करते हैं कि वे जिम्मेदारी से व्यवहार कर रहे हैं और आउटपुट सटीक हैं; और एआई सिस्टम कैसे नीचे से ऊपर डिज़ाइन किए जा सकते हैं ताकि वे यहां तक कि वर्तमान में पहचाने न लिए गईं कमजोरियों और जोखिमों के विरुद्ध लचीले हों। डॉ. टिमर्मैन ने एक ऐसे क्रिप्टोग्राफ़ी उपकरण की ओर संकेत किया जिसे शून्य-ज्ञान प्रमाण कहा जाता है — एक गणितीय तरीका जिससे एक सिस्टम के बारे में सत्यापन प्रदान किया जाता है बिना आवश्यकतानुसार अधिक जानकारी प्रकट किए। डॉ. गोल्डवासर एक समान गणित-उन्मुख एआई सुरक्षा संस्थान — जिम्मेदार सुपरइंटेलिजेंस इन्स्टीट्यूट (RESI) — के सह-संस्थापक हैं, जो अगस्त में मैसाचुसेट्स के केंब्रिज में शुरू हुआ। RESI की स्थापना वैज्ञानिक टीम में M.

I. T. क्रिप्टोग्राफर Vinod Vaikuntanathan और हाल ही में Open AI छोड़ने वाले एआई सुरक्षा और नैतिकता अनुसंधाता Adam Tauman Kalai शामिल हैं।.