في يوليو، تلقى جاكوب تسيميرمان، أستاذ في جامعة تورونتو، جائزة فلادس، أعلى جائزة في الرياضيات. عند تلقيه الجائزة، أعلن الدكتور تسيميرمان عن انتقال مهني، أخذ إجازة من الأكاديميا وإعادة توجيه أبحاثه نحو أمان الذكاء الاصطناعي. وسيبدأ وظيفة في قسم الأمان في Open AI في أواخر هذا الشهر. وفي الثلاثاء، أعلن الدكتور تسيميرمان عن تكوين المعهد الرياضي لأمان الذكاء الاصطناعي (MAISI)، مؤسسة بحثية مستقلة غير مرتبطة بـ Open AI. يقع المعهد في منطقة خليج سان فرانسيسكو، ومن المتوقع أن يبدأ أول فصل دراسي كامل له في يناير 2027، بهدف توظيف بين 10 و 30 رياضيًا، وكثير أكثر خلال العام الأكاديمي التالي. مع MAISI، يبعث الدكتور تسيميرمان، الذي سيخدم كمدير علمي، رسالة إلى المجتمع الأكاديمي: "أمان الذكاء الاصطناعي هو مجال بحث ذو معنى," قال في مقابلة من تورونتو. "إنه طلب فكري مشروع يهتم ومفيد، وهناك تقدم حقيقي يمكن تحقيقه."على مدى السنوات، رغم التقدم في الذكاء الاصطناعي، لم يأخذ العديد من الرياضيين التكنولوجيا على محمل الجدل، بل اعتبروها في الأصل مجالًا لمهندسي البرمجيات. لكن، كما لاحظ الدكتور تسيميرمان، "يمكن للمهندسين تنفيذ أفكار تم تطويرها فقط، ونحن بحاجة إلى أفكار جديدة." بما أن أنظمة الذكاء الاصطناعي مصنوعة أساسًا من الرياضيات — الجبر الخطي، والحسبان، والاحتمالات، والإحصاءات — فهو وآخرون من ذوي الرؤى المشابهة يرون بعض المشكلات في أمان الذكاء الاصطناعي كمشكلات رياضية أساسية. "نحن بحاجة إلى المزيد من هذه الوضوح والحذر الرياضي في صناعة الذكاء الاصطناعي," قال أندرو كريتش، مدير تنفيذي في MAISI، باحث في الذكاء الاصطناعي ورياضي. يرون الباحثون الذين تلقوا تدريبًا رياضيًا فرصة للرياضيات المتقدمة لمعالجة القلق من مثل كيف تتفاعل أنظمة الذكاء الاصطناعي وتتعاون مع بعضها البعض؛ كيف يتحقق الوكلاء أنهم يتصرفون بمسؤولية وأن المخرجات دقيقة؛ وكيف يمكن تصميم أنظمة الذكاء الاصطناعي من الأساس لتكون مقاومة حتى للثغرات والمخاطر غير المحددة حاليًا. أشار الدكتور تسيميرمان إلى أداة تشفير تسمى دليل المعرفة الصفرية — وسيلة رياضية لتوفير التحقق من نظام دون الكشف أكثر من اللازم. الدكتورة غولدواسر هي شريك مؤسس لمعهد آخر مشابه موجه نحو الرياضيات لأمان الذكاء الاصطناعي — معهد الاستثمار المسؤول للذكاء الاصطناعي الفائق (RESI) — الذي أطلق في أغسطس في كامبريدج، ماساتشوستس. يشمل فريق العلمي المؤسس لـ RESI، فينود فايكونتاناثان، مشفر M.I.T.، وآدام تاومان كالاي، باحث في أمان وأخلاقيات الذكاء الاصطناعي الذي غادر Open AI مؤخرًا.