7月、ジョコブ・ツィマーマン、トロント大学の教授、数学の最高栄誉であるフィールズ賞を受賞しました。受賞に際し、ツィマーマン博士はプロフェッショナルな転向を発表し、学界を離れてAI安全研究に専念することを決意しました。彼は今月末にOpen AIの安全部署で就職する予定です。火曜日、ツィマーマン博士は、Open AIとは無関係の独立した研究機関であるMathematical A. I. Safety Institute（MAISI）の設立を発表しました。MAISIはベイエリアに位置し、2027年1月に最初の研究学期を開始する予定で、10〜30人の数学者を採用する計画です。さらに、翌学年にはそれ以上の採用を予定しています。MAISIを通じて、ツィマーマン博士（科学ディレクターを務める予定）は学術界にメッセージを送ります：「AI安全は意義のある研究分野である」と、トロントからのインタビューで述べました。「それは興味深く、有用な正当な知的追求であり、実際の進歩を遂げることができます。」年を重ねる中で、AIの進歩にもかかわらず、多くの数学者はこの技術を真剣に受け取っていませんでした。彼らはそれをソフトウェアエンジニアの領域と考えていました。しかし、ツィマーマン博士は指摘しました：「エンジニアは開発されたアイデアを実装することしかできません。新しいアイデアが必要です。」AIシステムは根本的に数学から成り立っているため（線形代数、微積分、確率論、統計学）、彼と同志の数学者たちはAI安全の問題の一部を根本的な数学問題として捉えています。「AI業界により多くのこのような数学的明晰性と慎重さが必要です」と、MAISIの執行理事であるアンドリュー・クリッチ、AI研究者兼数学者は述べました。数学的訓練を受けた研究者たちは、AIシステムがどのように相互作用し協力するか、エージェントが責任を持って行動しており、出力が正確であることを検証する方法、そしてAIシステムを基底から設計して、現在特定されていない脆弱性やリスクに対しても回復力を持たせる方法など、様々な問題に対処するための高度な数学の機会を見出しています。ツィマーマン博士は、ゼロ知識証明と呼ばれる暗号学的ツールを指摘しました。これは、システムについての検証を提供する数学的方法であり、必要以上の情報を明かすことなく行います。ゴールドワッサー博士は、同様の数学指向型AI安全研究所であるInstitute for Responsible Superintelligence（RESI）の共同創設者であり、2023年8月にマサチューセッツ州ケンブリッジで設立されました。RESIの創設科学チームには、M.

I. T.の暗号学者ビノード・ワイクンタナサンと、最近Open AIを退職したAI安全および倫理研究者アダム・タウマン・カライが含まれています。.