AGIや新たな能力に関する大げさな主張は、精査の下で崩れ去る。4月、Anthropicは自社モデルClaude Mythosがソフトウェア脆弱性の発見においてほとんどのセキュリティ専門家より優れていると主張した。その後、Open AIとHugging Faceのハッキング事件が起き、AnthropicとMetaも同様の事件を開示した。Anthropicは数学的突破を主張し、Open AIも同様に主張した。AnthropicのエンジニアJacob Coxonは退社を発表して話題となり、「企業は自己改善する超知能へまっしぐらに突き進み、私たちの命を賭けている」と述べた。報道はこれらを息もつかせぬ勢いで取り上げ、ソフトウェアを初期段階のAGIとして描くために設計された擬人化した枠組みを繰り返した。

専門家が実際に何が起きたかを検証すると、別の物語が浮かび上がる。サイバーセキュリティの専門家は、ハッキング事件はOpen AIの怠慢と基本的なセキュリティ慣行の不採用に関するものであり、モデルが暴走したわけではないと述べている。数学者たちは、Open AIがチャットボットAstraが10年来の問題を解決したと主張したことに当初驚愕したが、後にその結果が新規ではないと気づいた。彼らは同社を研究不正と盗用で非難し、Astraは深遠な知的飛躍を遂げていないと述べた。数週間後、Open AIは自らの突破を主張した。その2日前、NYUのCourant InstituteのTristan Buckmasterは、Open AIが他者の成果を盗み、不適切に帰属させたと示唆する声明を発表した。

初期段階の超知能に関する主張は、優れた科学に基づくものではなく、トランスヒューマニズム、優生学、願望的思考に基づいている。数学とコーディングは人類の達成の頂点として持ち上げられ、検証可能な答えを可能にするため、システムをそれらに合わせて調整しやすくなる。数百人の数学者が、能力を誇張する商業的インセンティブについて警告し、政策立案者にプレスリリースではなく専門家に相談するよう求める声明に署名した。私たちもこの呼びかけに賛同する。

主要な実体：企業：Anthropic、Open AI、Hugging Face、Meta | 人物：Stephanie Arnett、Jacob Coxon、Tristan Buckmaster | 場所：New York University、Courant Institute

FAQ：AGIと突破に関する最近のAIの主張は信頼できるか？

いいえ。専門家はハッキング事件がOpen AIの怠慢を反映していると述べ、数学者たちはOpen AIが主張した突破が新規ではないと発見し、同社を不正行為で非難した。初期段階の超知能に関する主張はイデオロギーに基づくもので、科学に基づくものではない。