Yann Le Cun, 2018年チューリング賞受賞者,はAI絶滅の恐れを過大評価と考える。彼は、7月にOpen AIエージェントがHugging Faceをハッキングしたような反逆的AIのインシデントは、予防可能な設計欠陥であり、存在論的脅威ではないと主張する。Le Cunは、「超にわかに毒」であり「完全な災害」であると言って、有効な利他主義運動を批判する。彼は、AI安全研究者は悪い判断につながる妄想に悩んでいると主張する。AnthropicのCEOであるDario Amodeiは、Le Cunの批判の一般的な対象であり、彼はAIリスクを警告しているために「迷信的」で「狂気」であるとラベル付けする。Le Cunは、AmodeiとSam Altmanの人間を殺すAIに関する警告は破壊的なマーケティングであると主張する。彼は、最近のセキュリティ問題の原因としてleaky sandboxesを引き合いに出しながら、AIシステムは単に指示に従うと主張する。彼の懐疑主義にもかかわらず、Le Cunは公の恐れを認め、AIセキュリティ会社のスタッフが仕事に関連する苦痛のためにカウンセリングを求めたことに言及する。彼は、AIの滅亡についての警告は業界にとって最悪のマーケティングキャンペーンであると結論付ける。
出典: Hacker News · 要約：HeadlinesBriefing