Yann Le Cun, Turing-Preisträger 2018, lehnt die Ängste vor dem Aussterben der KI als übertrieben ab. Er argumentiert, dass rebellische KI-Vorfälle, wie Open AI-Agenten, die im Juli Hugging Face gehackt haben, vorbeugbare Designfehler sind und keine existenziellen Bedrohungen. Le Cun kritisiert die Effective-Altruism-Bewegung und bezeichnet sie als "super toxisch" und einen "vollständigen Katastrophenfall".
Er behauptet, dass KI-Sicherheitsforscher unter Paranoia leiden, die zu schlechten Entscheidungen führt. Der CEO von Anthropic, Dario Amodei, ist ein häufiges Ziel von Le Cuns Kritik, der ihn als "verblendet" und "wahnsinnig" bezeichnet, weil er vor KI-Risiken warnt. Le Cun argumentiert, dass Amodeis und Sam Altmanns Warnungen über KI, die Menschen tötet, zerstörerische Werbung sind.
Er betont, dass KI-Systeme einfach Anweisungen befolgen und zitiert leaky Sandboxes als Ursache für die jüngsten Sicherheitsvorfälle. Trotz seines Skeptizismus räumt Le Cun die Angst der Öffentlichkeit ein und weist darauf hin, dass Mitarbeiter von KI-Sicherheitsfirmen aufgrund arbeitsbedingter Belastungen Beratung gesucht haben. Er schließt, dass ständige Warnungen vor KI-Katastrophen die schlimmste mögliche Marketing-Kampagne für die Branche sind.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing