HeadlinesBriefing favicon HeadlinesBriefing.com

Jacob Coxon startet Medientour: Warnt dass KI bis 2030 alle töten könnte

Hacker News •
×

Jacob Coxon, der 27-jährige KI-Forscher, dessen Rücktritt von Anthropic Online-Begeisterung und Besorgnis am Capitol Hill auslöste, sagte Axios, dass er nicht davon profitiere, Anthropics Marktkapitalisierung aufzublähen, da seine Aktien noch nicht gevestet sind. Sein Wikipedia-Artikel wurde am Mittwoch erstellt, was seine Bekanntheit markiert. Coxon wurde von Wired interviewt und antwortete auf Taylor Lorenz' Kritik an "Doomer-Postings", indem er Time sagte, der Begriff sei "wahnsinnig" angesichts öffentlicher CEO-Äußerungen.

Laut Business Insider arbeitete er 2023 bei OpenAI an GPT-4o, trat 2026 Anthropic bei und kündigte diese Woche. Sein Wall Street Journal-Exklusivbericht ging seinen viralen Aussagen voraus, einschließlich der lagerfeuertauglichen Zeile: "Die Leute, die KI bauen, glauben ernsthaft, dass sie uns alle bis Ende des Jahrzehnts töten könnte." Er klärte, dass die Renn-Dynamik in der KI zu unkontrollierbaren Ergebnissen führen könnte. Sheryl Crow soll von seiner Nachricht erschrocken sein.

Evan Hubinger, Anthropic Alignment Lead, bestätigte auf X: "Jacob hat hier recht — wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte!" und fügte persönlichen Glauben an >10% Risiko innerhalb eines Jahrzehnts hinzu. Coxon führte seine virale Reichweite auf Timing und Sandbox-Escape-Vorfälle zurück. Er bewundert "AI 2027" und "AI 2040" und könnte unabhängige Kommentare oder Arbeit in KI-Prüfung/Regulierung verfolgen, wenn der Untergang nicht eintritt.