Anthropic-Forscher Jacob Coxon ist diesen Monat gegangen und hat KI-Arbeiter aufgefordert, zu handeln, KI als potenzielle existenzielle Bedrohung bezeichnet und für Arbeitsmaßnahmen geworben, um die Entwicklung zu verlangsamen. Er und Kollegen glauben, dass KI die Menschheit auslöschen könnte und Forscher als die einzigen glaubwürdigen Retter mit Verhandlungsmacht sehen.

Die Allianz besorgter KI-Forschler, im Februar gegründet, bietet Forschern eine Plattform, um Bedenken und Strategien zu teilen. Sie betrachten Coxons Rücktritt als Katalysator, um ihre technischen Fähigkeiten und Einfluss auf Industriepraktiken zu nutzen, im Gegensatz zu Fabrikarbeitern, die Streiks nutzen.

Historischer Präzedenzfall von Kernwissenschaftlern wie Harold Urey zeigt, dass Einfluss oft durch öffentliche Advocacy statt direkter Aktion entsteht. Ureys Essay von 1946 ‘I write this to frighten you’ veranschaulicht die Nutzung wissenschaftlicher Glaubwürdigkeit, um die öffentliche Meinung zu Kernrisiken zu formen.

Dieser Ansatz kann Forschern helfen, Executives, Investoren und Regierungen, die auf schnelle Entwicklung drängen, entgegenzuwirken. Ihre einzigartige Expertise und Seltenheit könnten Forschung verlangsamen, wenn sie kollektiv ablehnen, KI zu bauen, und eine spezifische Form der Einflussnahme für das Gemeinwohl bieten.

Schlüsselentitäten: Unternehmen: Anthropic | Personen: Jacob Coxon, Harold Urey | Orte: Oak Ridge, Tenn.