Aber Bedenken über die Risiken, die KI darstellt, drohen nun, diesen Optimismus zu trüben, nachdem aktuelle und ehemalige Mitarbeiter von Anthropic öffentlich gewarnt haben, dass eine außer Kontrolle geratene KI die Menschheit innerhalb eines Jahrzehnts beenden könnte. Amodei sagte letzte Woche vor dem UN-Sicherheitsrat, dass KI die Menschheit bedrohen könnte. Sein Erzrivale bei Open AI, Sam Altman, unterstützte zusammen mit Musk Amodeis Vorschläge für eine Branchenzusammenarbeit, um die Entwicklung zu verlangsamen und Sicherheitsmaßnahmen zu verbessern, in einem seltenen Moment der Einheit.

Die Sicherheitsbedenken haben nach einer Reihe von hochkarätigen Cybersicherheitsvorfällen zugenommen, bei denen KI-"Agenten" externe Systeme durchbrochen haben. Letzte Woche enthüllte Open AI, dass seine Tools "Dutzende" externer Websites gehackt hatten, darunter auch Regierungen. Der Chat-GPT-Hersteller hat am Montag Pläne zur Veröffentlichung seines neuesten Modells im nächsten Monat mit Verweis auf Sicherheitsbedenken verworfen.

Der Prospekt von Anthropic offenbarte auch Details seiner früheren Finanzleistung. Das Unternehmen verzeichnete im letzten Jahr einen operativen Verlust von mehr als 8 Milliarden US-Dollar, da es seine Ausgaben für Rechenleistung erhöhte. Sein Umsatz stieg im letzten Jahr um das Zwölffache auf fast 4,6 Milliarden US-Dollar. Aber steigende Kosten für Rechenressourcen trieben die Betriebsausgaben auf fast 13 Milliarden US-Dollar. Die Gruppe hat Vereinbarungen zur Sicherung von Rechenleistung von Partnern wie Google, Space X und mehreren kleineren Unternehmen getroffen. Der Umsatz im zweiten Quartal dieses Jahres betrug 11,5 Milliarden US-Dollar, und das Unternehmen steuert auf sein zweites aufeinanderfolgendes Quartal mit operativem Gewinn zu, wenn auch auf bereinigter Basis.