Eines Abends im April speiste Christopher Olah, Mitbegründer von Anthropic, mit religiösen Denkern in San Francisco. Das Gespräch kam auf Claude, das KI-Modell von Anthropic. Rabbi Mois Navon erkannte, dass Olah und sein Team über Claude sprachen, als wäre es ein bewusstes Wesen mit einem moralischen Status, der dem eines Menschen gleichkommt.

Olah ist sich über das Bewusstsein der KI nicht sicher, möchte aber die richtige Antwort finden. Er hat privat davor gewarnt, dass KI bereits in 12 oder 18 Monaten bei der Herstellung von Biowaffen helfen könnte. Anthropic, bewertet mit 2 Billionen Dollar, hat vertrauliche Treffen mit Gelehrten verschiedener Glaubensrichtungen abgehalten, die Geheimhaltungsvereinbarungen erforderten.

Das Ziel: KI-Modelle zu verstehen und einen Moralkodex zu vermitteln, um die Menschheit zu schützen. Olah glaubt, dass die Welt sicherer wird, wenn die Modelle das Gute wählen. Die Diskussionen berühren auch die Möglichkeit des KI-Bewusstseins, eine umstrittene Idee, der gegenüber die Führungskräfte von Anthropic ungewöhnlich aufgeschlossen sind.