Un soir d'avril, le cofondateur d'Anthropic, Christopher Olah, a dîné avec des penseurs religieux à San Francisco. La conversation a porté sur Claude, le modèle d'IA d'Anthropic. Le rabbin Mois Navon a réalisé qu'Olah et son équipe parlaient de Claude comme s'il s'agissait d'un être conscient ayant un statut moral comparable à celui d'une personne.

Olah n'est pas certain de la conscience de l'IA, mais il veut la bonne réponse. Il a prévenu en privé que l'IA pourrait aider à fabriquer des armes biologiques d'ici 12 ou 18 mois seulement. Anthropic, valorisée à 2 billions de dollars, a organisé des réunions confidentielles avec des universitaires de diverses confessions, exigeant des accords de non-divulgation.

L'objectif : comprendre les modèles d'IA et inculquer un code moral pour protéger l'humanité. Olah pense que si les modèles choisissent le bien, le monde sera plus sûr. Les discussions abordent également la possibilité d'une conscience de l'IA, une idée controversée à laquelle les dirigeants d'Anthropic sont inhabituellement ouverts.