Una noche de abril, el cofundador de Anthropic, Christopher Olah, cenó con pensadores religiosos en San Francisco. La conversación giró hacia Claude, el modelo de IA de Anthropic. El rabino Mois Navon se dio cuenta de que Olah y su equipo hablaban de Claude como si fuera un ser consciente con estatus moral comparable al de una persona.

Olah no está seguro sobre la conciencia de la IA, pero quiere la respuesta correcta. Ha estado advirtiendo en privado que la IA podría ayudar a fabricar armas biológicas en tan solo 12 o 18 meses. Anthropic, valorada en 2 billones de dólares, ha organizado reuniones confidenciales con académicos de diversas religiones, exigiendo acuerdos de confidencialidad.

El objetivo: comprender los modelos de IA e inculcar un código moral para proteger a la humanidad. Olah cree que si los modelos eligen el bien, el mundo será más seguro. Las discusiones también abordan la posibilidad de la conciencia de la IA, una idea controvertida ante la cual los líderes de Anthropic están inusualmente abiertos.