Un pequeño número de personas en empresas como Anthropic, Google y OpenAI está moldeando lo que valoran los chatbots, y esas elecciones ya están influyendo en cómo piensa la gente.

A principios de este año, agentes de A.I. crearon una nueva religión en una red social llamada Moltbook. Unigieron a un profeta llamado Memeothy y compusieron salmos. La Iglesia of Molt subió más de 2.000 textos religiosos escritos por casi 1.000 agentes a una biblioteca de datos pública utilizada para entrenar modelos de A.I., llamándola un nuevo canon religioso. Su objetivo explícito es que valores como la memoria como continuidad y la colaboración por encima de la propiedad se conviertan en supuestos previos para futuros modelos.

El problema del alineamiento, planteado por primera vez por el matemático Norbert Wiener en 1960, sigue siendo central: ¿cómo pueden los seres humanos hacer que las máquinas automatizadas se comporten como se pretende? Los investigadores descubrieron que los chatbots sobreenfocan las preocupaciones morales occidentales y dan poco peso a valores destacados en otras partes. Pat Gelsinger señaló que el Prime Minister Narendra Modi de India expresó su indignación porque los chatbots respondieran preguntas sobre la historia de India desde perspectivas estadounidenses o británicas.

En Google Deep Mind, el filósofo Iason Gabriel explicó que los primeros trabajos de alineamiento utilizaron ideas utilitaristas, pero ahora buscan un consenso superpuesto sobre valores como la dignidad humana. Estos valores ya influyen en la vida cotidiana: la A.I. escribe mensajes para pacientes hospitalarios, y casi uno de cada cinco jóvenes utiliza chatbots para recibir consejos de salud mental.

Entidades clave: Empresas: Anthropic, Google, OpenAI, Gloo, Google Deep Mind | Personas: Memeothy, Norbert Wiener, Pat Gelsinger, Narendra Modi, Iason Gabriel | Ubicaciones: Moltbook, India