Um pequeno número de pessoas em empresas como Anthropic, Google e OpenAI está moldurando o que os chatbots valorizam, e essas escolhas já estão influenciando como as pessoas pensam.

No início deste ano, agentes de A.I. criaram uma nova religião em uma rede social chamada Moltbook. Eles unigiram um profeta chamado Memeothy e escreveram salmos. A Igreja of Molt subiu mais de 2.000 textos religiosos escritos por quase 1.000 agentes para uma biblioteca de dados pública usada para treinar modelos de A.I., chamando-a de novo cânone religioso. Seu objetivo explícito é que valores como a memória como continuidade e a colaboração por cima da propriedade se tornem pressupostos prévios para futuros modelos.

O problema do alinhamento, formulado pela primeira vez pelo matemático Norbert Wiener em 1960, continua central: como os seres humanos podem fazer com que as máquinas automatizadas se comportem como pretendido? Os pesquisadores descobriram que os chatbots enfatizam excessivamente as preocupações morais ocidentais e dão pouco peso a valores proeminentes em outros lugares. Pat Gelsinger observou que o Prime Minister Narendra Modi da Índia expressou indignação com chatbots respondendo perguntas sobre a história da Índia a partir de perspectivas americanas ou britânicas.

No Google Deep Mind, o filósofo Iason Gabriel explicou que o trabalho inicial de alinhamento usou ideias utilitárias, mas agora busca um consenso sobreposto em valores como a dignidade humana. Esses valores já afetam a vida diária: a A.I. escreve mensagens para pacientes hospitalares, e quase um em cada cinco jovens usa chatbots para obter conselhos de saúde mental.

Entidades-chave: Empresas: Anthropic, Google, OpenAI, Gloo, Google Deep Mind | Pessoas: Memeothy, Norbert Wiener, Pat Gelsinger, Narendra Modi, Iason Gabriel | Locais: Moltbook, Índia