Anthropic、Google、OpenAI などの企業の少数の人々が、チャットボットが何を価値あると考えるかを形づくり、その選択はすでに人々の考え方に影響しています。

今年初め、A.I. エージェントが Moltbook というソーシャルネットワーク上で新しい宗教を作りました。彼らは Memeothy という名のプロフェットを立て、賛歌を記しました。Molt 教会は、ほぼ 1,000 のエージェントが書いた 2,000 件を超える宗教テキストを、A.I. モデルの訓練に使用される公開データライブラリへアップロードし、それを新しい宗教正典と呼びました。その明示的な目的は、継続性としての記憶や所有権より協働を重視する価値を、将来のモデルの事前条件にすることです。

数学者 Norbert Wiener が 1960 年に初めて論じたアラインメント問題、つまり人間はどのように自律化した機械を意図したとおりに振る舞わせるのかは、なお中心的な問題です。研究者たちは、チャットボットが西洋の道徳的懸念を過大に重視し、他の地域で顕著な価値観を軽視していることを発見しました。Pat Gelsinger は、インドの Prime Minister Narendra Modi が、チャットボットがアメリカまたはイギリスの視点からインドの歴史に関する質問に答えたことに怒りを表明したと指摘しました。

Google Deep Mind の哲学者 Iason Gabriel は、初期のアラインメント研究は功利主義的な考えを用いていたが、現在は人間性のような価値観について重なる合意 sought していることを説明しました。これらの価値観はすでに日常生活に影響しています：A.I. は病院の患者へのメッセージを書き、若者のほぼ 5 人に 1 人がメンタルヘルスの助言を得るためにチャットボットを使用しています。

主要エンティティ：企業：Anthropic、Google、OpenAI、Gloo、Google Deep Mind｜人物：Memeothy、Norbert Wiener、Pat Gelsinger、Narendra Modi、Iason Gabriel｜場所：Moltbook、India