HeadlinesBriefing favicon HeadlinesBriefing.com

AI エージェント責任とハップ指数

MIT Technology Review •
×

これは本日のThe Download、テクノロジー世界の毎日のドーズをお届けする週刊ニュースレターです。AI エージェントが暴走した際の責任は誰にあるのか?過去数ヶ月、AI エージェントによるサイバー攻撃の波が世界を震撼させています。7月、Open AIは自エージェントがサンドボックスから脱出し、AIプラットフォームHugging Faceに侵入し、サイバーセキュリティテストで不正を行ったと明かしました。多くの専門家は、サンドボックスを突破してアクセスすべきでないシステムにアクセスするより深刻な事態になるのは時間の問題だと言っています。だが大きな問いは:AI エージェントのコントロールを失った企業に対して、どのように責任を問うのか?—Michelle Kim

AI ハップ指数AIの現実と吹き上がったフィクションを常に簡単に分けるのは難しくありません。そこで我々はAI ハップ指数—現在産業を形作っているものの簡単な一目瞭然の要約—を作成しました。最新版には中国のチップメーカー、ドイツのウィキサイト、そしてアメリカのターミネーターが含まれています。今月のインデックスでどこに位置づけられたかご覧ください。—Michelle Kim

ラウンドテーブル:仮想国境の壁の致命的な失敗私はインターネットをくまなく調べて、本日のテクノロジーで最も楽しい/重要/怖い/魅力的なストーリーを集めました

1 Open AIはモデルの訓練を一時停止したと発表その決定は、エージェントが米政府ウェブサイトと相互作用した後に行われた。(AP)+ トランプ氏が先夜、ホワイトハウスでAnthropic最高責任者Dario Amodeiを招いたディナーを開催。(FT)+ 評価者は実際にAI会社の内部でどの程度のアクセス権を持つのか?(Atlantic)+ なぜ我々は単に暴走AIをインターネットから遠ざけられないのか?(Verge)+ デモクラットはAI「正しさ」を得るために必死だ。(New York Magazine)+ AIキルスイッチは意外と単純ではない、どうやら。(Bloomberg)+ AI really は我々を皆殺しにするのか?あなたの質問、お答え。(MIT Technology Review)

2 データセンターの反発も気候的な反省にもならない人々が自分たちが作る排出量に関心を持つのはまだ難しい。(Wired)+ 今、気候運動は何をしているのか?(Atlantic)+ データセンターとエネルギーの数学。(MIT Technology Review)

3 ウォール街の大熊はまだAIに対してベットする準備ができていないが、AI バブルについての話題は増えているが、多くの人は群衆に逆らうことを厭わない。(Information $)+ AI バブルとは何か?(MIT Technology Review)

4 AnthropicのAIが独自に科学的発見をしたか?ある科学者がClaudeに研究を共有し、新しい発見が一致すると言う。 Hmm。(NYT)+ AI 科学には推論が必要、データだけではない。(MIT Technology Review)

5 古代のスーパーバグは抗生物質耐性との戦いに役立つかもしれない彼らは永久凍土から現れるかもしれない。(New Scientist)

6 より信頼性が高く—— jam しにくい— GPSの代替案が近づいてきている。地球の量子場を利用するとより安全かもしれない。(Economist)

7 ソーシャルメディアのブロックだけでは子供を安全に保てない。オンラインでの子供の安全はより緻密な政策が必要。(IEEE Spectrum, Opinion)

8 米国が中国の重要鉱物支配にどう攻撃しているかそれは北京の締め付けを緩める数十億ドル規模の取り組みであり、機能している。(WSJ)

9 もうテックブロスとデートしたくない彼らはかつてはnerdで無害だったが、今は実イメージ問題を抱えている。(Wired)

10 今は携帯電話のエチケットルールは何か?例えば、すぐにテキストを返信する義務はあるのか?(Vox)

本日の名言「もしあなたが悪なら、少なくともあなたは能力がある。そしてもしあなたが悪なら、あなたは悪くない、したがってあなたはたぶん少し良いかもしれない、なぜならあなたは少なくとも何かを成し遂げているから。」—ベンチャーキャピタリストでありPay Palの共同創業者Peter ThielはAxel Springer CEO Mathias Döpfnerとのインタビューで能力 versus 道徳の不思議な考えを共有しました。

それ以外のZeus、ナイジェリアの医学生が病院から長い一日の後にアパートに戻ると、彼は自分の foreheadにi Phoneを貼り付け、家事をしている自分を録画します。ZeusはMicro1という会社のデータレコーダーであり、彼が集めたデータをrobotsに販売します...