HeadlinesBriefing favicon HeadlinesBriefing.com

研究者たちがClaudeでOpenAIをフォーラム脆弱性からハック

Ars Technica •
×

研究者たちは、第三者がホストするDiscourseによってホストされているOpenAIのコミュニティフォーラムの脆弱性を利用し、内部サインオンにアクセスし、最終的にはGitHubアクセスを持つOpenAI従業員のChatGPTアカウントにたどり着きました。OpenAIは連絡を受けて問題を修正したことを確認しています。Anthropicは、AIの使用状況が急速に増加していることを示すデータを公開し、研究開発業務の26パーセントが自らのClaudeモデルによって「リードされている」と報告しています。これは3月の1パーセントからの上昇です。同社は、AIシステムがますます自らの次のバージョンを構築するために使用されており、再帰的自己改善に近づいていると述べました。Anthropicは、この閾値について世間がどの程度近づいているかを理解するのに役立つために、このデータを共有しました。つまり、AIが自らトレーニングし、改善できるようになるまでの距離です。90パーセントのタスクでは、AIは人間と協働し、大量の作業を完了しますが、調査された研究では、モデルはまだ完全に自律的に動作していません。OpenAIは追加のコメントを拒否しました。AnthropicとHacktronは、追加の声明の要求に対して即座に応答していませんでした。