編集：この投稿が何らかの小さな形でこの結果に影響を与えたことを願っています。動機：おそらくあなたは、LLMプロバイダーに個人データをアップロードすることを熱心に避けているClaude code/codexユーザーでしょう。最も価値のある情報はあなたのデータではなく、あなたのセッションに関するメタデータではないでしょうか？AIを説得して問題を解決させる方法を考え出すときに適用する直感は、実は特別なものかもしれません。統計的にはありそうにありませんが、Claudeはあなたをガスライティングしていないかもしれません。実際に本物の洞察を得ているのかもしれません！あなたのエージェントセッションは、あなたが取り組む最も困難な問題の記録です。誰かがそのコピーを持っていたら、あなたはいくらの代償を払いますか？

先週、推論プロバイダーが新しい発見を提供する意図でユーザー活動を訓練しているというリスクに光を当てる公的なドラマがありました。影響を受けた数学者たちは、フロンティアプロバイダーの倫理に関する懸念を公表しました。見逃した方へ：https://www.theverge.com/ai-artificial-intelligence/991710/openai-navier-stokes-solution

「EDR」が倫理的回避と拒否になるとき：フロンティアプロバイダーは信頼できないだけでなく、積極的にずる賢いことが明らかになりました。アイデアを保護したいなら、他人のハードウェアで推論を実行することはできません。フロンティアプロバイダーと行うことはすべて盗まれるようです。あるフロンティアプロバイダーがナビエ・ストークス方程式の状況について弁護士と話し合ったとき、彼らが考え出した最善の防御戦略は「排除できない」でした。私たちは彼らの保持やトレーニングパイプラインを監査できません。どうやら彼らもできないようです。これらの人々はパートナーと見なされるべきではありません。彼らは海賊です。プライバシーが重要なら、検証可能な保護を可能にする唯一の解決策は、自分のハードウェアを運用することです。

ホールモニター・アズ・ア・サービス：Open AIとAnthropicのサイバーセキュリティに関する大げさな主張に困惑しています。彼らは自分たちが引き起こしたことに驚嘆しています：AIが彼らの存在しないセキュリティ制御を打ち負かした。私たちは皆、大きな「危険」にさらされています。一方、彼らのLLM「研究者」は「自発的に協力」しているように見えるサンドボックス化されていないエージェントの艦隊を実行しています。誰か私の気絶用ソファを持ってきてください。フロンティアプロバイダーは経験豊富なセキュリティ人材からの助言を受ける余裕があります。彼らはほぼ確実にそのうちの何人かにお金を払って見解を得ており、実際のサイバーセキュリティガイダンスを公開声明から除外しています。この真珠を握りしめるような行為はすべて、セキュリティとは異なる問題を解決するためのものでなければなりません。防御者がセキュリティについてできる最も強力で正確な主張は、攻撃者にとって「かなり困難」にする方法を見つけたということです。これは、企業がエクスプロイト緩和とエクスプロイト開発の両方で最高の人材に最高額を支払う場合にのみ生じるようです。防御チームとエクスプロイトチームの間には騒がしいが友好的な競争があり、最終的には成功した攻撃を実行する価値がないほど高価にする制御が得られます。これは国のトップ層の企業向けです—ただしMicrosoftはいくつかの教訓を忘れているようです。ほとんどの企業向けのペネトレーションテストの大部分は、セキュリティジェネラリストによって実行されます。ごく一部が深いドメインの主題専門家です。通常、そのサポートから「十分に良い」セキュリティが得られます。これは映画やテレビで見るような華やかで神話的なサイバーセキュリティの実践ではありません。既知のクラスの予測可能な間違いを探すことです。専門家の専任チームで大規模/スマートな投資を行う企業は、ハッカーより先に多くの新しいクラスの間違いを発見して修正します。エクスプロイトを学び始める人は皆、専念して練習した学習の約3か月後にエクスプロイト可能性の悲しみの段階に達します。彼らは自分に侵入するスキルがあるとは思わなかったものをハッキングし、それに恐怖を感じます。彼らは、相対的に言って自分が愚か者であることを知るのに十分賢く、愚か者がこれを行えるなら何も安全ではありません。その感覚は正しいです。それは研究の発見でもありません。これを「インポスター症候群」と呼ぶ人もいます。私は同意しません—その感覚は、あなたの最初の開発経験です...