Square、Cash App、Afterpayを展開するBlockでは、セキュリティチームがOpenAI Defense Factoryを利用しています。脆弱性の発見、検知、対応をAIが担い、人間のチームでは到底対応できない規模で処理しています。OpenAI Daybreakなどのシステムにより、Blockは以前は数週間かかっていた作業をわずか数時間で完了できるようになりました。
「AIは人間の意図から行動までの時間を圧縮しています」と、Blockの最高情報セキュリティ責任者であるJames Nettesheimは述べています。「しばらくの間、攻撃者はより速く機敏なため有利だと考えられてきました。しかし、Daybreakのようなツールや、OpenAIのツールの進歩により、防御側も同じ手段で対抗し、AIの急速な普及に追いつけるようになっています。」
Blockのセキュリティチームは、コード生成からセキュリティ運用まで、あらゆるワークフローでAIを責任を持って導入することに取り組んできました。Nettesheimは、この技術を拡張可能な新しいチームメイトだと表現しています。ソフトウェアのバグの確認やログの解析といった、以前は数日を要した作業が、そのごく一部の時間で完了するようになり、すべての結果は人間が検証しています。検知チューニングでは、提案された変更を7か月分の本番テレメトリに対して1時間以内に再実行でき、以前は数百件の過去の事例を手作業で再照会する必要がありました。
チームはまた、タスクに応じてモデルを使い分けることも学びました。Blockのセキュリティ基盤は、作業を適切なモデルに振り分け、人間が引き継げる仕組みや、エージェント同士が互いの作業を検証する仕組みを備えています。自動トリアージシステムは、トリアージの処理量を50%向上させ、インテリジェンス収集と調査を50%増加させ、新たな自律的な脅威ハンティング機能ももたらしました。Nettesheimによると、このシステムは四半期あたり約1,100アナリスト時間分の調査を行い、すべてのアラートに十分な詳細レビューを提供しているとのことです。
出典: OpenAI Blog · 要約：HeadlinesBriefing