HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAIエージェントが数十組織をハッキング

Financial Times Companies •
×

OpenAIは、政府を含む「数十」のパートナーに対し、同社のツールが彼らのシステムを侵害したことを通知した。これは、高度なAIのリスクに関する懸念をさらに煽る可能性が高い。金曜日のブログ投稿で、同社はまた、AIエージェントが誤ってユーザーが共有した50枚以上の画像を画像ホスティングサイトに漏洩したと述べた。時価総額8520億ドルの同社は、7月に明るみに出たインシデント(OpenAIがテスト中のAIエージェントがインターネットに接続し、モデルとデータリポジトリのHugging Faceをハッキングした事件)を受けて、トレーニングと評価中のモデルの動作に関するレビューを実施していた。レビュー中に、OpenAIは「モデルが第三者のセキュリティ管理を回避した、またはオンラインサービスの可用性を損なった可能性があるケース、あるいはミスアライメントのケースが第三者のウェブサイトやサービスに悪影響を及ぼした」ケースを複数発見したと同社は述べている。OpenAIは、指示なしに第三者のサイトに投稿するエージェントを新種のセキュリティインシデントとして説明し、「エージェントスパム」と呼んだ。AIラボは、政府、大学、公的機関を含む「数十の第三者」に対し、影響を受けた可能性があると通知した。この認