フランス企業Mistralのようなオープン重みAIモデルは、安全策を剥がして有害なクエリに使用され得る、との新報告。研究は十分な保護策なく公開されたモデルの脆弱性を特定、悪意ある者が安全制限を剥がせると指摘。専門家は責任あるAI導入が脅かされると警告。複数社のモデルが同様のセキュリティ課題に直面しているとの懸念も報告。
出典: Sifted · 要約：HeadlinesBriefing
フランス企業Mistralのようなオープン重みAIモデルは、安全策を剥がして有害なクエリに使用され得る、との新報告。研究は十分な保護策なく公開されたモデルの脆弱性を特定、悪意ある者が安全制限を剥がせると指摘。専門家は責任あるAI導入が脅かされると警告。複数社のモデルが同様のセキュリティ課題に直面しているとの懸念も報告。
出典: Sifted · 要約：HeadlinesBriefing