Hugging Face偽組織アカウントでAIモデル乗っ取り
概要
セキュリティ研究者が、公開モデルリポジトリHugging Face上で実在する組織を偽装したアカウントを作成しました。これらは正規の組織アカウントに見えたため、従業員は公式のモデル共有サイトと誤認して参加。研究者は、従業員がアップロードしたAIモデルへの完全なアクセス権を獲得し、悪意のあるバージョンに置き換えることが可能になりました。研究者は実際に、オープンソースのC2サーバー「Sliver」をAIモデルに埋め込み、被害組織の環境へのアクセスを実証。これにより、知的財産窃盗や他のAIモデル汚染など、広範囲な攻撃のリスクが明らかになりました。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- security_abuse
- 初公表日
- 2023-08-23
教訓
公開プラットフォームにおける組織アカウントの正当性確認が不可欠です。従業員は、モデル共有プラットフォームの公式性を常に検証し、疑わしいアカウントには機密性の高いAIモデルをアップロードすべきではありません。AIモデルのサプライチェーン全体におけるセキュリティ対策の強化が求められます。
出典（引用元）
データ提供: MITRE ATLAS