AIモデルのマルウェア2件、Hugging FaceでPicklescan検知回避
概要
Hugging Faceのモデルリポジトリで、ReversingLabsがマルウェアを埋め込んだAIモデルを発見。ロード時にリバースシェルを実行し、攻撃者に被害者システムの制御能力を与えました。Hugging FaceのPicklescanは、モデルが意図的に破損され、完全な逆シリアル化前に悪意あるペイロードが実行される細工により検出を回避。Hugging Faceは対応後、モデルを削除しPicklescanを修正しましたが、pickleファイルは任意のコード実行を許容するため、根本的なリスクが残ります。AIモデルを介したサプライチェーン攻撃の危険性、既存対策を回避する巧妙な手口の存在を示す事例です。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- security_abuse
- 初公表日
- 2025-02-25
教訓
AIモデルのサプライチェーンセキュリティ強化は必須。既存ツールを回避する巧妙な手口に対し、多層的なチェックと脅威インテリジェンスを。任意のコード実行を許容するpickleファイルは危険を伴うため、信頼できるソースからの入手と厳格なリスク評価を徹底すべきだ。
出典（引用元）
データ提供: MITRE ATLAS