AIマルウェア検知、カスペルスキーMLが大半の検出回避
概要
サイバーセキュリティ企業カスペルスキーの機械学習型アンチマルウェアモデルに対し、検出を回避する攻撃が実施されました。この事例では、クラウドで展開されるMLマルウェア検出器が、ユーザーシステムで生成された特徴量を基に動作する「グレーボックス」シナリオが対象です。研究チームは、モデルへのホワイトボックスアクセスなしに、特徴量の知識があれば敵対的攻撃が可能であることを実証しました。その結果、敵対的に改変されたマルウェアファイルの大部分で検出を回避することに成功。これは、AIを活用したアンチマルウェア製品においても、特徴量に関する情報が攻撃に利用され、AIモデルの検出能力が損なわれる可能性を示唆しています。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- security_abuse
- 初公表日
- 2021-06-23
教訓
AIモデルがブラックボックスであっても、その特徴量抽出プロセスに関する情報があれば攻撃が可能であることが示されました。機械学習ベースのセキュリティ製品では、モデルの堅牢性強化に加え、特徴量生成・送信メカニズムの保護も敵対的攻撃対策として重要です。
出典（引用元）
データ提供: MITRE ATLAS