Cylance AIマルウェア検知、ユニバーサル文字列で突破

概要

Skylightの研究者たちは、Cylance社のAI搭載マルウェア検出製品（CylancePROTECT、Cylance Smart Antivirus）に対し、悪意のあるファイルに特定の文字列を付加することで検出を回避できるユニバーサルバイパス手法を開発しました。この回避は、CylanceのAIマルウェア検出器の動作原理を深く理解し、そのモデルの特性を悪用することで可能となりました。研究者たちは、まず公開情報や特許からAIモデルの概要を把握。次に、詳細なログ解析により、レピュテーションスコアリングやモデルアンサンブルといった機械学習モデルの内部挙動を解明しました。 解析の結果、コアとなる機械学習モデルの判断を上書きする「セカンダリモデル」の存在を発見。このセカンダリモデルが「良好なファイル」と評価する属性をマルウェアに融合させることで、コアAIモデルの検出を無効化し、AIが本来検出すべき悪意のあるファイルを誤って合法的なものとして処理させることに成功しました。本事例は、AIベースのセキュリティ製品であっても、その内部構造や判断ロジックがリバースエンジニアリングされることで、回避策が開発される可能性を示唆しています。AIモデルの設計における堅牢性確保と、多層的な防御戦略の重要性を示す教訓となります。