AIフィッシング検知、ロゴ改変147件で視覚モデル回避

概要

商用AI/MLベースのフィッシングウェブサイト検知システムにおいて、攻撃者が検知回避を試みた事例です。攻撃者は、正当なサイトに視覚的に類似したフィッシングサイトを作成し、ユーザーの認証情報を窃取しようとしました。この検知システムは、視覚的類似性や入力フォームの検知など、異なるフィッシング指標を担当する複数の画像分類器のアンサンブルから「フィッシングスコア」を算出し、自動でブロック/許可を決定します。 このインシデントでは、攻撃者がロゴの手動変更を通じて画像分類モデルの回避を試みた敵対的サンプルが確認されました。具体的には、企業名のスタイル変更、ロゴのぼかし、トリミングなど、単純ながら効果的な手法が用いられました。結果として、視覚的類似性によるブランドなりすましを検知するモデルは回避されました。しかし、システムの他のコンポーネントがフィッシングサイトを正常に特定し、最終的な検知に成功しました。これにより、潜在的な認証情報窃取やそれに伴う金銭的・プライバシー上の被害を防ぐことができました。