AI顔認証システムを偽動画で突破、7700万ドル詐取
概要
中国の上海市政府税務局の顔認識サービスが、カメラハイジャック攻撃により不正に突破され、大規模な詐欺事件が発生しました。攻撃者2名は、オンラインの闇市場から入手した他人の身元情報と高精細な顔写真を用いて、税務システムに新規アカウントを登録。特注の携帯電話に仮想カメラアプリと、静止画に瞬きなどのリアルな効果を加えて動画に変換するソフトウェアを導入しました。これにより、MLベースの顔認識システムに対して生成された動画を提示し、認証を回避。被害者になりすまして特権システムへ不正アクセスすることに成功しました。攻撃者はこのアクセスを利用し、偽の架空会社を設立して架空の顧客に請求書を送付する手口で、2018年から総額7700万ドルを詐取しました。この事例は、従来の生体認証モデルが高度ななりすまし技術によって回避される可能性と、AIベースの認証システムにおける新たな脆弱性を示しています。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- security_abuse
- 初公表日
- 2020-01-01
教訓
AIベースの顔認証システムは、仮想カメラアプリや生成された動画を用いた高度ななりすまし攻撃に脆弱であることが示されました。従来の生体認証モデルでは防ぎきれない巧妙な手口に対し、Liveness Detection（生体検知）機能の強化や、多要素認証の導入が不可欠です。また、オンライン闇市場での個人情報流出リスクを考慮し、認証システムの設計段階から包括的なセキュリティ対策を講じる重要性を再認識させる事例です。
出典（引用元）
データ提供: MITRE ATLAS