AI顔認証、設定不備で7万件動画サンプルと認証情報にアクセス

概要

Clearview AIの顔認識ツールのソースコードリポジトリに設定不備があり、任意のユーザーがアカウントを登録できる状態になっていた。この脆弱性を利用し、外部のセキュリティ研究者がプライベートリポジトリにアクセス。そこには本番環境の認証情報、7万件のビデオサンプルを含むクラウドストレージの鍵、アプリケーションのコピー、Slackトークンが含まれていた。このリポジトリからAWS S3クラウドストレージバケットへのアクセス権限が得られ、リリース済みおよびプレリリース版のデスクトップ・モバイルアプリケーション、Slackアクセストークン、生ビデオデータといった顔認識ツールの資産が発見された。悪意ある攻撃者が訓練データにアクセスした場合、デプロイされたモデルに意図的な誤分類を引き起こす可能性があった。また、ソースコードからモデルや機能の詳細を把握し、将来のアプリケーションリリースを侵害して顔認識機能の低下や悪用を招く恐れもあった。この事例は、AIシステムを保護する上で、従来のサイバーセキュリティ対策の重要性を浮き彫りにしている。