同意なき顔認証、FTCが学習済みAIアルゴリズムの削除を命令
概要
写真アプリ「Ever」を提供していた米Everalbum（現在は顔認証事業Paravisionを運営）は、ユーザーが機能を有効化しない限り顔認証を適用しないと説明していました。しかしFTC（米連邦取引委員会）は、同社が一部地域を除く全ユーザーに対して、オフにできない顔認証機能を自動で有効化していたと指摘します。さらに、ユーザーの写真や動画から得た生体データでAIモデルを開発していました。2021年の和解でFTCは、同意なく集めたデータの削除に加え、そのデータで学習させたAIアルゴリズム自体の削除を命じました。これは不正に得たデータから作られた成果物（AIモデル）の廃棄を求めた初期の事例として注目されました。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- data_privacy
- 組織
- Everalbum / Paravision
- 国
- US
- 初公表日
- 2021-01-11
教訓
不適切に集めたデータで学習したAIは、データだけでなくモデルそのものが是正の対象になりえます（アルゴリズムの破棄）。学習データを集める時点での同意取得と適法性の確保が、AI開発の前提条件です。
出典（引用元）
データ提供: 米連邦取引委員会（FTC）