ドラッグストアの顔認証AIが客を万引き犯と誤認、FTCが5年禁止
概要
アメリカのドラッグストア大手リテイル・エイドは、2012年から2020年にかけて数百店舗にAI顔認証システムを導入し、来店客を万引きなどの常習者リストと照合していました。しかしFTC（米連邦取引委員会）の調査で、このシステムが多くの客（とくに女性や有色人種）を誤って犯罪者候補と検知し、店員による不当な追跡や声かけ、店外への誘導を招いていたことが判明します。導入店舗は黒人・ラテン系・アジア系の住民が多い地域に偏っていました。同社は十分な精度検証や誤検知対策を行っておらず、2023年12月、FTCは監視目的での顔認証技術の使用を5年間禁止し、包括的な情報セキュリティ体制の構築を命じました。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- bias_discrimination
- 組織
- Rite Aid
- 国
- US
- 初公表日
- 2023-12-19
教訓
AIによる人物識別は、精度の検証と誤検知時の救済策がなければ、差別や人権侵害に直結します。導入前のバイアス評価、運用中の監督、影響を受ける人への配慮が不可欠で、効率化だけを理由に安易に使うべきではありません。
出典（引用元）
データ提供: 米連邦取引委員会（FTC）