顔認証AI「バイアスはゼロ」は根拠なし、FTCがインテリビジョンを是正
概要
顔認証ソフトを提供する米インテリビジョン・テクノロジーズは、自社製品を「市場最高水準の精度」「性別や人種によるバイアスは一切ない」と宣伝していました。しかしFTC（米連邦取引委員会）は、これらの主張を裏づける十分な検証データが存在しないと指摘します。同社は「数百万人の顔で学習させた」と称していましたが、実際の学習対象は約10万人で、それを技術的に加工して水増ししていました。なりすまし防止機能の有効性についても根拠が乏しいとされました。2024年12月、FTCは、信頼できる検証に基づかない限り、精度・無バイアス・なりすまし防止に関する宣伝を禁じる命令を出しました。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- bias_discrimination
- 組織
- IntelliVision Technologies
- 国
- US
- 初公表日
- 2024-12-03
教訓
AI製品の「高精度」「バイアスなし」といった訴求は、独立した検証データの裏づけがなければ不当表示になりえます。提供側は再現可能なテスト結果を保持し、導入側もベンダーの主張をうのみにせず、根拠の提示を求めることが重要です。
出典（引用元）
データ提供: 米連邦取引委員会（FTC）