AI兵器検知スキャナーの誇大宣伝、FTCがEvolvに是正命令
概要
米Evolv Technologiesは、AIを使った警備用ボディスキャナー「Evolv Express」を、全米800以上の学校やスタジアム、病院などに導入していました。同社は「AIによりすべての武器を検知し、危険のない持ち物は無視できる」「従来の金属探知機より高精度で効率的」と宣伝します。しかしFTC（米連邦取引委員会）は、これらの主張を裏づける根拠が不十分だと指摘しました。独立した調査では誤報率が高く、学校によっては最大60%に達し、武器が検知されずに通過した事例も報告されています。2024年11月、FTCはAIによる武器検知能力に関する根拠のない宣伝を禁止し、一部のK-12学校には契約を解除できる選択肢を与えるよう命じました。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- misinformation
- 組織
- Evolv Technologies
- 国
- US
- 初公表日
- 2024-11-26
教訓
安全に関わるAI製品ほど、誇大な性能訴求は重大な被害を招きます。「AIだから高精度」という言葉には根拠を求め、第三者による実環境での検証結果を確認することが、導入側・提供側の双方に求められます。
出典（引用元）
データ提供: 米連邦取引委員会（FTC）