AIインシデント・事故DB > 事例詳細

AI兵器検知スキャナーの誇大宣伝、FTCがEvolvに是正命令

概要

米Evolv Technologiesは、AIを使った警備用ボディスキャナー「Evolv Express」を、全米800以上の学校やスタジアム、病院などに導入していました。同社は「AIによりすべての武器を検知し、危険のない持ち物は無視できる」「従来の金属探知機より高精度で効率的」と宣伝します。しかしFTC(米連邦取引委員会)は、これらの主張を裏づける根拠が不十分だと指摘しました。独立した調査では誤報率が高く、学校によっては最大60%に達し、武器が検知されずに通過した事例も報告されています。2024年11月、FTCはAIによる武器検知能力に関する根拠のない宣伝を禁止し、一部のK-12学校には契約を解除できる選択肢を与えるよう命じました。

分類・事実

発生種別
事故
AI関与度
AI が主要因
主分類
misinformation
組織
Evolv Technologies
国
US
初公表日
2024-11-26

教訓

安全に関わるAI製品ほど、誇大な性能訴求は重大な被害を招きます。「AIだから高精度」という言葉には根拠を求め、第三者による実環境での検証結果を確認することが、導入側・提供側の双方に求められます。

出典(引用元)

データ提供: 米連邦取引委員会(FTC)

この事例で問われる知識

  • AIの性能・精度を対外的に表示するときの根拠と裏付けの取り方
  • 生成結果の誤りが利用者に与える影響と、開示・注意喚起の設計
  • 広告・表示規制の観点から見た「AI活用」表現の線引き

この内容を体系的に学べる試験:AIビジネス資格

AIESPAは、AIの利用・運用にともなうリスクへの対応力を客観的に測る認定試験です。上に挙げた論点は「AIビジネス資格」の出題範囲に含まれています。出題範囲は試験対策テキスト(Webで無料公開)で確認できます。

AIビジネス資格の詳細を見る

受験料2,980円・オンライン完結・申込はこちら

Level 1 Basic ¥2,980(税込)/20問・制限時間20分/オンラインで完結/合格証は永年有効・更新費用なし

受験を申し込む

まずは無料の模擬試験で理解度を確認する

この記事は、米連邦取引委員会(FTC)の公表資料(パブリックドメイン)を基に、AIが事実に沿って日本語で要約・編集したものです。正確な内容は必ず原典(英語)をご確認ください。

← 事例一覧へ戻る