「ロボット弁護士」の誇大広告、FTCがDoNotPayに是正命令
概要
米DoNotPayは、自社のAIサービスを「世界初のロボット弁護士」と称し、「弁護士なしで訴訟ができる」「数分で有効な法的文書を作成できる」「2000億ドルの法曹業界をAIで置き換える」などと宣伝していました。しかしFTC（米連邦取引委員会）は、同社がAIの能力を人間の弁護士の水準と比べて検証しておらず、法律分野の機能を試すための弁護士も雇っていなかったと指摘します。これらの宣伝は根拠を欠く、誤解を招くものとされました。2024年に提訴され、2025年2月に確定した命令で、同社は19万3000ドルの支払いと、専門サービスの代替を裏づけなく主張することの禁止を命じられました。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- misinformation
- 組織
- DoNotPay
- 国
- US
- 初公表日
- 2024-09-25
教訓
専門的な判断を伴う領域でAIを「専門家の代替」とうたうなら、その性能を専門家の基準で検証した根拠が不可欠です。検証のない「AIが専門家を置き換える」という訴求は、利用者に重大な不利益を与えかねません。
出典（引用元）
データ提供: 米連邦取引委員会（FTC）