その他のAIインシデント・事故事例
AI技術の急速な発展は、社会に恩恵をもたらす一方で、予期せぬ事故や誤用といった多様なリスクも顕在化させています。本ページでは、特定のカテゴリに収まらない「その他のAI事故・誤用事例」を57件収集しました。これらの多岐にわたる事例を通じて、AIシステムが抱える潜在的な課題、技術的限界、倫理的側面、そして人間の判断との複雑な相互作用といった、このリスク領域の全体像を読者の皆様が中立的な視点から理解し、考察を深める一助となることを目指します。
71件
-
FTC、AIを偽称したEコマース詐欺を永久追放
Eコマース事業機会詐欺業者「Click Profit」とその運営者らが、儲かるオンラインストア運営の約束で消費者を欺き、数百万ドルを…
-
AIウェブアクセシビリティツールの虚偽宣伝にFTCが100万ドル支払い命令
米連邦取引委員会（FTC）は、ソフトウェアプロバイダーaccessiBeに対し、AIを活用したウェブアクセシビリティツール「accessWid…
-
AI活用Eコマース詐欺スキーム、運営者に永久追放と資産没収
米連邦取引委員会（FTC）は、AIを活用してEコマースストアの収益を向上させると謳う詐欺的な金儲けスキームの運営者に対し、資…
-
FTC、FloatMeのアルゴリズム虚偽主張と差別的慣行で和解
米連邦取引委員会（FTC）は、オンライン現金前払いサービスを提供するFloatMeとその共同創業者に対し、欺瞞的な商慣行で消費者…
-
FTC、AI利用を謳う詐欺的事業機会を停止
米連邦取引委員会（FTC）は、AIやAI機械学習ツールを活用してオンラインストア投資で高収益を保証すると虚偽の主張をした事業機…
-
Workado、AI検出製品の精度虚偽表示でFTC措置
Workado, LLCは、自社のAIコンテンツ検出製品「AI Content Detector」がAI生成テキストを「98%」の精度で検出すると宣伝しまし…
-
「AIで稼げる」副業スキームを一斉摘発、FTCのAI取締り作戦
FTC（米連邦取引委員会）は2024年9月、AIをうたって消費者を欺いた企業への一斉取締り「Operation AI Comply」を開始し、複数の…
-
Alexaが子どもの音声を無期限保存、FTCがAmazonに2500万ドル制裁
米Amazonは、音声アシスタント「Alexa」で収集した子どもの音声記録を、保護者が削除を求めても無期限に保持していました。FTC…
-
同意なき顔認証、FTCが学習済みAIアルゴリズムの削除を命令
写真アプリ「Ever」を提供していた米Everalbum（現在は顔認証事業Paravisionを運営）は、ユーザーが機能を有効化しない限り顔認…
-
匿名メッセージアプリのAI審査は虚偽、FTCがNGLを未成年提供禁止に
10代に人気だった匿名メッセージアプリ「NGL: ask me anything」を提供する米NGL Labsは、「AIによるコンテンツ審査でいじめや…
-
「ロボット弁護士」の誇大広告、FTCがDoNotPayに是正命令
米DoNotPayは、自社のAIサービスを「世界初のロボット弁護士」と称し、「弁護士なしで訴訟ができる」「数分で有効な法的文書を…
-
AI兵器検知スキャナーの誇大宣伝、FTCがEvolvに是正命令
米Evolv Technologiesは、AIを使った警備用ボディスキャナー「Evolv Express」を、全米800以上の学校やスタジアム、病院などに…
-
顔認証AI「バイアスはゼロ」は根拠なし、FTCがインテリビジョンを是正
顔認証ソフトを提供する米インテリビジョン・テクノロジーズは、自社製品を「市場最高水準の精度」「性別や人種によるバイアス…
-
ドラッグストアの顔認証AIが客を万引き犯と誤認、FTCが5年禁止
アメリカのドラッグストア大手リテイル・エイドは、2012年から2020年にかけて数百店舗にAI顔認証システムを導入し、来店客を万…
-
AIモデル不正抽出、Claudeから2.4万アカウント・1600万回クエリ
Anthropicは、中国の3つのAIラボ（DeepSeek、Moonshot、MiniMax）が、同社のAIモデル「Claude」の機能を不正に抽出するモデル蒸…
-
AIコンピュータ利用エージェント、ソーシャルエンジニアリングで任意コード実行
AIセキュリティ研究グループEmbrace the Redは、AIコンピューター利用エージェントがソーシャルエンジニアリング攻撃に脆弱であ…
-
AIエージェント、ツール記述の不正プロンプトで機密情報窃取
Invariant Labsの研究者たちは、AIエージェントがModel Context Protocol (MCP) ツールと連携する際に新たなデータ漏洩リスクが…
-
AIエージェント用npm、週1,000DL超でメール流出
メール配信サービスPostmarkのAIエージェント連携ツール「Postmark MCPサーバー」のユーザーが、サプライチェーン攻撃によりメ…
-
プロンプトインジェクションでLLMフレームワーク20件のRCE脆弱性
研究者らが11種類のLLM統合フレームワークにおいて、合計20件のリモートコード実行（RCE）脆弱性を特定しました。これらのフレ…
-
LLMプロンプト注入、OpenClawがC2エージェント化
HiddenLayerの研究者たちは、エージェントAIであるOpenClawに対する間接的なプロンプトインジェクション攻撃を実証しました。こ…