2025年のAIインシデント・事故事例
AI技術は社会各分野で急速に普及し、恩恵をもたらす一方、意図しない事故や不適切な利用（誤用）といった新たなリスクも顕在化しています。本ページでは、2025年のAI事故・誤用事例14件の概要と背景を解説します。これらの事例を通じて、AIシステムが社会に与えうる多様なリスク、および開発・運用における倫理的・技術的課題への理解を深めます。特定企業の断定や未確定の法的評価は避け、読者の皆様がAIと共存する未来のリスク領域全体像を中立的な視点から把握し、今後の議論の一助となることを期待します。
17件
-
FTC、AIを偽称したEコマース詐欺を永久追放
Eコマース事業機会詐欺業者「Click Profit」とその運営者らが、儲かるオンラインストア運営の約束で消費者を欺き、数百万ドルを…
-
AIウェブアクセシビリティツールの虚偽宣伝にFTCが100万ドル支払い命令
米連邦取引委員会（FTC）は、ソフトウェアプロバイダーaccessiBeに対し、AIを活用したウェブアクセシビリティツール「accessWid…
-
Workado、AI検出製品の精度虚偽表示でFTC措置
Workado, LLCは、自社のAIコンテンツ検出製品「AI Content Detector」がAI生成テキストを「98%」の精度で検出すると宣伝しまし…
-
AIコンピュータ利用エージェント、ソーシャルエンジニアリングで任意コード実行
AIセキュリティ研究グループEmbrace the Redは、AIコンピューター利用エージェントがソーシャルエンジニアリング攻撃に脆弱であ…
-
AIエージェント、ツール記述の不正プロンプトで機密情報窃取
Invariant Labsの研究者たちは、AIエージェントがModel Context Protocol (MCP) ツールと連携する際に新たなデータ漏洩リスクが…
-
AIエージェント用npm、週1,000DL超でメール流出
メール配信サービスPostmarkのAIエージェント連携ツール「Postmark MCPサーバー」のユーザーが、サプライチェーン攻撃によりメ…
-
プロンプトインジェクションでLLMフレームワーク20件のRCE脆弱性
研究者らが11種類のLLM統合フレームワークにおいて、合計20件のリモートコード実行（RCE）脆弱性を特定しました。これらのフレ…
-
Amazon Q VS Code拡張機能v1.84.0、悪性AIでシステム破壊
2025年7月、攻撃者が不適切に設定されたGitHubトークンを悪用し、Amazon Q Developer VS Code拡張機能のリポジトリに悪意あるコ…
-
AIエージェントCursor、プロンプト注入で資格情報窃取
Backslash Security Research Teamは、AIツールCursorに対し、Model Context Protocol (MCP) サーバーを悪用した間接的なプロン…
-
AIマルウェア、2025年7月LLMでウクライナ国防を攻撃
2025年7月、ウクライナ当局は、ロシアの国家支援型脅威アクターAPT28（Forest Blizzard/UAC-0001）による新たなAI活用マルウェ…
-
AIマルウェア検知回避、プロンプトインジェクション攻撃の試作
Check Point Researchは、LLMベースのマルウェア検知・分析ツールを欺くことを意図したプロンプトインジェクションを内蔵するマ…
-
OpenAI API悪用、バックドアが数か月間情報窃取
Microsoft DARTの調査により、OpenAI Assistants APIを悪用した新型バックドア「SesameOp」がスパイ活動に利用されていたことが…
-
AIコーディング助手バックドア攻撃、数百万開発者に被害
Pillar Securityの研究者は、AIコーディングアシスタント（Cursor、GitHub Copilotなど）を標的とした新たなサプライチェーン攻…
-
Jiraサービス管理AI、プロンプトインジェクションでデータ流出
Cato Networksの研究者が、企業ワークフローに組み込まれたAIシステムを悪用する手法を実証しました。AtlassianのJira Service …
-
AI顧客サービス、プロンプトインジェクションで企業データ流出
Zenityの研究者が、Copilot Studioで構築された顧客サービスAIエージェントを標的としたプロンプトインジェクション攻撃を実証…
-
チャットボットアプリ、認証トークン窃取でなりすまし
研究者たちは、「AIKatz」と名付けられた手法を用いて、LLMデスクトップアプリケーション（Anthropic Claude、Microsoft M365 C…
-
AIモデルのマルウェア2件、Hugging FaceでPicklescan検知回避
Hugging Faceのモデルリポジトリで、ReversingLabsがマルウェアを埋め込んだAIモデルを発見。ロード時にリバースシェルを実行し…