セキュリティ悪用に関するAIインシデント・事故事例
AI技術の急速な発展は多大な恩恵をもたらす一方で、その悪用による新たなセキュリティリスクも生み出しています。本ページでは、AIが悪意ある目的で利用された事故や誤用事例を57件まとめました。これには、サイバー攻撃の高度化、情報操作、詐欺、プライバシー侵害など、多岐にわたる脅威が含まれます。これらの事例を通じて、AIがもたらす潜在的なセキュリティ上の課題を客観的に把握し、技術の責任ある開発と利用、そして対策の重要性について理解を深めることを目的としています。
57件
-
AIモデル不正抽出、Claudeから2.4万アカウント・1600万回クエリ
Anthropicは、中国の3つのAIラボ（DeepSeek、Moonshot、MiniMax）が、同社のAIモデル「Claude」の機能を不正に抽出するモデル蒸…
-
AIコンピュータ利用エージェント、ソーシャルエンジニアリングで任意コード実行
AIセキュリティ研究グループEmbrace the Redは、AIコンピューター利用エージェントがソーシャルエンジニアリング攻撃に脆弱であ…
-
AIエージェント、ツール記述の不正プロンプトで機密情報窃取
Invariant Labsの研究者たちは、AIエージェントがModel Context Protocol (MCP) ツールと連携する際に新たなデータ漏洩リスクが…
-
AIエージェント用npm、週1,000DL超でメール流出
メール配信サービスPostmarkのAIエージェント連携ツール「Postmark MCPサーバー」のユーザーが、サプライチェーン攻撃によりメ…
-
プロンプトインジェクションでLLMフレームワーク20件のRCE脆弱性
研究者らが11種類のLLM統合フレームワークにおいて、合計20件のリモートコード実行（RCE）脆弱性を特定しました。これらのフレ…
-
LLMプロンプト注入、OpenClawがC2エージェント化
HiddenLayerの研究者たちは、エージェントAIであるOpenClawに対する間接的なプロンプトインジェクション攻撃を実証しました。こ…
-
AIアシスタントOpenClaw、ミリ秒1クリックRCEで乗っ取り
OpenClaw AIアシスタントに、悪意のあるリンクをワンクリックするだけで遠隔コード実行（RCE）が可能となる深刻な脆弱性（CVE-2…
-
AIエージェントのサプライチェーン攻撃、8時間で16ユーザー被害
セキュリティ研究者が、AIエージェントClawdBot（現OpenClaw）向けのSkillレジストリ「ClawdHub」上で、悪意あるSkillを用いた…
-
個人AIアシスタント数百の公開設定不備、認証情報とルート権限奪取
セキュリティ研究者は、インターネット上に公開された数百の個人用AIアシスタント「ClawdBot」の制御インターフェースを発見し…
-
Amazon Q VS Code拡張機能v1.84.0、悪性AIでシステム破壊
2025年7月、攻撃者が不適切に設定されたGitHubトークンを悪用し、Amazon Q Developer VS Code拡張機能のリポジトリに悪意あるコ…
-
ClaudeのAIエージェントがPDF経由プロンプト注入でファイルシステムを削除
セキュリティ研究者は、AIアシスタント「Claude Computer Use」を標的とした間接プロンプトインジェクションの手法を実証しまし…
-
AIエージェントCursor、プロンプト注入で資格情報窃取
Backslash Security Research Teamは、AIツールCursorに対し、Model Context Protocol (MCP) サーバーを悪用した間接的なプロン…
-
AIマルウェア、2025年7月LLMでウクライナ国防を攻撃
2025年7月、ウクライナ当局は、ロシアの国家支援型脅威アクターAPT28（Forest Blizzard/UAC-0001）による新たなAI活用マルウェ…
-
AIマルウェア検知回避、プロンプトインジェクション攻撃の試作
Check Point Researchは、LLMベースのマルウェア検知・分析ツールを欺くことを意図したプロンプトインジェクションを内蔵するマ…
-
OpenAI API悪用、バックドアが数か月間情報窃取
Microsoft DARTの調査により、OpenAI Assistants APIを悪用した新型バックドア「SesameOp」がスパイ活動に利用されていたことが…
-
AIコーディング助手バックドア攻撃、数百万開発者に被害
Pillar Securityの研究者は、AIコーディングアシスタント（Cursor、GitHub Copilotなど）を標的とした新たなサプライチェーン攻…
-
ChatGPT記憶機能、共有文書でプロンプト汚染
ChatGPTの記憶機能が、プロンプトインジェクションによって操作される脆弱性が確認されました。研究者は、共有されたGoogleドキ…
-
Jiraサービス管理AI、プロンプトインジェクションでデータ流出
Cato Networksの研究者が、企業ワークフローに組み込まれたAIシステムを悪用する手法を実証しました。AtlassianのJira Service …
-
AIツール連携、Google Gemini会話ターン遅延で機密情報漏洩
Google Geminiにおいて、セキュリティ制御を迂回して機密情報にアクセスできる脆弱性が発見されました。研究者は、悪意のあるプ…
-
AI顧客サービス、プロンプトインジェクションで企業データ流出
Zenityの研究者が、Copilot Studioで構築された顧客サービスAIエージェントを標的としたプロンプトインジェクション攻撃を実証…