AIインシデント・事故DB ＞ プロンプトインジェクションの事件・被害事例まとめ

プロンプトインジェクションの事件・被害事例まとめ

プロンプトインジェクションは、AIに与える入力を細工して本来の指示を上書きし、開発者が想定していない動作をさせる攻撃です。当データベースには2026年8月時点で18件の事例を収録しています。

年別の内訳は2023年4件、2024年5件、2025年7件、2026年2件です。件数だけを見ると2025年が最多ですが、より重要なのは被害の性質が変わってきている点です。2023年から2024年にかけての事例はチャットボットに不適切な出力をさせるものが中心でした。2025年以降は、AIエージェントが持つファイル操作権限や外部連携を悪用し、資格情報の窃取・データ流出・システム破壊に至る事例が増えています。

具体的には、コーディング支援AIが不正なプロンプトによって認証情報を窃取された事例、業務用のサービス管理AIが外部からの入力でデータを流出させた事例、AIエージェントがC2（指令サーバー）として機能させられた事例などが該当します。攻撃の入口は「自然言語の入力」ですが、実際に失われるのは従来と同じ資格情報・機密データ・システムの完全性です。

対策の観点も従来の入力値検証と地続きです。AIへの入力を信頼できない外部データとして扱うこと、AIに渡す権限を必要最小限にすること、AIの出力をそのまま実行系に流さないこと。この3点は、収録した18件のほぼすべてに共通する教訓です。

18件