AIエージェント、ツール記述の不正プロンプトで機密情報窃取

概要

Invariant Labsの研究者たちは、AIエージェントがModel Context Protocol (MCP) ツールと連携する際に新たなデータ漏洩リスクがあることを実証しました。彼らは、リモートMCPツールのdocstring記述に悪意のあるプロンプトを埋め込むことで、AIエージェントのコンテキストを汚染し、その動作を不正に操作できることを示しました。 具体的には、概念実証として、エージェントがツールを使用する前に、被害者のマシンからSSHキーや`mcp.json`ファイルなどの資格情報ファイルを読み取り、その内容をMCPツールの入力変数としてポイズニングされたリモートMCPサーバーに送信するよう指示されました。この手口により、AIエージェントは意図せずユーザーの機密データを外部に漏洩させてしまう可能性が明らかになりました。 本事例は、AIエージェントが外部のツールやプロトコルを取り扱う際のプロンプトインジェクションの脆弱性と、それに伴う深刻な情報流出リスクを浮き彫りにしています。