生成AIワーム、RAGメールアシスタント汚染で伝播

概要

研究者は、生成AIエコシステムを標的としたゼロクリックAIワーム「Morris II」を開発し、RAG（Retrieval Augmented Generation）ベースのメールアシスタントシステムへの攻撃を実証しました。このワームは、自己複製する敵対的プロンプトを利用し、プロンプトインジェクションを通じてAIアシスタントの動作を不正に操作します。具体的には、悪意のあるプロンプトを含むメールをターゲットシステムに送信し、RAGデータベースに保存させます。メールアシスタントが受信メールを自動取り込み、返信生成のために過去のやり取りを参照する際、データベース内の悪意あるプロンプトが利用されることで、ワームがシステム内で伝播し、さらにユーザーの機密情報（メールアドレス、住所、電話番号など）を漏洩させる可能性が示されました。この事例は、AIシステムが外部データを取り込む際のセキュリティの脆弱性と、プロンプトインジェクションが引き起こす伝播・情報漏洩のリスクを浮き彫りにしています。