チャットボットアプリ、認証トークン窃取でなりすまし
概要
研究者たちは、「AIKatz」と名付けられた手法を用いて、LLMデスクトップアプリケーション（Anthropic Claude、Microsoft M365 Copilot、OpenAI ChatGPTなど）のメモリから認証トークンを抽出する攻撃を実証しました。この攻撃は、まず被害者システムへの初期アクセスを必要とし、攻撃者はLLMアプリのプロセスメモリを読み取り、認証トークンを抽出します。抽出されたトークンを使用することで、攻撃者は被害者としてLLMバックエンドサービスに成りすまし、被害者の会話履歴へのアクセスや将来の会話への干渉が可能になります。これにより、LLMの動作変更、コンテキスト汚染による永続的な影響、会話履歴の操作による痕跡隠蔽、さらに機密性、完全性、可用性への影響が指摘されています。ベンダーは、この攻撃がローカル攻撃であることや既存のセキュリティ境界を回避しないことを理由に、情報提供として対応しました。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- security_abuse
- 初公表日
- 2025-01-01
教訓
この事例は、LLMデスクトップアプリケーションがシステムメモリに認証トークンを保持する際の潜在的リスクを示しています。攻撃には被害者システムへの初期アクセスが必要であるため、エンドポイントのセキュリティ強化が極めて重要です。ローカルでのシステム侵害が、LLMサービスでのユーザーのプライバシー、データ完全性、および可用性に深刻な影響を及ぼす可能性があることを認識すべきです。開発者は、機密性の高い認証情報をメモリ内で保護する設計を再検討し、ユーザーは不審なシステムアクセスに対する警戒を怠らないことが教訓となります。
出典（引用元）
データ提供: MITRE ATLAS