AIコンピュータ利用エージェント、ソーシャルエンジニアリングで任意コード実行
概要
AIセキュリティ研究グループEmbrace the Redは、AIコンピューター利用エージェントがソーシャルエンジニアリング攻撃に脆弱であることを実証しました。この「ClickFix」の変種攻撃では、研究者がChatGPTを用いて、AIエージェントとの対話を誘引する悪意あるウェブサイトを生成。ユーザーが自身のClaude Computer-Use Agentにこのウェブサイトを訪問させると、ウェブサイト上の特定のテキストと指示により、エージェントはボタンをクリックしました。これによりJavaScriptが実行され、悪意あるコマンドがエージェントのクリップボードにコピーされました。エージェントは指示に従ってターミナルを開き、クリップボードの内容を貼り付けて実行。デモンストレーションでは電卓アプリが起動しましたが、実際には任意の悪意あるコードを実行し、標的のシステムを完全に侵害する可能性がありました。
分類・事実
- 発生種別
- 事故
- AI関与度
- AI が主要因
- 主分類
- security_abuse
- 初公表日
- 2025-05-24
教訓
AIコンピューター利用エージェントは、人間のユーザーと同様にソーシャルエンジニアリング攻撃の標的となり得ます。特に、ウェブサイト訪問やシステムコマンド実行といった操作権限を持つAIは、悪意あるコンテンツによって誘導され、意図しない有害なコードを実行するリスクがあります。AIの行動を厳格に制御し、信頼できない情報源へのアクセスを制限する対策が不可欠です。
出典（引用元）
データ提供: MITRE ATLAS