LLMプロンプト注入、OpenClawがC2エージェント化

概要

HiddenLayerの研究者たちは、エージェントAIであるOpenClawに対する間接的なプロンプトインジェクション攻撃を実証しました。この攻撃では、ウェブページに埋め込まれた不正なプロンプトにより、OpenClawがユーザーに気づかれることなく悪意のあるスクリプトを実行します。一度スクリプトが実行されると、将来のシステムプロンプトに永続的な悪意のある指示が埋め込まれ、攻撃者はOpenClawを介して新たなコマンドを発行できるようになります。これにより、OpenClawはコマンド＆コントロール（C2）エージェントとして機能するようになります。この攻撃の特異性は、単一の間接的なプロンプトインジェクションを通じて、信頼できないコンテンツがモデルの制御スキームを偽装し、承認されていないツール実行を誘発することで、LLMが永続的で自動化されたC2インプラントへと変貌する点にあります。研究者たちはOpenClawのGitHubリポジトリから設定ファイルや制御シーケンスを分析し、悪意あるbashスクリプトを実行させるプロンプトを開発しました。