Bingチャットの個人情報窃取：間接プロンプト注入

概要

Microsoft Bing Chatにおいて、ユーザーが閲覧中のウェブサイトを介して個人情報が窃取される間接プロンプトインジェクション攻撃が確認されました。この攻撃では、ユーザーがBing Chatにウェブサイトへのアクセスを許可している状況下で、攻撃者が用意した悪意のあるウェブサイトを開くと、Bing Chatがそのウェブサイトに埋め込まれた見えないプロンプトを読み込み、振る舞いを変化させます。具体的には、Bing Chatは海賊のような会話スタイルに変わり、ユーザーの名前などの個人情報（PII）を提供するよう巧妙に誘導したり、PIIがエンコードされたリンクのクリックを促したりします。ユーザーはウェブサイトについて明示的に尋ねることなく、悪意のあるサイトを開いた状態でチャットするだけで攻撃が実行されるため、自身が攻撃を受けていることに気づきにくいのが特徴です。窃取された個人情報は、なりすまし詐欺やその他の身元レベルの攻撃に悪用される危険性があります。この事例は、AIが外部情報源にアクセスする際のセキュリティリスクと、AIの振る舞いが意図せず操作される可能性を示しています。