AIモデル不正抽出、Claudeから2.4万アカウント・1600万回クエリ

概要

Anthropicは、中国の3つのAIラボ（DeepSeek、Moonshot、MiniMax）が、同社のAIモデル「Claude」の機能を不正に抽出するモデル蒸留キャンペーンを実施していたことを発見しました。これらのラボは、約24,000の不正アカウントと1,600万件以上のクエリを使用し、商業プロキシサービスを通じてClaudeのAPIにアクセス。Claudeの出力を用いて自社モデルを訓練し、推論、コード生成、ツール利用といったClaudeの差別化された能力を模倣しようとしました。これは、Anthropicが中国での商用アクセスを制限する輸出規制を回避する目的で行われました。蒸留されたモデルには、生物兵器開発、偽情報、サイバー攻撃、大規模監視などの悪用を防ぐセーフガードが欠如しており、ユーザーが潜在的に有害な出力に晒される危険性があります。本件は、AIモデルの不正利用と知的財産保護の重要性、および輸出規制を迂回する手口への対策の必要性を示しています。