AIインシデント・事故DB > 事例詳細

PyTorch依存関係のサプライチェーン攻撃、機密データ流出

概要

2022年12月25日から30日にかけ、AIフレームワークPyTorchのプレリリース版「Pytorch-nightly」のLinuxパッケージが、ソフトウェアサプライチェーン攻撃の被害に遭いました。攻撃者はPythonパッケージリポジトリPyPIに、正規のPyTorch依存関係「torchtriton」と同じ名前の悪意あるパッケージをアップロード。PyPIが他のソースより優先される特性を利用し、pipがこの偽装されたパッケージを誤ってインストールしました。これにより、影響を受けたPyTorch-nightlyがインストールされたLinuxマシンから、IPアドレス、ユーザー名、ホスト名、環境変数、/etc/passwd、ユーザーのホームディレクトリ内のファイル、SSH設定など、広範な機密情報が窃取され、外部に送信されました。PyTorchは12月30日にインシデントを公表し、「torchtriton」依存関係の名称変更と削除を含む緩和策を実施しました。この事例は、AI開発基盤を含むソフトウェアサプライチェーンにおける依存関係のセキュリティ確保の重要性を示しています。

分類・事実

MITRE ATLAS 事例ID
AML.CS0015
発生種別
事故
AI関与度
AI が主要因
主分類
security_abuse
初公表日
2022-12-25

教訓

本件は、ソフトウェアサプライチェーン攻撃、特に依存関係の偽装がAI開発基盤に与える深刻なリスクを浮き彫りにしました。PyPIのような公開リポジトリからパッケージを導入する際は、その正規性を厳しく検証し、依存関係の管理を徹底することが不可欠です。開発環境における依存関係の定期的な監視や脆弱性スキャンを強化し、不審なアクティビティを早期に検知・対処する体制を構築する必要があります。また、システム上の機密情報へのアクセス権限を最小限に留める多層的なセキュリティ対策も重要です。

出典(引用元)

データ提供: MITRE ATLAS

この事例で問われる知識

  • AIシステムが攻撃対象になる経路(入力・学習データ・配布経路)の整理
  • なりすまし・偽造入力・プロンプトインジェクションに対する多層防御の設計
  • AIの判定を単独の根拠にしない運用(人による確認・異常検知・監査ログ)

この内容を体系的に学べる試験:AIセキュリティ資格

AIESPAは、AIの利用・運用にともなうリスクへの対応力を客観的に測る認定試験です。上に挙げた論点は「AIセキュリティ資格」の出題範囲に含まれています。出題範囲は試験対策テキスト(Webで無料公開)で確認できます。

AIセキュリティ資格の詳細を見る

受験料2,980円・オンライン完結・申込はこちら

Level 1 Basic ¥2,980(税込)/20問・制限時間20分/オンラインで完結/合格証は永年有効・更新費用なし

受験を申し込む

まずは無料の模擬試験で理解度を確認する

本ページは、上記の一次情報(各府省の公表資料等。政府標準利用規約に基づき出典明示のうえ利用)を、AIが要約・分類して編集・加工したものです。正確な内容は必ず一次情報をご確認ください。

← 事例一覧へ戻る