AIインシデント・事故DB > 事例詳細

AIモデル1000件超、70%書き込み可能レジストリで改ざん

概要

Trend Microの研究により、インターネット上に露出した8,000以上のプライベートコンテナレジストリが発見されました。これらの約70%には書き込み権限のある設定不備があり、認証なしで1,000以上のユニークなAIモデルを含むコンテナイメージがダウンロード可能でした。攻撃者は、露出したAIモデルをダウンロード、検査、変更し、貴重な知的財産を盗む可能性があります。さらに、書き込み可能なレジストリを悪用することで、改ざんされたAIモデルを含むコンテナイメージを正規のものとしてプッシュし、AIサプライチェーンを侵害できます。これにより、本番環境で利用されるAIモデルの完全性が損なわれ、誤分類や性能低下といった深刻な影響が生じるおそれがあります。この事例は、設定不備、不適切な認証・認可、不十分なネットワーク分離がAIモデルのセキュリティリスクを高めることを示しています。

分類・事実

発生種別
事故
AI関与度
AI が主要因
主分類
security_abuse
初公表日
2023-09-26

教訓

プライベートコンテナレジストリの厳格な設定とアクセス制御は必須です。適切な認証・認可メカニズムの導入、ネットワーク分離の徹底、そしてAIモデルを含む知的財産の保護が、AIサプライチェーン攻撃を防ぐ上で極めて重要となります。

出典(引用元)

データ提供: MITRE ATLAS

本ページは、上記の一次情報(各府省の公表資料等。政府標準利用規約に基づき出典明示のうえ利用)を、AIが要約・分類して編集・加工したものです。正確な内容は必ず一次情報をご確認ください。

← 事例一覧へ戻る