2020年のAIインシデント・事故事例
AI技術の発展は社会に多大な恩恵をもたらす一方、導入・運用過程で予期せぬ事故や誤用事例も報告されています。本ページでは、2020年に発生したAI関連の事故事例や誤用ケースを10件厳選し、概要と背景を解説。これらはAIシステムの設計ミス、データバイアス、倫理的課題、意図しない利用など、多岐にわたるリスク領域を示唆しています。本まとめを通じ、AIの潜在的課題を客観的に理解し、安全で信頼性の高いAI開発・利用に向けた議論の一助となることを目指します。
10件
-
AI本人確認を偽造IDで突破、340万ドル不正受給
2020年10月から2021年12月にかけ、ある個人がカリフォルニア州で少なくとも180件の虚偽の失業保険申請を行い、ID.meの自動本人…
-
AI顔認証システム、物理的回避攻撃で標的型誤認識誘発
MITREのAIレッドチームが、商用顔認証サービスに対し物理的な回避攻撃を実証しました。この攻撃は、顔認証システムに特定の標的…
-
エッジAI画像認識、目視不能な画像操作で誤分類
Azure Red Teamは、エッジAIワークロード向け新Microsoft製品でレッドチーム演習を実施。自動システムで画像を操作し、MLモデル…
-
Azureサービス、敵対的ML攻撃で学習データ窃取と停止
Microsoft AIレッドチームは、内部のAzureサービスを標的としたレッドチーム演習を実施し、サービスの停止を試みました。この演…
-
AI顔認証、設定不備で7万件動画サンプルと認証情報にアクセス
Clearview AIの顔認識ツールのソースコードリポジトリに設定不備があり、任意のユーザーがアカウントを登録できる状態になって…
-
機械翻訳モデル複製、敵対的入力で誤訳や不適切出力
UC Berkeleyの研究グループが、Google翻訳、Bing翻訳、Systran翻訳といった主要な機械翻訳サービスを対象に、その公開インター…
-
AI顔認証システムを偽動画で突破、7700万ドル詐取
中国の上海市政府税務局の顔認識サービスが、カメラハイジャック攻撃により不正に突破され、大規模な詐欺事件が発生しました。…
-
AIマルウェア検知モデル学習データ汚染、98〜74%類似で誤分類
McAfee Advanced Threat Researchは、特定のランサムウェアファミリーの異常な報告増加を検知しました。調査の結果、人気のある…
-
AIマルウェア検出器、汎用ドメイン変異で大半のMLモデル回避
Palo Alto NetworksのセキュリティAI研究チームは、同社の機械学習（ML）ベースのボットネットDGA（ドメイン生成アルゴリズム）…
-
Palo Alto AIマルウェアC&C検知、敵対的サンプルで回避
パロアルトネットワークスの研究チームは、マルウェアのコマンド＆コントロール（C&C）トラフィックを検出する深層学習モデルの…