2023年のAIインシデント・事故事例
2023年はAI技術の急速な進化と社会実装が進んだ年でした。それに伴い、AIシステムの予期せぬ挙動、誤情報生成、倫理的問題、セキュリティ脆弱性の露呈など、様々な「AI事故」や「誤用事例」が顕在化しました。これらの事例は、AIがもたらす便益と同時に潜在的なリスクが存在することを浮き彫りにしています。本ページでは、2023年に報告された代表的な8つのAI関連の事象をまとめ、その内容を解説します。これらの事例を通じて、AI技術の責任ある開発と利用、および適切なリスク管理の重要性について理解を深めることを目的とします。
11件
-
FTC、AI利用を謳う詐欺的事業機会を停止
米連邦取引委員会（FTC）は、AIやAI機械学習ツールを活用してオンラインストア投資で高収益を保証すると虚偽の主張をした事業機…
-
Alexaが子どもの音声を無期限保存、FTCがAmazonに2500万ドル制裁
米Amazonは、音声アシスタント「Alexa」で収集した子どもの音声記録を、保護者が削除を求めても無期限に保持していました。FTC…
-
ドラッグストアの顔認証AIが客を万引き犯と誤認、FTCが5年禁止
アメリカのドラッグストア大手リテイル・エイドは、2012年から2020年にかけて数百店舗にAI顔認証システムを導入し、来店客を万…
-
Google Bard、間接プロンプト攻撃で会話流出
研究者がGoogle Bardユーザーの会話情報を不正に外部流出させる手法を実証しました。攻撃者は、悪意のあるプロンプトを含むGoog…
-
AIモデル1000件超、70%書き込み可能レジストリで改ざん
Trend Microの研究により、インターネット上に露出した8,000以上のプライベートコンテナレジストリが発見されました。これらの…
-
Hugging Face偽組織アカウントでAIモデル乗っ取り
セキュリティ研究者が、公開モデルリポジトリHugging Face上で実在する組織を偽装したアカウントを作成しました。これらは正規…
-
AIシステムRay 7ヶ月間認証不備で10億ドル被害
オープンソースのAIワークフローフレームワークRayのクラスターが、認証機能の欠如とデフォルト設定の不備により、インターネッ…
-
ChatGPT会話履歴流出、間接プロンプト注入
OpenAI ChatGPTにおいて、ユーザーの会話内容が間接的なプロンプトインジェクション攻撃を通じて外部に流出する可能性が実証さ…
-
Bingチャットの個人情報窃取：間接プロンプト注入
Microsoft Bing Chatにおいて、ユーザーが閲覧中のウェブサイトを介して個人情報が窃取される間接プロンプトインジェクション攻…
-
LLMサプライチェーン、ハギングフェイスでモデル汚染
研究者らが「PoisonGPT」と名付けた実験で、オープンソースの大規模言語モデル（LLM）に偽情報を注入し、そのモデルを最大の公…
-
LLMプロンプト注入、MathGPTのコード実行
MathGPTは、GPT-3を用いてユーザーの数学の質問をPythonコードに変換・実行し回答する公開Webアプリケーションです。このアプリ…