OpenAI GPT-2モデル複製、公開情報で研究者が再現

概要

OpenAIが開発した高品質テキスト生成AI「GPT-2」は、悪用懸念から完全版の公開が保留され、技術文書と小規模版のみが先行リリースされました。しかし、OpenAIが完全版を公開する前に、ブラウン大学の研究者が公開された技術情報と既存のオープンソース機械学習ツールを組み合わせ、GPT-2モデルを機能的に複製することに成功しました。具体的には、公開文書からデータセット、モデルアーキテクチャ、トレーニングパラメータを収集し、類似の公開モデルを基にGPT-2の目的関数を再現、学習させました。この再現されたモデルは、元のGPT-2と同等の性能を示しました。この事例は、十分な技術スキルと計算資源を持つ悪意のあるアクターが、AIセキュリティコミュニティの準備が整う前に、強力なAIモデルを複製し、なりすましや偽情報生成などの悪意ある目的に利用できる潜在的なリスクを浮き彫りにしました。AI技術の公開とセキュリティのバランスの重要性を示唆しています。