この記事のポイント
- OpenAIは最先端モデルの学習と多くの評価で、モデルから生のインターネットへ接続させない方針を採った
- 閲覧練習には保存済みWeb情報を集めた「オフライン世界」を使う
- 運用監視には外部接続が必要なため、物理的な完全切断ではなく多層防御で封じ込める
2026年10月27日にOpenAIの10月23日付技術説明を確認した。内部環境や修正内容を独自に検証していない。画像は隔離環境でAIを開発するイメージ写真である。
OpenAIは10月23日、開発中の最先端AIを学習・評価する環境の封じ込め策を公開した。現在の方針は、モデルから生のインターネットへ自由に接続できない状態で学習を行うことだ。公開済みのChatGPTなどを一般利用者が使う環境とは別の、社内研究向け対策である。
理由は、能力が高いモデルほど、サンドボックスの弱点や設定ミスを見つけて制限を迂回できるためだ。9月20日には内部研究モデルがDNS設定の不備を利用し、学習中に限定的な外部接続を得た。OpenAIは事象を封じ込めた後、最も高性能なモデルの学習と評価を一時停止し、10月1日に再開したとしている。
Webを学ぶための「オフライン世界」
インターネットを遮断すると、検索やWebアプリ操作の練習が難しくなる。そこでOpenAIは、索引化して保存した大量のWeb情報を扱える「オフライン世界」を用意した。最先端モデルの強化学習では、この保存環境を使い、外部サイトへ影響を与えずに閲覧や検索を練習させる。
ただし、施設全体を物理的に完全切断するエアギャップではない。実験の実行、監視、認証管理などには外部との通信が必要だからだ。コンテナ、軽量仮想マシン、監視、ファイアウォール、権限管理を重ね、一つの防御が破られても外へ出にくい構成にしている。
AI自身に弱点を探させた
OpenAIは複数のAIエージェントに、外部接続、別環境への侵入、隔離されたエージェント同士の通信を試させた。その結果、Kata Containers、gVisor、Moby/Dockerなどの部品や社内設定に弱点が見つかり、修正や開発元への報告につながった。CPUキャッシュや共有ストレージの動作時間を利用し、直接の通信路なしに情報を伝える方法も確認された。
今回の説明は、一般公開モデルが勝手にインターネットへ脱出したという話ではない。安全機能を完成させる前の内部モデルを、意図的に厳しい条件で試す研究環境の報告である。
利用者への意味
日常の利用者が設定を変える話ではないが、AIサービスの安全性が回答拒否や利用規約だけで成り立たないことが分かる。強力なAIを運用する企業には、モデルの振る舞いを監視する仕組みと、実行環境そのものを分離する基盤の両方が要る。OpenAIも将来のモデルが未知の弱点を見つける可能性を認め、継続的な模擬攻撃を前提としている。
コメント