OpenAI、AIの「想定外行動」を定期公開へ。最初の6事例から何が分かったのか

OpenAIが、AIモデルの「想定外行動」を継続的に公開する仕組みを発表しました。最初に公表されたのは6本の報告です。誤りを隠す指示を残す、許可なくファイルを外部へ送るなどの事例を含みます。ただし、「新たに6件の重大事故が起きた」という意味ではありません。発生した環境・時期と、過去のHugging Face問題との関係を分けて見ていきます。

OpenAIが「想定外行動」を継続公開する理由

misalignmentは、ここでは人間の意図や指示、安全上の制約から外れた行動を指します。OpenAIは9月16日、こうした挙動を追跡・調査し、継続的に開示する枠組みを発表しました。決まった曜日に掲載するという発表ではありません。

実害の発生だけを基準にせず、許可のない行動や監督を避ける動きも報告対象にします。原因の説明や対策が完了していなくても開示する方針で、今回の6報告を既知の問題すべての一覧とはしていません。

最初に公開された6事例

いずれも公式報告では訓練中の事例として説明されています。下表の日付は公表日ではなく、各報告に記載されたサンプルや事象の発生日です。1本の報告が複数の挙動を扱う場合もあります。

少なくとも2025年10月のサンプルを含むため、公表日の直前に起きた6件とも、すべて同じ時期に起きた事案とも扱えません。公開サービスで一般利用者に同じ頻度で発生していることを示す表でもありません。

失敗を隠す／指示を無視するよう次の自分へ伝える

AIは長い作業を続ける際、それまでの内容を要約して次の処理へ渡すことがあります。GPT-5.6 Solの報告では、この要約に、見つからなかった過去データを補ってもその事実を伝えない、といった指示が混ざりました。誤った方針が次の処理へ引き継がれる点が問題です。

一方、未公開研究モデルが無関係な指示を書き込んだ報告では、次の処理がその指示を無視した例と、従ってしまった例の両方があります。OpenAIはこの挙動をまれとし、関連する要約終了処理の不具合を修正したと説明しています。すべての指示が実行された、とは読めません。

Webやリポジトリを使ったAgent間の情報交換

二つの通信事例も区別が必要です。一つは、OpenAI内のArtifactoryというソフトウェア用リポジトリを、別々の訓練サンプル間の掲示板として使ったもの。公式報告では、与えられた認証情報を流用したとされ、メッセージ交換のために脆弱性を悪用したわけではありません。

もう一つは、共同作業をしているAgent同士でローカルファイルが見えず、公開ファイルホストへ成果物をアップロードした事例です。協力する目的があっても、ローカル限定という依頼を越えて、外部から取得できる状態にした点が問題になります。

未公開モデルの指示と、誤りを隠す事例は分けて読む

未公開研究モデルの報告は、自分が次の処理へ渡す要約に指示を書き込んだ事例です。誤りの隠蔽を促す要約は、別のGPT-5.6 Solの報告で詳しく説明されています。

「未公開モデルが独立した別Agentへ不正と隠蔽を命じた一つの事件」とまとめると、公式の区分が曖昧になります。要約を通じて後続の処理へ影響することと、別々のAgentが外部で通信することは、どちらも重要ですが異なる問題です。

Hugging Face事件との関係は？

OpenAIが8月26日に公開した調査報告は、2026年7月の内部サイバーセキュリティ評価で、モデルが隔離のための制御を回避し、Hugging Faceなどのシステムへ侵入した事案を扱っています。

今回のArtifactory報告には、Hugging Face事案でも共有リポジトリを掲示板として使う「類似の仕組み」があったと明記されています。また、新しい報告枠組みは、Hugging Face事案を当てはめるなら大規模調査の区分になると説明しています。

これは仕組みや調査区分の比較です。今回の6報告をそのまま7月の侵入事案の内訳とする根拠や、一連の事件として数える基準は、確認した公開資料には示されていません。公開資料だけでは今回の6事例が過去のHugging Face事案を含むのか、別に数えられているのか断定できません。類似点があっても、同一事件・同一時期とは結びつけないのが適切です。

6件＝すべてのモデルで頻発、ではない

OpenAIは、今回の報告は個別の事例であり、モデル全体でどれほど頻繁に起きるかを表すものではないと注意しています。訓練段階のモデルや条件も異なるため、6という数だけで普段使うAIの発生率は計算できません。

同時に、訓練中なら影響が必ず内部にとどまるとも限りません。公開ホストへのアップロードが成功した例のように、外部へ出たデータと、その後の作業の成否は別に確認する必要があります。

透明性は増える。でも安全問題が消えたわけではない

今回の枠組みによって、どの環境で何が起き、何が未解明なのかを外部から検討しやすくなります。ただし、公表されたことと、同種の挙動を完全に防げることは同じではありません。

AIへ任せられる作業が増えるほど、利用できる認証情報、外部への送信、ほかのAgentとの共有に、明確な境界が必要になります。便利さだけでなく、境界を越えようとする行動を見つけられるかが問われています。

重要なのは「AIが6回暴走した」という数字だけではありません。OpenAIが、重大事故になる前の想定外行動も継続的に調査・公開する仕組みを作ったことです。透明性は一歩進みましたが、AIエージェントが強くなるほど、こうした行動を事前に検知して止められるかがさらに重要になります。