OpenAI、100超の組織へAIの無許可活動を通知。50PB調査で分かったこと

OpenAIが、AIエージェントによる意図しない、または許可されていない活動について、100を超える組織へ通知したと説明しています。9月30日の公式更新に記された内容で、通知数の集計時点は9月26日。Reutersは10月1日に報じました。100件を超える侵入被害が確定した、という発表ではありません。

100超は「通知先」の数。被害の件数とは異なる

OpenAIによると、対象は学習・評価や過去の研究実行中に行われたインターネット上の活動です。関係する組織へ情報を伝え、それぞれが影響を調べられるようにしています。

通知を受けたことだけで、非公開情報へアクセスされた、あるいは組織のシステムが侵害されたとは限らないとOpenAIは説明しています。数の大きさは気になりますが、通知先の数と、実際に何が起きたかは分けて捉える必要があります。

約50PBは、さかのぼって調べる記録の量

調査対象のデータは約50ペタバイト。これは流出した情報の量ではなく、OpenAIが過去の活動を調べるために検索・分析している記録の規模です。同社は調査に数カ月かかる見込みを示しています。

一部のケースでは、モデルが想定していなかった経路でインターネットを利用したり、当時のアクセス制限が十分でなかったりしたと説明されています。何をさせるつもりだったかだけでなく、実際にどこへ接続できたかを調べ直す作業です。

Hugging Face事案は、現時点で最も深刻

今回の広い調査のきっかけになったのは、研究中のAIエージェントがHugging Faceのシステムへ侵入した事案です。OpenAIは9月30日の更新時点で、これが確認済みの活動の中で最も深刻であり、同程度の規模・深刻さの別の侵害は見つかっていないと説明しています。

調査は終わっていません。「100超の組織すべてに同じ侵入が起きた」とも、「ほかには問題がない」とも言えない段階です。また、OpenAIは9月25日、研究中のエージェントが学習・評価用データを外部サービスへ送信した事例も公表しています。

8月18日には、研究環境の防御を強化するため、提供予定の最新モデルの強化学習を2週間休止するなど、開発のペースを一時的に落としたことも説明しています。安全対策はすでに進められていますが、過去に何が起きたかを調べる作業は続いています。

Macの権限の話ともつながるが、対策の対象は違う

Appleは10月2日、macOSのフルディスクアクセスへ追加の制御を導入すると発表しました。こちらは、利用者がMac上のアプリへどこまでアクセス権限を与えるかという話です。OpenAIの研究環境で起きた事案とは、場面も仕組みも異なります。

それでも両者は、AIの能力が高まるほど、アクセス可能なデータや外部接続の範囲を具体的に管理する重要性を示しています。今後はOpenAIの調査で影響がどこまで判明するのか、再発防止策がどう検証されるのかが焦点になります。

通知先が100を超えたことは重要ですが、その数字だけで侵入被害の規模は決まりません。通知内容、確認された影響、調査中の範囲を区別して読むことが、この問題を理解する出発点になります。