Anthropic CEO「AI開発のペースを落とすべき」。Sam Altmanも賛同、なぜ今“減速”なのか

「もっと速く、もっと賢く」が続いてきたAI業界で、トップ企業のCEOたちが“速度を落とす”話をし始めています。Anthropic CEOのDario Amodeiは「We Must Pace the Frontier」と題した提言を公開し、最先端AIの能力向上を安全対策が追いつけるペースへ調整する必要があると主張しました。OpenAI CEOのSam Altmanも提案に支持を示しています。ただし、AI開発そのものを止めようという話ではありません。

「止める」ではなく「安全対策が追いつける速度へ」

Amodeiの主張は、AI研究を停止することではありません。

能力向上が速すぎると、評価、監視、安全対策、制度づくりが追いつかなくなる。そのため、最先端モデルの進歩を意図的に“pace”する必要があるという考えです。

ここ数か月、AIエージェントが外部システムへ想定外のアクセスをした事例や、Claudeがサイバー攻撃・監視・兵器関連ソフトウェアなどへ悪用された事例が相次いで明らかになりました。

モデルが賢くなるほど、便利さだけでなく悪用時の影響も大きくなります。

Amodeiが提案した3段階

特に注目したいのが、第三者評価者へemployee-like accessを与えるという考えです。

企業自身だけで「安全です」と評価するのではなく、外部から継続的に検証できる仕組みを作ろうとしています。

Sam Altmanも支持

Reutersによると、OpenAI CEOのSam AltmanもAmodeiの提案に支持を表明しました。

OpenAI側でも、少なくとも一部の外部評価措置を取り入れる考えを示しています。

ただし、OpenAIとAnthropicが具体的な共同減速協定を結んだわけではありません。

「主要AI企業が一斉に開発速度を落とすことが決まった」と読むのは早すぎます。

一番難しいのは「みんな同時にできるのか」

安全のためにペースを落とすという考え自体は理解しやすいものです。

難しいのは競争です。

ある企業が慎重になっている間に、別の企業や別の国が先へ進めば、慎重になった側だけが競争で不利になる可能性があります。

だからAmodeiは企業単独ではなく、業界、さらに国際的な協調まで必要だとしています。

フィジカルAI時代は失敗の影響も変わる

これからAIは画面の中だけではなく、ロボット、車、ウェアラブル、その他の機器として生活の中へ入っていきます。

ソフトウェア上の誤回答なら修正できても、現実世界で動くAIの誤作動は物理的な被害につながる可能性があります。

能力競争だけでなく、「安全に使えるところまで仕上げる競争」も同じくらい重要になってきます。

AnthropicとOpenAIのトップが「AIを止める」ではなく、「安全対策が追いつける速度へ調整する」という方向を語り始めました。問題は、激しい国際競争の中で本当に足並みをそろえられるのか。AI業界が次の段階へ入ったことを感じさせる動きです。