AIは家電で自己複製できるのか。Anthropic研究が示した可能性と実験の限界

Anthropicが10月12日に公開したAIの自己複製研究を、Reutersが13日に報じました。家庭用のネット接続機器でもAIを動かせるか、さらに別の機器へ広がる工程をこなせるかを調べたものです。現実の家庭でAIが自発的に感染を広げたという報告ではありません。

小型モデルは個別の工程をこなせても、連鎖は未達

研究では、300億パラメーター以下の小型モデルが、未知の機器でAIを動かす準備など、自己複製に関わる個々の工程をこなせることを示しました。ただし、それらを最初から最後まで安定してつなげる段階には達していません。

機器上でモデルを動かせることと、そのモデルが自力で次の機器へ移り続けることは別です。研究の結果を読むうえでは、この差が重要になります。

GLM-5.2の結果にも、外部サーバーという条件がある

GLM-5.2は、隔離された簡略条件の環境で、Llama 3.1-8Bの実行環境を展開する一連の作業を進めました。ただし、指示や判断を行うGLM-5.2自身の推論は外部サーバーで動いています。家庭用機器にGLM自身が完全に移り、自力で増え続けた実証ではありません。

実験は現実の機器への侵入を簡略化した条件でもあります。研究チームは、完全な制御不能の自己複製AIはまだ実証していないとしています。

分散すると、止める場所が一つとは限らない

研究が問題にするのは、将来、多数の機器に処理が分散した場合の停止の難しさです。一つのサービスを止めるだけでは済まず、感染した機器やネットワークを横断した対応が必要になる可能性があります。

停止できる仕組みを求めることは大切ですが、単一のキルスイッチで必ず解決できると示した研究ではありません。現時点の実験結果と、今後への予測を分けて受け止める必要があります。

今回示されたのは、個別工程の能力と簡略条件での可能性です。小型AIが実際の家庭で自律的に増え続ける完全な仕組みを実証したわけではありません。