TorchNeuronとは？ AmazonがPyTorchをTrainiumで動かしやすくする新技術を発表

Amazonは10月19日、PyTorchで書かれたAIのコードを、自社のAI半導体Trainiumで動かしやすくするTorchNeuronを発表しました。半導体を替える際のソフトウェア移行の負担を減らす狙いです。

Amazonは、既存コードの大幅な書き換えをせず、設定変更でTrainiumを使えると説明しています。オープンソース公開は現地10月20日のPyTorch Conferenceで予定されています。

PyTorchの標準的な仕組みに接続

PyTorchはAIモデルの開発で広く使われるフレームワークです。TorchNeuronは、新しいハードウェアを登録するPyTorchの仕組みにつなぐことで、Trainiumを実行先にするものです。

Amazonの説明では、開発者が使っているテストやデバッグなどの道具を維持しやすくなります。対応する半導体はTrainium2とTrainium3で、Apache 2.0ライセンスでの公開が予告されています。

移行しやすさと、実際の性能は別

発表で示されたデモでは、実行先の設定を替えた同じ学習スクリプトが使われました。ただし、これはAmazonによる説明と実演です。すべてのモデルで、同じ速度や費用になるという保証ではありません。

開発環境を移しやすくなることには価値がありますが、使いたいモデルや処理でどれくらいの性能が出るかは別の問題です。サービスとしての料金や周辺機能も含め、自分の用途で比較できることが大切になります。

公開予定と、今すぐ使える範囲を分けて見る

オープンソース化の予定日が示された段階で、公開済みとして案内されたわけではありません。また、ソフトウェアの公開は計算資源そのものが無料になるという意味でもありません。移行のしやすさが、実際の選択肢や運用コストにどうつながるのかが今後の注目点です。