AWS Trainium

AWS Trainium
生産時期 2022年(Trn1インスタンスの一般提供)から
販売者 Amazon Web Services(Amazon EC2のインスタンスとして提供)
設計者 Annapurna Labs(Amazon Web Services)
プロセスルール 3nm(Trainium3)
アーキテクチャ 独自(NeuronCore)
ブランド名 Trainium・Trainium2・Trainium3
テンプレートを表示

AWS Trainium(エーダブリューエス トレニアム)は、Amazon Web Services(AWS)の子会社であるイスラエルの半導体設計企業Annapurna Labsが設計し、AWSが自社のクラウドサービス向けに提供している機械学習向けのAIアクセラレータである。深層学習モデルの学習(トレーニング、大量のデータからモデルを作る処理)に用途を絞って設計されたチップで、第2世代のTrainium2以降は推論(学習済みのモデルを使って答えを出す処理)にも用いられる。単体の製品として販売されるのではなく、Amazon EC2のTrnインスタンスとして提供される。2020年12月に第1世代が発表され、2025年12月には、Trainiumとしては第3世代となるTrainium3を搭載するインスタンスの一般提供が始まった。

概要

AWSはTrainiumを、生成AIの学習と推論に向けて設計した専用のAIアクセラレータのファミリと位置付け、世代の名称としてTrainium1・Trainium2・Trainium3を用いている。AWSは機械学習向けの自社設計チップを、当初は推論用のAWS Inferentiaと学習用のTrainiumという2系統として投入し、第1世代の発表時には、従来のプロセッサやGPUを用いる場合より高速で安価な学習処理を実現するチップと説明した。英国のフィナンシャル・タイムズは2024年11月、Trainium2の提供開始を前に、Amazonが自社設計のAIチップによってNVIDIAへの依存を減らそうとしていると報じた。

利用者はTrainiumを、世代に対応するTrn1系・Trn2系・Trn3系のEC2インスタンスタイプを選ぶ形で使い、多数のインスタンスをまとめたEC2 UltraClustersとして大規模に配置することもできる。料金は他のEC2インスタンスと同じく利用した分だけを支払う形である。

世代

2026年時点で3世代が提供されている。次の表の仕様はいずれもAWSが公表した値で、NeuronCoreはチップ内の演算ユニット、FP8は8ビットの浮動小数点形式での演算性能を表す。

世代発表主な搭載インスタンス(年は一般提供)主な仕様
Trainium(Trainium1)2020年12月Trn1(2022年)・Trn1n(2023年)1チップに2基のNeuronCore、インスタンスあたり最大16チップ・最大512ギガバイトのメモリ
Trainium22023年11月Trn2(2024年)・Trn2 UltraServersインスタンスあたり16チップで最大20.8ペタフロップス(FP8)・1.5テラバイトのメモリ
Trainium32024年12月Trn3 UltraServers(2025年)3nmプロセス、1チップあたり2.52ペタフロップス(FP8)・144ギガバイトのメモリ

初代のTrainiumを搭載するTrn1インスタンスは最大3.4ペタフロップスの演算性能を持ち、チップ間はNeuronLinkという専用の相互接続で、インスタンス間はElastic Fabric Adapterによる最大800ギガビット毎秒のネットワークで結ばれる。AWSは、P4dインスタンスと比べて学習にかかる費用を最大50%抑えられるとしている。

Trainium2について、AWSは第1世代と比べて性能が最大4倍、メモリ容量が3倍、電力効率が最大2倍になるとしている。Trn2 UltraServersは、NeuronLinkによって4台のTrn2インスタンス、合計64基のTrainium2を1つのノードとして接続する構成である。AWSは、GPUを搭載するP5e・P5enインスタンスと比べて価格に対する性能が30〜40%良いとしている。

Trainium3は、AWSが初めて3nmの製造プロセスを用いたAIチップであり、メモリはTrainium2の1.5倍の容量で高帯域幅メモリのHBM3eを用いる。Trn3 UltraServersは最大144基のTrainium3までまとめることができ、AWSは、Trn2 UltraServersと比べて最大4.4倍の性能と4倍のワットあたり性能を実現するとしている。

仕組みと特徴

TrainiumとInferentiaは、AWS Neuronという共通の開発ツール群から利用する。Neuronにはコンパイラ、ランタイム、学習と推論のライブラリ、開発者向けツールが含まれ、PyTorchやJAXといったフレームワークから使える。AWSは、PyTorchとの統合によってモデルのコードを書き換えずにTrainium上で学習や推論を実行できるとしている。Hugging FaceのライブラリとNeuronをつなぐOptimum Neuronも用意されており、Amazon Elastic Kubernetes ServiceやAmazon SageMakerなどのAWSのサービスからも利用できる。

Neuronには稼働状況を調べるツールも付属する。メトリクスを収集するNeuron Monitorは結果をJSON形式で出力し、付属のスクリプトを介してAmazon CloudWatchへ送ったり、Prometheusの形式で公開してGrafanaのダッシュボードで可視化したりできる。AWSは、NeuronはパートナーのプラットフォームやDatadogなどのツールとも統合でき、監視・ログ・通知を一元化してオブザーバビリティを広げられると説明している。Datadogも、Neuron MonitorがPrometheus形式で公開したメトリクスを取り込むTrainiumおよびInferentia向けの連携機能を提供している。

採用

AWSは、2025年12月時点で100万個を超えるTrainiumを自社のデータセンターで稼働させているとしている。AWSは2025年10月29日、米国インディアナ州のデータセンター「Project Rainier」で、Anthropicと共同で開発したTrainium2約50万個のクラスターが稼働を開始したと発表した。このクラスターはAnthropicの大規模言語モデルであるClaudeの学習と推論に用いられる。

2024年のre:Inventの基調講演では、AppleがTrainium2を早い段階で評価し、学習の効率が50%向上すると見込んでいることが紹介された。

歴史

Trainiumは、2020年12月にAWSの年次イベントre:Invent 2020で発表された。当初はTensorFlowやPyTorchなど主要な機械学習ライブラリへの対応が特徴として挙げられ、2021年後半の登場が予告された。

2021年11月30日にTrainiumを搭載するTrn1インスタンスのプレビューが始まり、2022年10月10日に米国東部(バージニア北部)と米国西部(オレゴン)のリージョンで一般提供が開始された。2023年4月13日には、ネットワークの帯域を倍にしたTrn1nの一般提供が始まった。

第2世代のTrainium2は2023年11月のre:Invent 2023で発表され、2024年12月3日にTrn2インスタンスの一般提供とTrn2 UltraServersのプレビューが始まった。Trainiumとしては第3世代となるTrainium3は2024年12月のre:Invent 2024で発表され、2025年12月2日にTrn3 UltraServersとして一般提供が始まった。同じre:Invent 2025では、Trainium3と比べて1チップあたり6倍の性能、4倍のメモリ帯域、2倍のメモリ容量を目標に開発する次世代のTrainium4も発表された。

関連項目

脚注

  1. 1 2 3 4 5 “AI アクセラレーター - AWS Trainium”. Amazon Web Services. 2026年9月7日閲覧。
  2. 1 2 3 4 笠原一輝 (2023年11月29日). “AWS、30%性能が向上したArm CPU「Graviton4」、性能4倍の新AIアクセラレータ「Trainum 2」などを発表”. クラウド Watch(インプレス). 2026年9月7日閲覧。
  3. 1 2 3 4 “AWS、独自のAI処理専用プロセッサ「AWS Trainium4」を発表。現行のTrainium3の6倍の性能、4倍のメモリ帯域幅を目指す”. Publickey (2025年12月4日). 2026年9月7日閲覧。
  4. 1 2 3 “AWS、新たな独自プロセッサ「AWS Trainium」発表。機械学習のトレーニング処理に最適化、テラフロップス級の性能を発揮。AWS re:Invent 2020”. Publickey (2020年12月3日). 2026年9月7日閲覧。
  5. 1 2 3 4 5 6 “より迅速で低コストの生成 AI トレーニングを実現する Amazon EC2 Trn3 UltraServers の発表”. Amazon Web Services (2025年12月2日). 2026年9月7日閲覧。
  6. ↑ Michael Acton、Tim Bradshaw (2024年11月12日). “Amazon ready to use its own AI chips, reduce its dependence on Nvidia” (英語). Financial Times. Ars Technica. 2026年9月7日閲覧。
  7. 1 2 3 4 5 6 Antje Barth (2022年10月10日). “Amazon EC2 Trn1 Instances for High-Performance Model Training are Now Available” (英語). Amazon Web Services. 2026年9月7日閲覧。
  8. 1 2 “[速報]AWS、大規模言語モデルのトレーニングに最適化した独自プロセッサ「AWS Trainium2」発表。前モデルより最大4倍のトレーニング性能。AWS re:Invent 2023”. Publickey (2023年11月29日). 2026年9月7日閲覧。
  9. 1 2 “Amazon EC2 Trn2 インスタンスの一般提供を開始”. Amazon Web Services (2024年12月3日). 2026年9月7日閲覧。
  10. 1 2 3 “AWS、生成AIのトレーニングに最適化した独自プロセッサ「AWS Trainium3」発表。Trainium2の2倍の性能に”. Publickey (2024年12月5日). 2026年9月7日閲覧。
  11. 1 2 3 “生成 AI と深層学習用 SDK - AWS Neuron”. Amazon Web Services. 2026年9月7日閲覧。
  12. ↑ “Neuron Monitor User Guide” (英語). Amazon Web Services. 2026年9月7日閲覧。
  13. ↑ “AWS Inferentia and AWS Trainium Monitoring” (英語). Datadog. 2026年9月7日閲覧。
  14. ↑ “AWSとGoogleから計200万個、爆増する新興AnthropicのAIチップ利用”. 日経クロステック (2025年10月31日). 2026年9月7日閲覧。
  15. ↑ “Announcing preview of Amazon EC2 Trn1 instances” (英語). Amazon Web Services (2021年11月30日). 2026年9月7日閲覧。
  16. ↑ “Announcing Amazon EC2 Trn1 instances for high-performance, cost-effective deep learning training” (英語). Amazon Web Services (2022年10月10日). 2026年9月7日閲覧。
  17. ↑ 笠原一輝 (2024年12月4日). “AWS、re:Inventで新生成AIモデル「Amazon Nova」や生成AI学習向けの新しいEC2インスタンスなどを発表”. クラウド Watch(インプレス). 2026年9月7日閲覧。

外部リンク