出典：TechCrunch
詳細を読む
Amazonは自社開発AIチップ「Trainium」の開発拠点であるオースティンのチップラボを報道陣に初公開しました。同チップはOpenAIとの500億ドル規模の提携やAnthropicのClaude運用を支える中核技術として注目を集めています。
Trainiumは当初モデル学習向けに開発されましたが、現在は推論処理にも最適化されています。Amazon Bedrockサービスの推論トラフィックの大半をTrainium2が処理しており、全世代で140万チップが稼働中です。Anthropicは100万チップ以上を利用しています。
最新のTrainium3はTSMC製の3ナノメートルプロセスで製造され、独自設計のNeuronスイッチによりチップ間をメッシュ接続し遅延を大幅に削減します。新型Trn3 UltraServerは従来のクラウドサーバーと比較して最大50%のコスト削減を実現するとAmazonは説明しています。
NvidiaのGPUからの移行障壁を下げるため、TrainiumはPyTorchに対応しており「1行の変更と再コンパイルで動作する」とエンジニアは説明します。さらにAmazonはCerebras Systemsとの提携も発表し、推論チップの連携による低遅延AI処理を目指しています。
開発チームは2015年にAmazonが約3.5億ドルで買収したイスラエルのAnnapurna Labsを母体とし、10年以上の設計実績があります。CEOのAndy Jassy氏はTrainiumを「数十億ドル規模のビジネス」と公言しており、次世代のTrainium4の開発も進行中です。