詳細を読む
AIハードウェアの新興企業Majestic Labsは2026年6月1日、最大128TBのメモリを搭載するAIサーバー「Prometheus」を開発中だと明らかにしました。これはNvidiaの最先端機「DGX B300」の60倍を超えるメモリ容量で、大規模言語モデル（LLM）の推論性能を縛るメモリの壁を打破することを狙います。
LLMのトークン生成は、データをメモリから読み込む速度に律速されるメモリ律速の処理だとされています。モデルが巨大化するほどこのボトルネックは深刻になり、Majesticの共同創業者サハ・ラビ氏は、Nvidia方式は規模拡大に伴い「演算を過剰に積み、メモリが枯渇する」と指摘します。
Majesticは競合と異なり、高速なHBMではなくDRAM（LPDDR6）に全面的に賭けた統合アーキテクチャを採用しました。通常メモリ接続は数ミリの近距離に限られますが、同社は最長1メートルまで届く独自の銅ケーブル接続と、メモリ近傍に置く集約チップを用い、大容量と毎秒25.6TBの帯域幅を両立させます。
演算面では、ARMのアプリケーションコアとRISC-Vのベクトル・テンソルコアを1チップに統合した独自プロセッサ「Ignite」を搭載し、Prometheusには12個を積みます。PyTorchやvLLM、OpenAIのTritonをコード改変なしで動かせるため、既存モデルをそのまま実行できる点も特徴です。
サーバーはOpen Compute Project準拠で、ラックあたり最大4台、消費電力は最大120kW、冷却は液冷を使います。出荷は2027年予定で価格は未発表ですが、HBMの代わりにDRAMを使うことで、設備投資と消費電力をワークロード次第で10〜50分の1に下げられると同社は主張しています。