OpenAI、自社LLMでAI半導体設計を高速化

短期開発の成果

構想から初回製造まで20カ月未満
100人未満の平均開発体制

LLM活用の焦点

高位合成による高速反復
40時間で性能を大幅改善

人とAIの分担

Broadcomとの設計分業
最終判断を担う技術者
詳細を読む

OpenAIは8月25日、初のAIアクセラレーター「Jalapeño」の全容を公表しました。自社LLMを設計やソフトウェア最適化に使い、100人未満で推移したチームが構想から最初のシリコンまでを20カ月未満、最初のRTLから製造向け設計確定までを9カ月で進めました。

Jalapeñoは4ビット演算で最大13.4ペタフロップス、先端メモリー232ギガバイト、毎秒15.4テラバイトの接続帯域を備えます。OpenAIが示したベンチマークでは、現在利用するNvidia GB300より応答完了までの遅延を最大3.6倍短縮し、消費電力も抑えましたが、実運用での効果は未確認です。

設計前半では、Google発のオープンソース高位合成基盤XLSを採用しました。LLMが扱いやすいDSLXやC++で記述し、XLSでVerilogへ変換することで、技術者は設計案の反復を速めました。

最初のチップ到着後は、社内モデルをソフトウェア最適化にも投入しました。DeepSeekの注意機構向け処理では、理論上限比の性能が0.31%から88.94%へ約40時間で上昇し、量産立ち上げまでの期間短縮につながる再現可能な成果だとOpenAIは説明しています。

役割分担では、OpenAI推論回路、メモリー階層、ネットワークを含むシステム設計を担い、Broadcomがゲート以降の物理設計と製造工程を担当しました。AIによる物理設計最適化では、行列演算ユニットの面積を熟練者による基準から10%削減したとしています。

今後は検証や物理設計、故障信号を探す波形解析にもAI活用を広げる方針です。一方でOpenAIは、最先端チップCodexだけで自動設計できるとはせず、技術者が最終判断を担う小規模チームの生産性向上として位置づけています。