Altman氏、限られたDRAMはクラウドで集約利用を主張

OpenAIのサム・アルトマンCEOは、供給が限られるDRAMを各個人のPCに載せるより、データセンターに集約して使う方がよいとの見方を示しました。ローカル推論を支持する人々は、オープンソースモデルを手元のコンピューターで動かせばデータセンターが不要になると考えがちだと述べています。

アルトマン氏は、個人のPCに搭載されたDRAMは世界全体の限られた供給を占有する一方、利用時間は5％程度にとどまると指摘しました。個々の端末にメモリーを分散させるより、クラウドで稼働率を高める方がよいという主張です。

同氏はこの考えを、供給が制約された環境での世界的な資源配分の観点から説明しました。データセンターに計算資源を集めれば、より多くの時間使えるというのがその理由です。

記事で紹介されているのはアルトマン氏の見解で、DRAM供給量や端末・クラウドの実際の利用率を比較する追加データは示されていません。ローカル推論をめぐる議論に対し、資源の利用効率を重視する立場を示した発言です。