AI新聞

メモリ不足と価格高騰が続く中、Altman氏はPCのDRAMは平均で5%しか使われておらず、PCに個別にメモリを積むのは無駄で、DRAMはクラウドに集めるべきと主張する。ローカルでAIを動かしたい需要はあるが、限られた資源は高い稼働率が見込めるデータセンターに回すのが合理的だと述べる。

一方でメモリ各社は過去の過剰投資を警戒し増産に慎重で、供給の伸びは2028年以降と見込まれる。サーバー向けが優先され、PC向けDDR5は品薄と高値が続く可能性が高いと記事は整理している。

ローカルAIの普及でデータセンター依存が下がるのではという議論に対し、アルトマン氏は個人PCに大量のDRAM（作業用メモリー）を積む発想は、世界規模では資源の無駄が大きいと指摘した。

各人のPCでメモリーが大半の時間眠るより、クラウドでDRAMを24時間共有活用したほうが限られた資源を有効に使えるという主張だ。一方で、ローカルAIにはプライバシーや遅延の利点もあり、OpenAIの事業構造がクラウド寄りである点も含め、最適な配分を社会全体でどう決めるかが論点だ。

LLMの内部にRISC-V相当のCPU回路を「学習ではなくコンパイルで」埋め込み、DeltaNetの状態をRAMのように使う手法を検証した記事。著者は実機で命令実行トレースの一致を確認し、LLMの順伝播の中で機械語が走ることを示した。つまり、学習なしで厳密な計算をLLM内部に埋め込める可能性が実証された。

一方で、この経路に勾配を流して学習させようとすると、出力の確信度が極端に高く勾配が消える・爆発するなどの問題が起き、素直な学習は難しかった。著者は、CPU部分は固定し、その前後だけを学習する「混成型」の設計が現実的だと述べる。

外部のPythonを呼ぶ従来方式と違い、記号計算をモデル内部に取り込めるのが新しいが、正確な記号処理と柔らかな学習をどう結びつけるかが今後の核心だとしている。

AIデータセンター需要でDRAMが高騰し、ローカル推論が注目される中、アルトマン氏はPCのDRAMは大半が遊んでおり「5%しか使われない」と主張。供給が限られる今は、限られたDRAMをクラウドに集めて稼働率を最大化すべきだとし、市場の自動調整も今回は機能していないと述べた。

これに対し筆者は、OpenAI自体がStargate向けに巨額のメモリ確保を進める当事者だと指摘。ローカル推論は遅延の少なさや手元にデータを置ける利点が大きく、PCのDRAMを「無駄」と決めつけるのは自己都合で、利用者、とくにPCゲーマーには納得しがたいと批判している。