Micron、SOCAMMや12-Hi HBM3Eについて説明 - NVIDIAがAIデスクトップPCなどで採用

3月17日からサンノゼでNVIDIAのGTC 2025が開催されたが、この際に基調講演で示されたDGX Station(Photo01)で採用されたSOCAMM(赤枠部分)、及びNVIDIA HGX300 NVL16やGB300 NVL72で利用されている12-HiのHBM3eをMicronが供給している事が3月18日に発表された。これに関する説明会がオンラインの形で開催されたので、その内容をご紹介したい。

Photo01: これは基調講演の動画より。1時間49分過ぎからDGX Stationの紹介が行われている。ちなみに赤枠は筆者が追加している。

3月18日に発表されたのは、LPDDR5xをベースにしたSOCAMM、それと12-HiのHBM3e 36GBの2つである(Photo02)。もともとNVIDIAがGH200 Grace Hopperを発表した時、Grace CPUにはボードに直接はんだ付けされる形で8つのLPDDR5xチップが搭載されていた(Photo03)。ただ何しろボードに直接はんだ付けだから、あとから容量の変更とかが一切できない。この辺りに恐らく不満が集まったのだろう。今回BlackwellベースのDGX Stationの発表にあたっては、これが着脱可能なモジュールに改められた格好である。ただそもそもGraceはLPDDR5Xの接続を前提にしているから、一般的なDDR5 DIMMとかは接続できない。ノートPC向けにはLPCAMM2が既にJEDECでの標準化を完了しているが、こちらはノートに1枚だけ装着する前提のフォームファクタなので、高密度なDGX Stationの基板上に複数枚装着は無理がある。そこで独自規格としてNVIDIAと共同開発したのがこのSOCAMMである(Photo04)。信号そのものは通常のLPDDR5xそのままであり、SOCAMMあたり128bit幅となる。要するに32bitのLPDDR5xを4ch分という形だ。ちなみに搭載されるLPDDR5xチップは最大16stack構成で、SOCAMMあたり最大128GBの容量となる。これを4枚装着する事で最大512GBのメモリをGrace CPUで利用できることになる。

Photo02: SOCAMMはGrace CPU向け、HBM3EはBlackwell GPU向けである。

Photo03: ちなみに容量は120GB/240GB/480GBの3種類のSKUがあった。

Photo04: これは完全に独自規格であり、今のところNVIDIA以外のパートナーに供給する計画は無いとの事。右のグラフは、Blackwellだけで処理を行った場合と、Grace+Blackwellで処理を行った場合を比較してのもの。

一方12-Hi HBM3E(Photo05)であるが、こちらは既にラインナップしている8-Hiの24GB品を12-Hiにして、容量を36GBにしたものである。こちらの記事では、12-HiのHBM3eがSK Hynixの独占契約になるのかも？という話が出ていたわけだが、今回GB300 Grace Blackwell Ultra SuperchipとNVIDIA HGX B300 NVL16、及びGB300 NVL72にMicronのHBM3eが採用されることが明らかになった訳で、比率としてどの程度かは兎も角として、少なくともSK Hynixの独占ではない事だけは確認できた格好である。