ソフトバンクは、「NVIDIA GB200 NVL72」を搭載した新たなAI計算基盤が12月22日に稼働開始したと発表。この計算基盤を、NVIDIA GPUを用いた顧客向けの計算リソース提供サービスや、SB Intuitionsによる国産大規模言語モデル(LLM)「Sarashina」の商用サービス開発などに活用する。
NVIDIA GB200 NVL72は、ひとつのラックに36基の「NVIDIA Grace CPU」と72基の「NVIDIA Blackwell GPU」を搭載した、ラックスケールのAIコンピューティングシステム。現時点で1,224基のNVIDIA Blackwell GPUで稼働しており、将来的には4,000基超のGPUを導入・拡張することで、10.6EFLOPS(エクサフロップス)規模の演算性能をめざす。
冷却方式には、CPUやGPUを直接冷却する液冷(Direct-to-Chip)構造を採用。発熱量の大きいAIチップを効率的に冷却することで、高密度なAI処理環境で安定した性能と高い電力効率を実現できるという。
この計算基盤は、経済安全保障推進法に基づく「特定重要物資クラウドプログラム」の認定を受けており、国内におけるAI開発基盤の強靱化に寄与するとしている。
