NVIDIAは、現地時間の5月8日～11日まで米カリフォルニア州San Joseにおいて、GPUを利用した深層学習やAIなどをテーマとした技術者向け会議「GTC 2017」(GTC：GPU Technology Conference)を開催した。3日目の5月10日には、NVIDIAの創始者兼CEOのジェンスン・ファン氏がキーノートに登壇した。

GPU Technology Conferenceが開催されたSan Joseコンベンションセンター

GTCは、スーパーコンピュータなどのHPC(High Performance Computing：高性能コンピューティング)向けの技術会議として2009年にスタートし、その裾野を機械学習や深層学習、AIへと広げてきた。特に、2012年からの5年間は、CPUの性能向上が鈍化したこともあって、GPUを利用した並列演算に注目が集まるとともに、いまや米国内では大学でいちばん学習したいテーマとなった「AI」(人工知能)では、GPUが不可欠となるなど、GPUコンピューティングは、ずっと身近なものになった。

この5年間は、CPU性能の向上が頭打ちになったこともあり、GPUコンピューティングに注目が集まるようになってきた

この5年で、GTCの参加者は3倍に、GPU関連の開発者は11倍になり、CUDAのダウンロード数は100万件を超えた

GPUコンピューティングによって、AIは大幅な進化を果たし、AIに関心を持つ企業や学生も飛躍的に増えた

次世代GPUアーキテクチャ"Volta"ベースのTesla V100をお披露目

さて、キーノートスピーチの目玉として、NVIDIAの次世代GPUアーキテクチャとなる"Volta"(ヴォルタ：開発コードネーム)が公開された。"Volta"は、これまで"グラフィックスプロセッサ"の汎用並列処理性能を向上させてきた流れから飛び出し、AIや深層学習へアーキテクチャレベルで最適化を図るアプローチに打って出た。

次世代GPUアーキテクチャ“Volta”のフラグシップチップGV100を搭載するTesla V100を発表

Tesla V100を披露するジェンスン・ファンCEO

Tesla V100は、CUDAコアに加え、テンソル(Tensor：多次元配列)演算処理のための専用コアであるTensorコアを統合し、機械学習におけるトレーニングや推論の性能向上を大幅に引き上げることが可能だ。NVIDIAは"Volta"アーキテクチャにおいて、Tensorコアを利用した深層学習処理への最適化を図るべく、新たな命令セットを追加するなど、大幅なアーキテクチャ変更を施している。

例えば、従来のGPUアーキテクチャにおいて、4×4のマトリックス演算を行なう場合、1階層ごとに演算処理を行ない、多次元配列演算を完成させる必要があったが、Tensorコアを採用したVoltaアーキテクチャでは、4×4のマトリックス演算を行なう専用ユニットを搭載することで処理の高速化を実現する。

4×4のマトリックス演算を行なう専用ユニット「Tensorコア」を搭載することで、Googleの深層学習フレームワークとなるTensor Flowでは、Pascal世代のGPU利用時に比べ、12倍の性能向上を果たす

Googleの深層学習フレームワークとなるTensor Flowでは、Pascal世代のGPU利用時に比べ、12倍の性能向上を果たすという。このTensorコアを、Tesla V100に搭載されるGPUコアの"GV100"では、SM(Stream Processor)ごとに8基、合計640基のTensorコアを統合し、最大120TFLOPSのTensor演算性能を備えるとしている。

GV100では、TSMCの12nm FinFETプロセス「12nm FFN」で製造され、211億トランジスタで5,120基のCUDAコアを統合、7.5TFLOPSの64bit浮動小数点演算性能(FP64)、15TFLOPSの32bit浮動小数点演算性能(FP32)を実現。メモリには、4,096bitインターフェースで900GB/sの帯域を実現するHBM2メモリを16GB搭載するほか、GPU間やCPUとの接続に利用されるNVIDIA独自のインターコネクト技術NVLinkも300GB/sの第2世代へと進化を果たしている。

これにより、Tesla V100では、HPC用途の汎用演算において、Pascal世代比で1.5倍の浮動小数点演算性能を実現するほか、深層学習のトレーニングでは12倍、推論では6倍のテンソル浮動小数点演算性能を実現するとしている。なお、GV100のダイサイズは815平方mmと、半導体の露光限界ギリギリのサイズで、フアン氏によれば「30億ドルの予算をかけて開発されたチップである」という。

GPUコア GK110 GM200 GP100 GV100
アーキテクチャ Kepler Maxwell Pascal Volta
トランジスタ数 71億個 80億個 153億個 211億個
ダイサイズ 551平方mm 601平方mm 610平方mm 815平方mm
製造プロセス 28nm 28nm 16nm FinFET 12nm FFN
SM 15 24 56 80
TPC 15 24 28 40
SMあたりのFP32コア 192 128 64 64
FP32コア合計 2880 3072 3584 5120
SMあたりのFP64 CUDAコア 64 4 32 32
FP64コア合計 960 96 1792 2560
SMあたりのTensorコア - - - 8
Tensorコア合計 - - - 640
GPU Boostクロック 810/875MHz 1114MHz 1480MHz 1455MHz
FP32 TFLOPS(ピーク時) 5.04 6.8 10.6 15
FP64 TFLOPS(ピーク時) 1.68 2.1 5.3 7.5
Tensorコア TFLOPS(ピーク時) NA NA NA 120
Texture Units 240 192 224 320
メモリインタフェース 384-bit GDDR5 384-bit GDDR5 4096-bit HBM2 4096-bit HBM2
メモリ容量 12GB 24GB 16GB 16GB
L2キャッシュ 1536KB 3072KB 4096KB 6144KB
SMあたりの共有メモリ 16KB/32KB/48KB 96KB 64KB 最大96KB
合計レジスタファイル 3840KB 6144KB 14336KB 20480 KB
TDP 235W 250W 300W 300W

またNVIDIAは、Tesla V100を8基搭載し、960テンソルTFLOPSの演算性能を実現する。深層学習向けサーバー「DGX-1 with Tesla V100」の受注を開始した。これはすでに提供中の「DGX-1」のアクセラレータをTesla V100に置き換えたものになる。供給が開始される2017年第3四半期までは、PascalアーキテクチャのTesla P100を搭載した現行製品を提供し、後日Volta版と交換する無償アップグレードにも対応する。価格もPascal版と同じ149,000ドルに据え置かれている。

Tesla V100を8基搭載し、960テンソルTFLOPSの演算性能を実現し、サーバー400台分の性能を持つ深層学習向けサーバー「DGX-1 with Tesla V100」

さらに、スタートアップや個人用の深層学習向けサーバーとして、2CPU構成で4基のPCI Express版のTesla V100を搭載する「DGX STATION with Tesla V100」を発表した。価格は69,000ドル。このほか、クラウド企業や研究機関用に、GPUクラウドサーバーの「HGX-1 with Tesla V100」も追加。用途や規模に応じて、2CPU：8GPU、2CPU：4GPU、1CPU：2GPUの構成を選ぶことができる。

スタートアップや個人用の深層学習向けサーバーとして、2CPU構成で4基のPCI Express版のTesla V100を搭載する「DGX STATION with Tesla V100」も追加

Tesla V100用の大型ラジエターを天板分に格納し、水冷方式によってVoltaの性能を最大限引き出すDGX STATION with Tesla V100

クラウドコンピューティング用の「HGX-1 with Tesla V100」は、下部の1U CPUサーバーとGPUアクセラレータによって構成され、用途に応じてCPUやGPUの構成を選ぶことができる