On the Three Ps of Heterogeneous Computing:Performance、 Power and Programmability

このパネルのモデレータはGreen500を主宰するバージニア工科大学のWu Feng氏で、パネルメンバーは、NVIDIAのBill Dally氏、IntelのTimothy Mattson氏、AMDのMichael Houston氏、IBMのFabrizio Petrini氏、ConveyのSteve Wallach氏である。

左からFeng、Dally、Wallach、Matson、Houston、Petriniの各氏

このパネルのメンバーは全て企業人で、それぞれの会社の立場を色濃く反映した意見が述べられた。

IBMのPetrini氏は、Exascaleには2つのアプローチがあると述べた。GPUのようなアクセラレータを使うアプローチは規則的な構造の問題には有効であるが、重要なクラスの問題で、うまくGPUにマップできないものもたくさんある。また、GPUの使用はアルゴリズムやコードの書き換えを必要とする。

もう1つのアプローチは多数の低電力CPUを使うアプローチで、コンパイラやアーキテクチャの改善やユーザレベルのチューニング方法などを進化させることで、コードの大幅な書き換えを避けることができるというアプローチである。GPUはエネルギー効率が良いと主張しているが、今回のGreen500でBG/QはGPUベースのシステムの2倍かそれ以上のMFlops/Wを達成しており、CPUベースだからエネルギー効率が悪いというのは間違った認識である。と述べていた。

AMDのHouston氏は、GPUは条件分岐の多い処理はだめだが、細粒度でも粗粒度でも高い並列性のある問題は、GPUにうまくマップできる。AMDはFusionでこのような用途に対応していくと述べた。IntelのMattson氏は、消費電力の問題はハードエンジニアがなんとか解決するだろうが、問題は超多数のコアを使うプログラミングである。これに対しては、業界で集まってOpenCLを作ったが、このような業界標準の環境で最適化したプログラムを作って蓄積し、開発成果を再利用することが重要と述べていた。

Wallach氏もData General、Convex、HPとハイエンドコンピュータ業界の歴史のような人物である。アプリに特化したハードの方がエネルギー効率が高いので、Exascaleではヘテロなコンピューティング環境になるのは避けられない。しかし、過去に成功した性能向上機構はプロセサと密結合されたものである。また、過去のプログラム資産が使えるコンパイラやプログラム環境を用意することが必要という見方を述べた。

スタンフォード大学の教授でもあるNVIDIAのDally先生は、GPUは圧倒的にエネルギー効率が高い。これをベースに(基調講演で述べた)Echelonプロジェクトを推進する。ヘテロなコンピューティング環境は、将来的には、統合メモリ(CPU、GPUのメモリ空間の統合)、また、マシン全体での統合メモリ(MPI通信ではなくアドレスでデータの送受を行う)、条件分岐の効率的なサポート、プログラマが全ての並列性とローカリティを記述できる言語と、そしてそれをハードウェアにマッピングするプログラミングシステムを作るという方向に進化していくと述べた。

このパネルはパネリストが自分の会社の立場を主張するので、議論としてあまり噛み合っていないが、NVIDIAとAMDがGPUを使うヘテロ派、Intel、Conveyもヘテロより、IBMは低電力マルチコアで行けるという主張で、数の上では圧倒的にヘテロという意見が多かった。