アテルイIIIのシステム

アテルイIIIは、スカラ型並列計算機のHPE Cray XD2000(水冷式)システムで、1.99Pflpsの総理論演算性能をもち、288ノード、3万2256コアとなっている。

スカラ型並列計算機とは、汎用のCPUを大規模に並列接続することによって構成されるスパコンのことで、先代のアテルイIIなども同様だった。

一方、アテルイIIと大きく異なるのは、「システムM」と「システムP」の2つのシステムから構成されている点である。

システムM

システムMには、広帯域メモリー(HBM)を内蔵したHPC向けCPU「Xeon Max」を使っている。メモリーバンド幅(CPUとメモリーの間の情報の通信量)が大きいことが特徴で、アテルイIIの12.5倍の3.2TB/s(1ノードあたり)の性能をもっている。これにより、データの転送能力と計算する力のバランスが優れているという。

スパコンが計算を行うとき、内部では、データをストレージから演算用のCPUへ移動させ、計算後、その結果を再びストレージに返す作業が繰り返される。このうち、計算能力を上げることと、データを移動させる能力を上げることを比べると、実は後者のほうが技術的に難しく、コストもかかるという。

そのため、従来のシステムでは、計算能力の向上に主眼が置かれていた。しかし、計算に必要なデータが十分に供給されず、処理が滞るという課題があった。たとえるなら、親鳥が一羽で多くのひな鳥に餌を運ぶも追いつかず、ひな鳥たちが腹を空かせているような状態だった。この点で、アテルイIIIは大幅な改善が期待されている。

システムMは、流体計算のような、プログラム中の演算数(足し算、引き算、掛け算などの回数の合計)に対して多くの変数を必要とするシミュレーションを得意としている。たとえば、宇宙にある水素やヘリウムなどのガスの振る舞いを調べるのが流体のシミュレーションで、星のもとになる雲や、星が爆発するときにまき散らされるガス、ブラックホールの周りの円盤のガスなどが、どういう風に振る舞うのかを調べることができる。

システムP

一方のシステムPは、メモリーの量を重視したシステムで、アテルイIIの1.3倍の 512GB(1ノードあたり)を積んでいる。

システムMとは異なり、扱うデータ量が大きいアプリケーションに適しており、たとえば重力多体問題のような、重力で引き合う多数の粒子の振る舞いの計算を得意としている。宇宙全体の動きを考えるときに銀河を粒子として、また銀河を考える場合は星が粒子、惑星系だったら惑星が粒子といったように捉えることで、それらが重力で引き合っている場合に、系がどういう形になるのか、どう進化していくのかを計算することができる。

  • アテルイIIIを構成するシステムMとシステムPの概念図

    アテルイIIIを構成するシステムMとシステムPの概念図 (C) 国立天文台

  • アテルイIIIによる計算例

    アテルイIIIによる計算例。この画像は、星誕生の場である極低温(摂氏マイナス263度)で濃密なガス雲である分子雲が作られる一連のプロセスを計算した結果を示している。中央図(密度構造、黄色いほど高密度)に示されている分子雲は、温度が大きく変化する原子ガス(左図:温度分、赤いほど高温)が集積することで成長する。分子雲内部は細長い微細構造に満ちており、このような細長い構造の中で星が生まれる(右図:中央図の赤い枠で囲まれた領域の拡大図)。アテルイIII(システムM)のアプリケーション実行性能が向上したことにより、アテルイIIの約半分の時間で計算できるようになった (C) 国立天文台

ちなみに、最近流行りのGPUは、アテルイIIIには搭載されていない。

これについて、国立天文台 天文シミュレーションプロジェクト長を務める小久保英一郎(こくぼ・えいいちろう)教授は、「GPUが載っていないことで、少し遅れているのではと思われるかもしれません」と前置きしたうえで、「GPUを載せたスパコンにするかどうか、非常に多くの議論を行いました。ただ、ユーザーが使用している天文計算アプリケーションがGPUで性能を発揮するかを調べた結果、現時点では汎用CPUの並列機が最も研究に適していると結論付けました」と説明した。

さらに、冷却にも工夫がある。前述のように、アテルイIIIをはじめ、歴代のスパコンが水沢キャンパスに置かれた理由のひとつに、気温が涼しく冷却効率が高くできるということがあった。それでも、計算やデータのやり取りをする中で膨大な熱が生まれる。

このため、多くのスパコンでは、CPUやストレージ、メモリーに配管を這わせ、液体を流して冷却しているが、これだけでは発生する熱の7割程度しか取り除けないという。

そこでアテルイIIIでは、残りの3割の熱を取り除くため、筐体の前面にも液体を流し、そこを通じて空気を取り込んで、背面から排出する、ラジエーターのような仕組みがある。実際、稼働中のアテルイIIIから排出される風は、少し涼しいくらいだった。この最先端の冷却システムにより、優れた計算能力を発揮し続けることができるという。

また、アテルイIIIの筐体はLEDで光るようになっているが、単にデザイン性だけでなく、冷却システムの動きに合わせて色が変わる仕組みになっている。これにより、システム全体の状態をわかりやすく示し、正常に動いているかを簡単に確認できる。また、配管やポンプに問題が起きた際には、その箇所を一目で識別できるようにもなっている。

  • アテルイIIIの背面の内部

    アテルイIIIの背面の内部 (C) 鳥嶋真也

アテルイIIIへの期待

アテルイIIIを使って、どんな研究ができ、どんなことがわかるのだろうか。

小久保教授は、「私は太陽系の構造の起源の研究に、非常に興味があります」と語る。

「太陽系にある木星と土星という大きな2つの惑星は、あの大きさでいまの場所にあることが、いまの太陽系の形を決めたと考えられています。ではなぜ、あそこにこの2つができたのか、どうやってできたのか、そしてそのあと、一体どうやってこの太陽系を形作ったのかを、正面から調べたい。木星と土星の形成をアテルイIIIでシミュレーションし、太陽系の形の起源に迫りたいと考えています」。

そして、「天文学の目的は、ひとつは『宇宙を支配する物理法則を解明する』こと、もうひとつは『我々はどこから来たのか、我々は何者か、我々はどこへ行くのかという問いに対して、天文学的、物理学的に答える』ことにあると思います。宇宙のビッグバンから始まって今に至る中で、物質がどうやって変わりながらきているかということを、宇宙全体の進化の中で理解するというのは、天文学の非常に重要な役割だと考えています」と語った。

  • アテルイIIIについて語る国立天文台 天文シミュレーションプロジェクト長の小久保英一郎教授

    アテルイIIIについて語る国立天文台 天文シミュレーションプロジェクト長の小久保英一郎教授 (C) 鳥嶋真也

また、CfCAの滝脇知也(たきわき・ともや)准教授は、「超新星爆発の機構、つまり星がどうやって生まれて、どうやって死ぬのかを解き明かしたいです」と語った。

「星は円盤のようになったガスの構造の中から生まれてきますが、そのガスの運動を計算することが大切です。超新星爆発のときは、星の内側で中性子星ができて、そこからニュートリノが出て爆発しますが、その機構を解明するためには、ほぼすべてを流体計算する必要があります。アテルイIIIの3次元の流体計算で、この機構を解明したいと思っています」。

また、「近年、天文学の分野では重力波の検出に成功し、その研究が大きく進んでいます。2つの中性子星が合体したときにも重力波が出るのですが、それも流体計算によって、どういう重力波が出るのかが見えてきます。アテルイIIIでその計算を進めたいと思います」とも語られた。

アテルイIIIによって、シミュレーション天文学の新たな扉が開かれようとしている。数千年にわたる人類の夢と探求心が、最新の科学・技術と結びつき、人類は宇宙への理解をさらに深め、新たなる未知へ踏み込むことになるだろう。

  • アテルイIII

    アテルイIII (C) 鳥嶋真也