第2回:最新の高性能計算処理コンピュータ導入事例にみる、必要な提供電力と耐荷重はこちら

「1ラックあたりの最大提供電力は「30kVA」、床耐荷重は平米あたり「3.0トン」に対応する」

2016年4月に設立し、データセンター事業に新規参入するデータドックは、2018年1月に「新潟・長岡データセンター」をオープンした。新規にスタートするそのデータセンターは、ニーズが年々高まっているHPCや高性能計算機が必要としている超ド級の高給電スペックと耐荷重に対応するものになる。 既存のデータセンターの約82%は「1ラックあたりの最大提供電力が4kVA以下」が占めている現状を照らし合わせると、最大「30kVA」という仕様は新世代のデータセンターに求められるスペックの先取りといえるだろう。その背景には、従来のデータセンターが抱えているいくつもの課題への挑戦がある。

トレンドはディープラーニング主体のAIコンピュータ構成へ

ビッグデータ解析、AIによる識別・判定・予測、フィンテックやブロックチェーン、自動運転など、社会基盤が変わるほどの変革が次々と起こっている。その変革のブレークスルーとなっているのが「ディープラーニング」(深層学習)だ。今や、エンジニアがコードを書いて作り上げるプログラミングからビッグデータをもとにコンピュータに学習させるプログラミングへと開発環境は大きく変わろうとしている。次世代のコンピュータを担う「AI」の正体だ。

ディープラーニングによって学習したAIが優れた能力を発揮することは囲碁の「AlphaGo」が知られているが、現在では画像や音声の解析、判定、識別など、ビジョン技術に次々と導入されていることに加えて、自然言語会話(対話)、生体認証、ビッグデータの解析や予測、高精度の科学技術計算にも導入され、医療・介護、農業、製品開発、ファクトリーの自動化、倉庫管理、セキュリティ管理、ドローンやロボットの操縦や自律的な動作など、多方面で実践投入されている。

これほどディープラーニングが身近になった理由は「GPU」にある。ディープラーニングは膨大な行列演算を繰り返し行うことが必要だ。従来は一部の巨大企業や研究機関が所有して運営しているスーパーコンピュータでのみ処理が可能で、それでもひとつの学習を終えるのに数週間かかるのが常識だった。「GPU」は行列演算が得意なため、「CPU」の10倍をはるかに超える演算パフォーマンスを持つ。ディープラーニングの学習処理等の高速化に絶大な威力を発揮する。

しかし、データセンターの現場からは悲鳴が聞こえてくる。「DGX-1」で省スペース化しても、それに対応するラックあたりの最大提供電力が足りないからだ。

高性能コンピュータには「最大提供電力が足りない」

現状のデータセンターは1ラックあたり「2kVA以下」の電力供給を上限としたサービスが65%、「2~4kVA」が17%を占めていて、6kVA超でも5%にとどまっている。

さらにいうと、GPUにはもうひとつ大きな特長がある。GPUは基盤の数を増やすほどスケールメリットが出るため、演算時間を短縮できる。そのため結果を速く得たいと思えば、GPUを増設していけばよい。今後もこのトレンドが続くと仮定すれば、高速化・効率化に対応できるデータセンターはGPUの増設を許容していける拡張性が重要な要件になってくるのだ。

しかし、従来のデータセンターは最大提供電力の関係で「GPUをこれ以上増やせない」。コンピュータを増設して並列計算を導入すれば高速化や効率化ができるとわかっていても、電力不足によって増設できないという課題が明確になっている。

長岡市の環境が電力不足の課題解決に

データドックは12月14日、都内でプライベートセミナー「新潟・長岡データセンター オープン記念プライベートセミナー ~高性能計算処理の「今」を理解する~」を開催し、同社の取締役社長 宇佐美 浩一氏が登壇し、データドックが新設したデータセンターが次世代型のデータセンターであることを語った。 「国内にあるデータセンターのうち約60%が首都圏に集中している。データドックは新潟県長岡市にデータセンターを設置することを選んだ。わたしの生まれは新潟ではなく、今まで長岡市になにかの縁があったわけでもない。長岡市こそデータセンターに最適な場所だと選んだ。選んだ以上はしっかりと根を下ろし、地域の自治体や企業など関係者の方々と協力して事業を推し進めていく」と宇佐美氏は決意を語った。

  • データドック 代表取締役社長 宇佐美 浩一 氏

では、なぜ長岡市なのか。

ひとつは環境にある。データセンターの最大の課題のひとつが膨大な熱を発するサーバ群の冷却だ。「東京都全体のCO2排出量のうち、そのおよそ10%はデータセンターが排出しているCO2といわれている。これは深刻な改善課題であり、自然エネルギーを活用して解決しなければならない」(宇佐美氏)。 首都圏ではサーバ群を冷やすのに冷却用のクーラー設備を使うが、この冷却設備がさらに膨大な電力を使い、CO2を生みだしているのが実状だ。

雪氷冷房でCO2排出とコスト削減、低料金を実現する

遠隔地のデータセンターの場合、北海道などの気温の低い地域では外気による冷房効果が高く、CO2の排出を抑えることができる。しかし、データセンターを新設するにあたり、アクセス面を考えると北海道は首都圏から遠く離れすぎているという課題がある。

長岡市は東京から上越新幹線で約90分、関越自動車道で約3時間30分と首都圏からは遠くない。なお、東京と長岡市は100Gbpsの通信バックボーンが敷設されている。

  • 東京からデータセンターまでの所要時間(目安)。最短で2時間の「駆けつけ時間」だ。

そしてなにより、長岡市では冷却課題の解決に「雪氷冷房」を利用することができる。日本気象協会によれば、平成28年度の新潟県長岡市の累積降雪量約235cmに達する。この年は雪が少なかったほうで、平成27年度で321cm、平成26年度で454cmと、「雪氷冷房」には十分な積雪量だ。 ちなみに「雪氷冷房」とは、冬の間に降った雪を大量に保存しておき、冷たい空気を夏期に空調熱源として使用する仕組みであり、冷房設備への電力負担は大きく軽減される。宇佐美氏は、その年の積雪量にもよるが、通年で機械設備による冷房運転は一切しないことが目標であると語った。

  • 雪氷冷房は冬の積雪を保存しておき、夏期に空調熱源として使用する自然エネルギーの活用方法だ。

新設のデータセンターは電気効率を示す指標のひとつであるPUE(Power Usage Effectiveness)は設計値で1.19を実現している。PUEの最高値は1.00。1.00に近いほど電気効率がよいと判断でき、都市型のデータセンターでは1.5~2.0程度が一般的といわれている。

都市型データセンターと比較して38%のコスト削減

宇佐美氏は新設データセンターの空調設備についても言及した。「1ラックあたり20kVAの電力を超える場合、空調の効率が悪いと冷房設備により多くの電力を使用することになり、サーバへの供給に電力をあてられなくなる恐れがある」と宇佐美氏はいう。データセンターが効率よくサーバ群を冷却するには、排出される熱い空気と冷却用の冷気が混ざり合わないことが重要だ。

データセンターの冷たい空気の通り道を「cold aisle」、熱い空気の通り道を「hot aisle」と呼ぶ。空調機からの冷たい空気を直接機器に当てるのではなく、共通ダクトチャンバーを通して、高電力サーバ群のcold aisleを集中して冷やすなどの細かい制御を行うことで効率性を上げている。サーバ群が排出する熱い空気はhot aisleから、排気用ダクトを通して排出する完全な分離設計にこだわった。ちなみに、この熱い空気は敷地内での水産養殖や水耕栽培に活用するという。

  • .

同社の試算では、都市型のデータセンターと比較して、土地、人件費、空調電気の削減分もあって経費等、合計38%が軽減でき、それを還元して利用料金の低減を実現するとしている。

震度7クラスの揺れを震度3程度に抑える免震構造

新しいデータセンターは災害の対策についても検討を重ねたという。 大規模災害でまず思い浮かぶのは「地震」だが、宇佐美氏は次のように説明した。

「太平洋側のほうが地震のリスクはより高まる傾向にある。しかし、新潟県には地震がないというわけでなく、日本のどこにいてもリスクは伴うと考えている。データセンターは活断層を避け、地下2mに『N値:60』の堅い地盤がある場所に建設した。杭を打つ必要もなく、地盤は硬い砂礫層構造のため液状化の恐れがない」

地震対策としてはさらに、ブリヂストン製のゴムを使用した基礎免震装置を48ヶ所、オイルダンパーを4ヶ所に設置した。「これらの効果は設計上、加速度700ガルの揺れを325ガルまで抑えることができる。これは目安として、震度7クラスの地震が来ても震度3程度に抑えるということ。中越地震が約500ガルなので、従来の常識的には十分の免震設計だ」(宇佐美氏)

  • 48ヶ所の免震装置を導入し、4ヶ所のオイルダンパーが最大の揺れを抑える最新の設計

さらに新設データセンターは、ハザードマップの課題もクリアしているという。近隣に信濃川が流れているが、海からは20キロ以上離れていて、敷地外道路は海抜30mに位置する。データセンターが新設される場所は、洪水の確率と規模を「100年に1度くらい、1~2.0m以内の浸水」と想定、高さ2.5mの擁壁で浸水を防ぎ、データセンター全体を防水壁で囲むことで対策を行っている。

「ニーズが爆発的に高まっている"高電力仕様"に対応したファシリティを実現するには、外気と雪氷冷房を利用し、徹底した省電力化とCO2削減が必要だった。削減したコストはユーザーの利用料金に還元していく。堅牢性と万全の災害対策を施した新しいデータセンターがいよいよ始動する。これからはユーザー様からのご要望にていねいに応えながら事業を起動に乗せたい」と宇佐美氏は新設データセンターの展望を語った。

セミナーレポートの後半は、科学技術計算を主体とした「HPC」分野の現状と導入事例、HPCや超高性能コンピュータが一般化する時代に対応したデータセンターの条件について、引き続き解説する。

第2回:最新の高性能計算処理コンピュータ導入事例にみる、必要な提供電力と耐荷重はこちら

datadock

本稿で紹介したデータドックのデータセンターについての
詳細はこちら

敷地・建物
名称 新潟・長岡データセンター
所在地 新潟県長岡市
着工 2017年3月7日
竣工 2017年12月31日
2017年10月末 土地建物を所有(自社建設・自社運営)
敷地面積 9,185 ㎡(第 1 期棟)、21,063 ㎡(全体)
建築面積 2,780 ㎡(第1期棟)
延床面積 5,396㎡(第1期棟)
階数 地上2階
構造 鉄骨構造・新耐震設計基準/免震構造ビル
耐火仕様 耐火建造物
床耐荷重 3.0t/㎡
総ラック数 500ラック(第1期棟)/1,500ラック(第2期棟)
設備
受電方式・電圧 本線予備線方式・66,000V
自家発電装置 ガスタービン式発電機 N+1 冗長構成
無給油運転時間 72時間
無停電電源(UPS) N+2 冗長構成
提供ラック フルラック、1/2ラック、1/4ラック、最大30kVA/ラック
空調設備 間接外気空調方式+雪氷利用方式
セキュリティ IC カード、生体認証、監視カメラ
回線 自社回線/マルチキャリア
各種基準 JDCCティア4適合、FISC準拠

[PR]提供:データドック