AIの可能性を再定義するHBM、その構造を理解する

AIへの関心が高まり、データストレージの需要

高帯域幅メモリ(HBM)が注目を集めています。人工知能(AI)が進化し続けるのに伴い、その需要も増え続けているのです。こうした需要に応えるべく、多くの主要テクノロジー企業がHBMに注力しています。HBMは、低エネルギー消費でより高速なデータアクセスを実現する様に設計された、高度なコンピューターメモリです。これはAIにとって、メモリチップの性能面と消費電力の削減という点で、重要な要素になります。

HBMは3D積層を採用しており、先端パッケージング技術を使用して、複数のデバイス層を垂直に積み重ねます。専用のDRAMチップを垂直に積層して、高速チャンネルで接続することにより、複雑なAIタスクの実行に必要な高速なデータ交換を可能にしています。

生成AIやデータ処理といった新たな成長ドライバーは、まだ導入の初期段階であり、HBMの市場ポテンシャルは今後も堅調に推移すると予想されます。

バンプとTSV

HBMの現行バージョンであるHBM3は、2つの重要な技術により、垂直方向に積層された集積回路(ダイとも呼ばれる)の数を増やし、メモリ容量とパフォーマンス能力を高めます。1つはマイクロバンプ技術で、ダイの上に形成される小さなはんだバンプです。もう1つはSi貫通電極(TSV)で、ウエハの前面からエッチングされた孔が銅で充填されています。

メモリダイ同士は、TSVを介して接続されます。その後、マイクロバンプに接続され、メモリダイを積層パッケージに組み入れて、デバイス間で小型かつ高速な電気的接続を実現しています。

大手メモリサプライヤの高帯域幅メモリ(HBM)の製造に活用されているLam Researchの電解めっき「SABRE 3D」シリーズ製品(左)とエッチングシステム「Syndion」(右)

デジタルアプリケーション

HBMのユニークな設計によって、プロセッサとメモリ間の高速データ転送が容易になり、以下のようなAIタスクを最適化することができます。

機械学習と人工知能:AIにおける学習(トレーニング)と推論は、機械学習の2つの異なるフェーズです。トレーニングとは、AIがデータから学習し、パラメータを調整してパターンやルールを見つけ出し、各インプットを特定のアウトプットにマッピングすることを指します。AIの推論とは、AIシステムがトレーニング済みモデルを使用して、人の介在なしに新しいデータに関する予測を行うことです。

機械学習とAIの一例として、SiriやAlexaのようなバーチャルアシスタントがあります。これらのAIシステムは、機械学習アルゴリズムを使用して、ユーザーのコマンドや質問を理解し、それに応答します。

自動運転:自動運転を実現するためには、AIは人間のドライバーからの影響なしに計画を立て、動作する必要があり、そのためには大量のデータ処理が必要となります。AIの画像認識と意思決定、感覚機能、データのモデル化は、高帯域幅メモリで同時に実行することができます。
画像認識:画像認識は、ディープラーニングとして知られる機械学習の一部が使用されます。様々なアルゴリズムを通して、AIは何千枚もの画像と膨大なデータを分析します。

画像認識の例としては、写真の内容に基づいて自動的に分類し、タグ付けするGoogleフォトの機能が挙げられます。このAIシステムは、ディープラーニングアルゴリズムを使用して、画像内のピクセルを分析し、物体、人物、場所を特定します。

AIの能力を引き出すには、複数の大規模なデータセットを同時に処理する能力が必要となります。これまで、メモリ密度を上げる主な方法は積層するダイの数を増やすことでした。

2013年に業界標準となったHBM1として知られるHBM第1世代は、4層スタックでスタートしました。2020年に始まった第4世代(HBM3。第2世代がHBM2、第3世代がHBM2E)の開発では、2024年までに12層に達する可能性が高く、性能、メモリ容量、電力効率が向上する予定です。

メモリダイの高密度3D積層の実現に重要なSi貫通電極(TSV)とマイクロバンプおよび均一なディープシリコンエッチングと高速でボイドフリーなボトムアップ電解銅めっきを含む主なTSV形成工程のイメージ

精密で高度な加工技術が必要となるHBMの製造

Samsung、SK Hynix、Micronを含むHBMの大手サプライヤーは、AIやデータ集約型アプリケーションの需要に応える上で重要な役割を果たしています。NVIDIA、AMD、Intelなどの大手チップ設計企業は、GPUやAIアクセレーターにHBMを採用しています。

半導体製造の進歩は、メモリの新たな進化を実現する上で極めて重要になります。より高性能で拡張性のあるデバイスアーキテクチャーを実現するためには、エッチングと成膜技術の強化が必要になります。Lamの顧客も、メモリ密度、帯域幅、電力効率を改善する3D積層を含む、先端パッケージング技術の採用が増えてきています。

Lamをはじめとする半導体メーカーは、物理学と材料科学の限界に挑戦し、高アスペクト比のデバイス素子を生み出そうとしています。例えば、TSVは通常、複雑な複数ステップの工程を必要とします。まず、プラズマを利用した深孔シリコンエッチング用の装置でシリコンを選択的に除去し、極めて均一で高アスペクト比のホールを正確に形成します。洗浄して、酸化物材料とバリアシードを成膜した後、微細ホールは高度な電解銅めっきによって充填されます。すべての工程で、洗練された装置と設備が、一貫した予測可能な歩留まりを生み出すのに重要な役割を果たします。

HBMのような先端パッケージと異種チップ統合スキームは、性能、電力、仕様、コストの最適化を達成するために、半導体業界の主要な手段になりつつあります。業界がAI時代に向け、半導体設計における目覚しいイノベーションの転換点にいること、そして半導体製造におけるブレークスルーが、将来のHBM世代にとって極めて重要であることに、疑いの余地はありません。