この半導体ニュースのまとめ

・東北大学とアイシンが32MBの組込みSTT-MRAMを搭載した16nm AI SoCを開発
・OSとAIモデルをチップ内に格納し、電源投入から65.7ミリ秒でOSを起動
・Tiny YOLOv3のAI処理を約10倍高速化し、エネルギー消費量を従来比1/50に削減

東北大学とアイシンは11月2日、32MBの組込みSTT-MRAMを搭載した16nm FinFETプロセス採用のAI SoCを開発したと発表した。

同成果は、東北大学国際集積エレクトロニクス研究開発センター センター長の遠藤哲郎 教授、同副センター長の池田正二 教授、同 李奕 准教授、同 安平光雄 学術研究院、アイシンの成瀬峰信氏、山田洋氏らによるもの。詳細は、11月1日から4日まで台湾・新竹市で開催される半導体集積回路技術の国際学会「IEEE Asian Solid-State Circuits Conference(A-SSCC) 2026」で発表される予定だという。

OSのブートデータとAIモデルの重みを不揮発性メモリのSTT-MRAMへ格納することで、DRAMやSSDなどの外部メモリを必要としないAI処理システムを実現した。

電源投入からOS起動までの時間を、従来方式の2535.3ミリ秒から65.7ミリ秒へ短縮。物体検出などのAI処理時間も594.6ミリ秒から58.5ミリ秒へ短縮し、システム全体では25.2倍の高速化を実現したという。

  • 32MBの組込みSTT-MRAMを搭載した16nm AI SoC

    東北大学とアイシンが開発した32MB組込みSTT-MRAM搭載16nm AI SoCのダイ写真と主要性能。電源投入から65.7ミリ秒でOSを起動し、Tiny YOLOv3による物体検出に対応する (出所:東北大学/アイシン)

外部メモリとのデータ転送を削減

エッジAIでは、限られた電力や計算資源の中で高速にAI処理を実行する必要がある。

従来のAI SoCでは、電源投入後にDRAMを初期化し、SSDなどのストレージからOSやAIモデルの重みデータをDRAMへ転送する。このデータ転送が、システムの起動時間を長くし、エネルギー効率を低下させる要因となっていた。

また、AIモデルの大容量化に伴い、プロセッサと外部メモリ間を移動するデータ量が増加している。チップ内部の揮発性メモリについても、待機時に生じるリーク電力が課題となる。

今回開発したAI SoCでは、電源を切ってもデータを保持できるSTT-MRAMをプロセッサやAIアクセラレータの近くへ配置する「近メモリコンピューティング(Near-Memory Computing:NMC)」を採用した。

OSのブートデータとAIモデルの重みを32MBのオンチップSTT-MRAMへ格納し、起動時のDRAM初期化や外部メモリからのデータ転送を削減した。

Arm CPUやGPU、AIアクセラレータを集積

開発したAI SoCは16nm FinFETプロセスを採用し、Arm Cortex-A53デュアルコアCPU、Arm Mali-G31 GPU、AIアクセラレータ、32MBのオンチップSTT-MRAMなどを集積した。STT-MRAMは、AIモデルの重みデータを格納する重みメモリと、OSを起動するブートメモリの双方に使用される。

従来方式では、電源投入後にDRAMを初期化し、SSDからブートローダーやAIモデルをDRAMへ転送する必要があった。開発したAI SoCでは、OSとAIモデルをSTT-MRAMから直接読み出すことで、電源投入からOS起動までの時間を38.59倍高速化した。

Tiny YOLOv3の重みデータ量を53%削減

AIアクセラレータには、物体の種類と位置を検出するAIモデル「Tiny YOLOv3」を実装した。

限られたオンチップメモリを有効活用するため、8ビットと16ビットの演算を組み合わせるハイブリッド乗算アーキテクチャを開発。16×16ビット、16×8ビット、8×8ビットの乗算を組み合わせ、16ビットの精度を維持しながら、AIモデルの重みデータ量を17.7MBから9.36MBへ53%削減。物体検出精度を示すmAPは0.325から0.316への低下に抑えたという。

また、4×4のタイル内で同じカーネルの重みを複数のクロックサイクルにわたって再利用する重み共有技術を採用し、データ転送量とローカルメモリ帯域の使用量を削減した。

AI処理時間を約1/10へ短縮

従来方式では、AI処理を始める前にSSDからDRAMへ12MBの重みデータを転送する必要があった。

開発したAI SoCでは、STT-MRAMから必要な重みデータを直接読み出して処理することで、物体検出に要するAI処理時間を594.6ミリ秒から58.5ミリ秒へ短縮。従来比10.16倍の高速化を実現した。

システムレベルの検証では、Tiny YOLOv3による1フレームの物体検出に必要なエネルギー消費量を50.7mJ/frameとした。従来方式と比べ、エネルギー消費量を約1/50に削減したとしている。

車載やロボット、常時稼働型エッジAIへ展開

今回の成果は、メモリをプロセッサの近くへ配置するだけでなく、AI処理に必要なデータとOS自体をチップ内に保持することで、高速起動と低エネルギー化を同時に実現した点を特徴とする。

STT-MRAMは電源が切れた状態でも情報を保持できるため、待機時のリーク電力を抑えられるほか、電源投入直後からAI処理を開始できる。

東北大学とアイシンは今後、AI処理に利用できるメモリ容量、演算性能、エネルギー効率をさらに高め、自動車、ロボット、産業機器、センシング機器などへの展開を目指すとしている。