センサからデータセンターまで同じNPU基盤で対応可能、Cevaが次世代「NeuPro」を発表

この半導体ニュースのまとめ

・CevaがセンサからAIインフラまで対応する次世代NPU「NeuPro」を発表
・第1世代比で1mm²当たりのAI処理性能を最大2倍、エネルギー効率を50％向上
・共通アーキテクチャーを採用する4製品を展開し、2027年第2四半期に一般提供へ

Cevaは10月28日(米国時間)、次世代NPU製品ファミリー「NeuPro」を発表した。

共通のアーキテクチャーと統合ソフトウェア・スタックを基盤に、常時稼働型センサから高度なエッジ・システム、ロボティクス、クラウド/データセンターまでを対象に、知覚や分類に加え、トランスフォーマー、マルチモーダルAI、生成AI、エージェント型AIなどの推論処理に対応。第1世代比で1mm²当たりのAI処理性能を最大2倍、エネルギー効率を50％向上したという。

• 

  Cevaが発表した次世代NPU製品ファミリー「NeuPro」のイメージ。常時稼働型センサや家電、ドローン、自動車、ロボットなどのエッジ機器からAIインフラまでを共通のアーキテクチャーでカバーする (出所:Ceva)

1mm²当たりのAI処理性能を最大2倍に

次世代NeuProは、演算処理能力だけでなく、消費電力、チップ面積、メモリ帯域幅、データ転送量を含めて推論処理を最適化するように設計された半導体IPで、AI演算形式はFP4やFP8などに対応し、混合精度演算によって推論処理の効率を高めながら、メモリ使用量とデータ転送量を削減することを可能とする。

メモリ管理では動的シェイプとページ単位のKVキャッシュ管理をサポートし、長いコンテキストを扱うトランスフォーマーや、大量のメモリを必要とするワークロードへ対応する。テンソル形状の最適化によって積和演算(MAC)の利用率を高めるほか、圧縮、量子化、プルーニングもサポート。消費電力当たり、チップ面積当たりの実効性能向上を図ったという。

また、量子化済みモデルに対応し、別途量子化やキャリブレーションを行うことなく、公開済みのチェックポイントを実装できるともしている。

MoEや線形アテンションなどに対応

対応するネットワーク・アーキテクチャーには、MoE(Mixture-of-Experts)や線形アテンションなどが含まれる。Cevaは、製品のライフサイクル期間中にAIモデルやネットワーク構成が変化することを前提に、新たなタイプのモデルへ対応できる柔軟性を持たせたとしている。

フィジカルAIでは、センサに近い場所で知覚処理やリアルタイム応答を実行する一方、複雑な推論やオーケストレーションをデバイス、エッジ・システム、クラウドへ分散する構成が増えていることから、次世代NeuProでは、実行場所やワークロードに応じてNPUを選択しながら、共通のアーキテクチャーとソフトウェア環境を利用できるようにする。

Nano、Prime、Max、Ultraの4製品で構成

次世代NeuPro製品ファミリーは、対象とする処理性能や用途が異なる4種類のNPUで構成される。

「NeuPro Nano」は、消費電力や実装面積の制約が厳しいデバイスに向け、常時稼働型センシングやエントリーレベルの知覚処理を対象とする。

「NeuPro Prime」は、主流となるCNNやトランスフォーマーのワークロードへ対応する。

「NeuPro Max」は、高解像度の知覚処理、マルチモーダルモデル、デバイス上で動作するAIアシスタント、ロボティクス、フィジカルAI、エージェント型AIなど、高度なエッジAIを対象とする。

「NeuPro Ultra」はAIインフラ向けで、クラウドやデータセンターにおける大規模言語モデル(LLM)の推論処理に加え、インテリジェントなメモリー、コネクティビティ、データ処理用チップセットへの組み込みを想定する。

共通SDKでソフトウェア資産を再利用

4種類のNPUは共通のコア・アーキテクチャーを採用し、同じ統合ソフトウェア開発キット(SDK)でサポートされるため、半導体設計者は、製品の性能や消費電力、実装面積に応じてNPUコアを切り替えられるほか、複数のNPUを1つのSoCへ組み込み、ワークロードごとに適したエンジンへ処理を割り当てることも可能となる。

ツール、開発フロー、ソフトウェア資産を製品ファミリー全体で共有できるため、常時稼働型センサからAIインフラまで、異なる性能要件の製品を共通の開発基盤で設計できるようにする。Cevaによると、第1世代NeuProは15社以上へライセンスを供与しているという。次世代品では、そうした顧客との協業を通じて得た知見を基に、演算処理能力、メモリ、帯域幅、消費電力、コストのバランスを見直したとしている。

NeuPro UltraでAIインフラへ事業領域を拡大

次世代NeuProの発表に伴い、Cevaは従来のスマート・エッジに加え、AIインフラへ事業領域を拡大することも明らかにした。

大規模なAI推論では、多数の利用者向けに複数のモデルを同時に動作させるため、演算性能だけでなく、メモリ帯域幅や、メモリ、演算処理部、ネットワーク間のデータ転送がシステム性能と電力効率を左右する。

NeuPro Ultraは、マルチコア処理、マルチユーザー対応、高いメモリ帯域幅、高度なメモリ管理機能を備え、クラウドやデータセンターで使用されるソフトウェア・フレームワークをサポートすることが可能で、LLMの推論プロセッサとして利用できるほか、メモリやコネクティビティのサブシステムへ組み込み、データ移動そのものへニューラル処理を適用することも可能としている。

データの移動を減らしてAIシステムを効率化

メモリやネットワークの近くにNPUを配置することで、必要なデータを選別・処理してから演算処理部へ送り、システム内部における不要なデータ転送を削減することができるようになる。こうした機能をチップセットへ組み込む半導体メーカーは、NPUプラットフォームを1から開発することなく、エッジからAIインフラまでを対象とする半導体製品を開発できる点をCeveとしては訴求していくとする。

一般提供は2027年第2四半期を予定

なお、次世代NeuPro技術は、一部の先行アクセス顧客へ提供を開始しており、大手半導体メーカーやシステム開発企業が、将来のAI製品への組み込みに向けた評価を進めている段階にあり、一般に向けた提供は2027年第2四半期を予定している。

Cevaは、常時稼働型センシング、エッジAI、ロボティクス、フィジカルAI、AIインフラへ共通のNPUアーキテクチャとソフトウェア・スタックを展開し、半導体メーカーによる開発期間の短縮とソフトウェア資産の再利用を支援するとしている。