9月8日に上海で開催された「Arm Everywhere China」において、Armは「CSS for Mobile 2」、「Total design for Physical AI」、「Neoverse CSS N4」の3つの新たな技術基盤を発表した。これに関する説明会が開催されたので、その資料を基に、簡単に紹介したい。

CSS for Mobile 2

Armは2024年5月にCSS for Clientを発表していたが、今回、ClientからMobileに名前が変わったのは、Clientの対象がSmartphoneのほか、PCも加わったので、これを判りやすくするためかと思われる。Client for Mobile 2ではCPUがC2シリーズとなり、またGPUもMali G2に切り替わった(Photo01)。

  • CSS for Mobile 2

    Photo01:CSS for ClientにはUltraとPro以外にPremium/Nanoもあったが、CSS for Mobile 2にも同じものがあるかどうかは不明。あと、Lumexのブランドはどこに行ったのだろう?

現時点ではC2シリーズ、Mali G2シリーズともに細かいSKUや技術的な詳細は公開されていないが、C1世代と比較して平均12~15%の性能向上が図られているとする(Photo02)。

  • SME2ユニットは最大2つになった

    Photo02:ここにもチラッと出てくるが、SME2ユニットは最大2つになった。ちなみに2つにするかどうかは顧客のオプション次第とのこと

ちなみに質疑応答の中でC2コアはTDP 1~2Wの範囲で5~7TOPSのAI演算性能を持つとされているが、そのAI性能がこちら。LLMを実施した際の処理性能が有意に改善するとされている(Photo03)。ちなみにこれは恐らくだが、SME2を2つ搭載した構成での結果と思われる。

  • C2-Ultra×2+SME2だと1.5秒弱に短縮される

    Photo03:C1-Ultra×2だと1.9秒ほど掛かる反応が、C2-Ultra×2+SME2だと1.5秒弱に短縮されるという訳だ

次がMali G2であるが、最近のPC向けのトレンドに追従する形での進化を遂げた(Photo04)。

  • PCの世界ではAIベースでのUpscalingだけでなくフレーム補完も当たり前になってきている

    Photo04:PCの世界ではAIベースでのUpscalingだけでなくフレーム補完も当たり前になってきており、これをフォローする形だ

大きな変更がNX(Neural Accelerator)の搭載である(Photo05)。

  • 同一周波数における処理性能が最大14%向上した

    Photo05:質疑応答によれば、Mali-G1と比べて新しいISAが搭載され、さらにMicro Architectureも刷新されており、これで同一周波数における処理性能が最大14%向上したとの事

NXはCNNおよびTensor Graphの実行に最適化されているという話である。もっとも具体的に、単にOuter-ProductsのAcceleratorを搭載しているだけなのか、もっと他のものが入っているのか、に関しては説明がなかった。

ちなみに理論上は最大50TOPS程度の性能が期待できるが、実用上は10~20TOPS程度のレンジに落ち着くと思われるとの事。これを利用してNSS(Neural Super Sampling)やNeural Frame Rate Upscaling(NFRU)、Neural Super Sampling and Denoising(NSSD)といった機能が実現できるとしている(Photo06~08)。

  • 実際のところはShaderに統合されている

    Photo06:この図だとShaderの一部にNeural Acceleratorが入っているというより、GPUのExecution Engineとは別にNeural Acceleratorが搭載されている様に見えるが、実際のところはShaderに統合されているとの事

  • NSSDの動作例

    Photo07:NSSDの動作例なのだが、ちょっと画質が悪いせいで分かりにくいのはご容赦を

  • NRFUの動作例

    Photo08:NRFUの動作例。フレームレートを倍増させている

ちなみにMotion Engineが単体で何を行っているのかは説明が無かったが、Neural Acceleratorと共同で特に1000本単位の光線を利用するRay Tracing実施のノイズ削減に効果がある、という説明であった。

Mali-G2 Ultraの性能をまとめたのがこちら(Photo09)である。NSSやNFRUによって描画性能を従来比で4倍に引き上げながらDRAMトラフィックの大幅削減を実施できたとする。

  • Ray Tracingを利用しない場合とRay Tracingを使った場合の性能比

    Photo09:左はRay Tracingを利用しない場合、右がRay Tracingを使った場合の性能比となる

Total design for Physical AI

Arm Total Designは2023年に発表されたが、これをフィジカルAI向けに拡張したのが今回発表のTotal design for Physical AIである(Photo10)。

  • 元々のTotal DesignはCSSの実装を手助けするエコシステムパートナーの集合という感じだった

    Photo10:元々のTotal DesignはCSSの実装を手助けするエコシステムパートナーの集合という感じだったが、これをフィジカルAI向けに拡張した格好

どこからどこまでをフィジカルAIと認識するのかは難しいが、トータルで80社以上が名前を連ねている(Photo11)。

  • 現時点において、ArmとHugging Faceの協力関係・計画に変更が生じる予定は一切ない

    Photo11:Cloud Intelligenceの中に、先日NVIDIAによる買収がアナウンスされたHugging Faceの名前があるが、これに関しては「NVIDIAとHugging Faceの間でどのような決定や進展があるかは注視する必要があるが、現時点において、ArmとHugging Faceの協力関係・計画に変更が生じる予定は一切ない」との返事だった

また新たにRobotics Capability Frameworkが策定され(Photo12)、中国のUnitree、AGI等を含む、開発やデプロイ実績を持つロボティクス企業を広く集め、共同でこの共通規格を進化させていく事も発表された。

  • 説明会の時点ではこのRobotics Capability Frameworkの詳細は説明されていない

    Photo12:説明会の時点ではこのRobotics Capability Frameworkの詳細は説明されていない。多分間もなく概略などが公開されるものと思われる

Neoverse CSS N4

最後がNeoverse CSS N4(Photo13)である。

  • 性能はソケットあたりN3比で2倍、性能/消費電力比は1.25倍になる

    Photo13:性能はソケットあたりN3比で2倍、性能/消費電力比は1.25倍になると説明された。また新しいCoherent Mesh Networkも一緒に提供されるとの話だった。

これは既存のNeoverse CSS V3/N3のうちN3の後継となるものである。従来のN3との違いとしては、

  • セキュリティ対策がConfidential Compute v2に準拠したものになる
  • 新たにFP8のデータタイプをNative Support
  • より高度で堅牢なテレメトリ機能

といった事が示された。

アーキテクチャとしてはArm v9.3-Aベースだが、いくつかの独自の追加機能を統合おり、このためArmの内部およびドキュメントにおいては、Armv9.3+として定義・参照しているという返事であった。

気になるのがAGI CPUとの差別化であるが、多くの顧客は特殊なユースケースや要件に応じて、独自の特定用途向けカスタムSoCを引き続き開発・投資していくと予想され、Armはこれに対してIPおよびCSSを全面的にサポートし続ける。一方、一部のCloud Providerなどを筆頭に、激化するAI競争の中で「Compute Infrastructureを極めて迅速にScaleさせたい」というプレッシャーに直面している顧客が存在する。こうした顧客に対して、即時展開ニーズを満たす製品としてAGI CPUを提供する、という説明であった。

Neoverse CSS N4はTSMCのN3/N3Pをターゲットとするが、これに加えてTSMC N2やSamsung SF2/SF2Pなどの次世代ノードもカバーするという話であった。