NXP Semiconductorsは10月29日、同社マイコン(MCU)/MPU向けAI/機械学習(ML)開発ソフトウェア「eIQ」にRAG(検索拡張生成)による最適化を提供するエッジAI機能「eIQ GenAI Flow」ならびに「eIQ Time Series Studio(TSS)」を追加したことを発表した。

近年のAI活用の流れは、クラウド/サーバ分野からエッジ分野に進みつつあるが、エッジ分野の電子機器は用途によって処理性能もまちまちで、さまざまな性能要件に対応する必要がある。NXPでも、そうしたエッジ分野におけるカスタマニーズを踏まえ、ML処理のアクセラレータ「eIQ Neutron NPU」をはじめとするNPU搭載製品をリリースするなど、対応強化を図ってきている。またeIQ AIソフトウェア・ツールキットは、それらMCU、クロスオーバーMCU、MPUを横断して共通利用できるAIソフトウェアスタックという役割を担っているほか、カスタマはMLのデータセットなどを用いた学習した最適なモデル構築を進めることができ、かつCPUやNPU(MPUであるi.MXシリーズの場合はGPUにも)に最適化を図ることができるという。

  • eIQに対応するNXPのポートフォリオ

    eIQに対応するNXPのポートフォリオとしてはMCXシリーズ、i.MX RTシリーズ、そしてi.MX 9/i.MX 8シリーズとなっている (資料提供:NXP、以下すべて同様)

  • eIQ AIソフトウェア・ツールキットの概要

    eIQ AIソフトウェア・ツールキットの概要

時系列AI向け開発ツール「eIQ TSS」

今回eIQに追加された新機能の1つ目となるeIQ TSSは、 1つまたは複数のチャネルにわたって収集された時系列データを、異常検知や分類、回帰などのタスクに使用する時系列AIベースのAIモデルのデータキュレーションからデプロイまでの一連の開発を簡素化し、かかる時間を短縮することを可能とするツール。自動機械学習機能を活用することで、1つのセンサデータを連続的に確認して特徴や異常点を検知すること以外にも、複数のセンサデータから特徴や異常点の抽出といったことが可能となる。

  • eIQ TSSの概要

    eIQ TSSの概要

また、使用するMCU(MCXシリーズ)やクロスオーバーMCUの性能幅が広いこともあり、それぞれのデバイスごとに精度やメモリサイズ、量子化などを最適化することもできる仕組みも有しているという。

  • eIQ TSSのモデル生成画面

    eIQ TSSのモデル生成画面

これにより、異常検知や動作状態の分類、将来の挙動予測などを容易に実現できるようになるという。ただし、現在のバージョンではMCUに搭載されたCPUでのAI処理のみをサポートしており、Neutron NPUのサポートは2025年初旬以降を予定しているとする。

エッジ用途に最適な生成AIを実現する「eIQ GenAI Flow」

2つ目のeIQ GenAI Flowは主にハイエンドはMPU(i.MX 8およびi.MX 9シリーズ)で活用できるツールで、大規模言語モデル(LLM)にRAGを加えることで生成AIをエッジで使いやすくすることを可能とするもの。単なるLLMだと、一般に公開されている情報を基盤としたものであり、それぞれの機器の使い方やエラーの対応などの情報が存在しておらず、使い方を知りたいと思ってもそれに合致した適切な回答を学習していないため、そうした用途には向かないこととなる。そこにドメイン固有のデータベースを作成する手法であるRAGを組み合わせ、そこからの情報をLLMと組み合わせてユーザーに提供することで、エッジデバイスであってもAIの活用を可能にしようというものとなる。

  • LLM開発におけるピラミッド構造

    LLM開発におけるピラミッド構造

これにより、例えば家電の説明書の内容をRAGのデータベースとして持たせることで、ユーザーは使いたい家電についての質問を音声で家電そのものに指示をだして、家電が適切な使い方などを教えてくれる、といった使い方ができるようになる。

  • スマート家電の使い方をAIに教えてもらう際のイメージ

    スマート家電の使い方をAIに教えてもらう際のイメージ

eIQ GenAI Flowは2025年初旬からの提供を目指して現在、開発が進められている段階で、初期バージョンとしては音声入力のみの対応だが、将来的には画像なども含めたマルチモーダル対応を進めていく予定だという。

  • eIQ GenAI Flowの概要図
  • eIQ GenAI Flowの概要図
  • eIQ GenAI Flowの概要図。最初の対応製品はi.MX 95となる

なお、LLMならびにRAGは容量的に大きいものであり、サーバなどで活用されているものをそのまま組み込もうと思ってもデバイスのRAMのサイズが持たないため、eIQ GenAI Flowでは搭載したいデバイスに応じてうまく搭載できる機能などが搭載される模様である。