TAI、AI半導体「Sting Ray」の実機デモを披露　生成AIで評価ソフト開発も加速

この半導体ニュースのまとめ

・TAIがAI半導体テストチップ「Sting Ray」の実機デモを披露
・2027年に設計ツールやES品、量産チップ「Manta Ray」の提供を計画
・生成AIを活用し、評価ソフトの開発を約2日で実現

Tokyo Artisan Intelligence(TAI)は8月6日、自社イベントを開催し、開発を進めるエッジAI向けリコンフィギャラブルAI半導体チップのテストチップ「Sting Ray」の実機デモを披露したほか、量産第1世代製品「Manta Ray」の開発進捗状況などの説明を行った。

TAIは東北大学発のスタートアップだが、すでにFPGAを活用したAIソリューションを鉄道、養殖、インフラ点検などの現場に展開してきた実績を有しており、2025年には東北大学と「Reconfigurable AI-Chip 共創研究所」を設立し、AIソリューションベンダから自社でAI向けFPGAを設計するファブレスAI半導体ベンダへの転換を目指す方針を示している。その実現に向けて同社は、マレーシアの半導体設計企業Oppstarとの協業や、UMCの40nmプロセスを活用した開発体制を構築済みで、Sting Rayはそうした構想を実チップとして検証する位置付けとなる。

TAIのこれまでのAIソリューション活用事例

現場AIで求められる低遅延・低発熱に対応

TAIのCEO/CTOであり、東北大学未踏スケールデータアナリティクスセンター教授でもある中原啓貴氏は、AIを産業現場に適用する際の課題として、AI推論そのものだけではなく、カメラ画像のリサイズや補正、センサ入力、アクチュエータ制御といった前後処理を含めたレイテンシの重要性を挙げた。

産業用途では、GPUを用いてAI推論を高速化しても、前処理をArmプロセッサで行う場合や、GPUとのデータ転送が発生する場合、システム全体としての遅延が残る。鉄道やロボットのように、安全性やリアルタイム性が求められる用途では、認識結果と動作の間に遅れが生じること自体がリスクとなる。

そのためTAIでは、カメラ、センサ、アクチュエータを低遅延で接続できるFPGAの特性を重視してきた。一方で、現場でのAI適用が進むにつれ、複数AIの同時実行やローカルLLMの搭載など、顧客側の要求は拡大している。計算量は増える一方で、発熱や消費電力は抑える必要がある。こうした矛盾を解決するため、同社はFPGAの再構成性とASIC的な効率を組み合わせたAI向け半導体の開発を決定したと、AI FPGAを自前で設計・製造(製造そのものはUMC)するに至った背景を説明する。

AIプラットフォーム「SEASIDE」。活用しているFPGAはバージョンによって現行品としてはAMDのKria SOM(システムオンモジュール)もしくはEfinixのTitanium FPGAが用いられているが、次世代モデルには自社設計のManta Ray+なんらかのFPGAが搭載される予定

Sting Rayで量産チップに向けた技術を検証

TAIが開発したSting Rayは、量産チップ「Manta Ray」に向けた技術検証用のテストチップである。中原氏によると、同チップは2026年7月に完成し、実機評価で一発動作したとのことで、同氏も「一発で動いてほっとした」と安堵の表情を見せていた。

Sting Rayは技術検証のためのテストチップという位置づけ。設計ノウハウそのものの評価に加え、回路のリコンフィギュラブル性能などハードウェア性能の検証も目的として開発された

Sting Rayでは、FPGAが持つ回路を書き換えられる柔軟性を生かしつつ、エッジAI向けに低消費電力・低遅延で動作する構造を検証した。TAIが以前発表した計画では、UMCの40nmプロセスを採用し、量産化を見据えた現実的なコストと供給安定性を重視するとしていた。最先端プロセスではなく成熟プロセスを選ぶことで、エッジAI用途に必要な性能、消費電力、コストのバランスを取る狙いがある。

高性能AI FPGAへとプラットフォームを更新することで、ユーザーの複雑なエッジAIニーズにも柔軟に対応することができるようになる予定としている

中原氏は、テストチップを作ったことで、設計や製造だけでなく、DFTや実チップ評価、動作しなかった場合の救済策など、量産に向けたノウハウを得られたと説明。単にチップを作るだけではなく、製造後にそのチップが正しく動作するかを確認する仕組みを含めて整備できたことが、ベンチャーとして大きな資産になったとしている。

Sting Rayの開発を通じて得た各種ノウハウの概要

同社は今後、2027年初頭に設計ツールをリリースし、2027年第2四半期にエンジニアリングサンプル(ES)品、同年第4四半期に量産品となるManta Rayを提供する計画を示した。評価ボードについては、FPGAとTAIのAIチップを組み合わせる構成を想定しており、I/Oや一部の処理をFPGAに分散し、AI側で不足する部分をManta Rayで担う形を想定している。

TAIの次のステップとなるManta Rayプロジェクトのロードマップ。現在テープアウトに向けた開発が進められており、それと並行する形で2027年第1四半期の設計ツール(α版)のリリースより、各四半期ごとにES品のリリース、ES品搭載の評価ボードリリースを経て、第4四半期に量産品の提供が開始される予定。2028年第1四半期には、Manta Rayを搭載した評価ボードもリリースされる予定となっている

Manta Rayの評価ボードのイメージ。Manta RayはあくまでAI演算に特化したチップとなるため、I/O処理やプロセッシングなどはFPGA側に担わせる構成となる模様である

KVキャッシュ問題もFPGA活用の可能性に

また同氏は、生成AIやローカルLLMのエッジ実装に向けた課題として、KVキャッシュの肥大化についても紹介した。大規模言語モデル(LLM)では、入力コンテキストの拡大に伴って過去のキー(K)とバリュー(V)をメモリに保持する必要があり、その読み出しがボトルネックになりやすいのは、すでに生成AIを活用している多くの人が普段からやりとりが長くなってくると、読み出しまでの動作が長くなる症状で体験していることと思われる。

その解決手法の1つとして、CXLを用いたKVキャッシュアクセラレータをFPGAで構成する研究が進められていることに触れ、データセンター領域でもFPGAが活用される可能性があると指摘。FPGAは汎用GPUのような演算性能だけで勝負するのではなく、圧縮、メモリアクセス、I/O制御、前後処理を含むシステム全体で低遅延化を図れる点に強みがある。

TAIが目指すのは、こうしたFPGA的な柔軟性を生かしながら、AI処理に必要な部分を専用化するアーキテクチャである。単体のAI半導体チップを販売するというよりも、自社AIプラットフォーム「SEASIDE」などと組み合わせ、現場ごとのAI処理をすぐに使える形で提供する事業モデルを想定している。

生成AIで評価ソフトを約2日で開発

Sting Rayの実機評価にあたっては、評価ソフトウェアの開発にも生成AIが活用された。製造前であればシミュレーション環境で動作を確認できるが、製造後の実チップでは、製造ばらつきや動作環境の影響を受けるため、外部からチップを制御して出力を確認する評価システムが必要になる。

同社のエンジニアが1人で、ChatGPTとClaude Codeを用いて、PCからテストチップへコマンドを送信し、出力データを取得して期待通りに動作しているかを確認する評価ツールを2日で開発したという。

評価ツールも自作。生成AIを活用することで、1人のエンジニアが2日ほどで開発することができたという

開発では、最初から全体を一気に作るのではなく、小さい機能から段階的に構築。PC-USB変換ボードの通信テストでは、データシートやFTDI(Future Technology Devices International)のユーザーガイドを事前に調査し、公式ドライバを使う実装イメージを持ったうえで生成AIに質問。デバイス検出から段階的にチェックし、評価システム側とチップ側の問題を切り分けやすくしたとする。

その後、テストベンチやコマンド形式をClaude Codeに入力し、1つずつ動作確認しながら修正を進めた。評価システム内部の仕様を知らないエンジニアが使うことを前提に、生成AIに仕様書を書かせたうえで機能を調整した点も特徴とする。実チップが届いた後、初回の評価でツールが期待通りに動作し、Sting Rayの評価を円滑に進めることができたという。

Lチカと矩形波演奏で実機動作を確認

さらに同イベントではSting Rayのデモとして、LED点滅と音声出力が披露された。システムは、PC上のテストチップ評価ツールからUSB変換ボードを介し、テスト用ハードウェアとテストチップを制御する構成。テストチップの先にPmodインタフェースのLEDボードとオーディオボードが接続された形となっていた。

Sting Ray搭載の評価カードによるデモの動作システム

LEDデモは、8個のLEDを4個ずつ1秒間隔で点滅させる、いわゆる「Lチカ」を実行。音声デモでは、ド、ミ、ソ、ド(高い方)の矩形波を出力し、オーディオボードを介してスピーカーから音を鳴らすというもの。周波数はドが262Hz、ミが330Hz、ソが392Hz、高いドが523Hzで出力されるというデモとしては基礎的な内容だが、テストチップのコンフィギュレーション、クロック制御、外部I/O制御、音声出力までを実機で確認できた点は大きい。特に、TAIが開発した再構成可能なAI半導体が、評価ツールと組み合わせて実際に動作することを示した点で、Manta Rayに向けた一歩となるといえるだろう。

日本発のファブレスAI半導体企業へ

TAIは、東北大学との共創研究所、Oppstarとの設計協業、UMCの40nmプロセスでの製造を通じ、日本、マレーシア、台湾を結ぶ開発・製造体制を構築しつつある。これまでの発表では、鉄道、スマート製造、物流、インフラ、ロボティクスといったフィジカルAI領域を想定用途として掲げてきた。

Manta Rayが狙う領域のイメージ

今回のイベントでの進捗状況の公開は、Sting Rayの設計・製造・評価が完了したことを、単なるリリースとして発表するのではなく、実機デモと開発プロセスを顧客候補企業や関係者へ共有するという形で示したものといえる。中原氏も、テストチップが完成し、実際に動作に問題がないことを実証できるツールも提供可能な状態まで持ってきたことについて「ベンチャーが半導体を作れることを証明した」と表現。多くの半導体ベンチャーの商業展開に立ちはだかる壁の1つが、デバイスは製造できたが、それを使ってシステムを開発するためのツールをどうするかといった問題であるが、今回、単純なものながら、実際にチップを動かせるツールも同時に出てきた点は、商用製品として実際に顧客に使ってもらうという側面でも大きな意味を持つことになる。

Sting Rayが設計通りに動作できていることが確認できたことで、TAIのAI半導体開発は次のステップに移行することとなり、次のManta Rayの量産化で本格的なビジネス展開のタイミングを迎えることとなる

エッジAIやフィジカルAIでは、データセンター向けGPUのような最大演算性能だけでなく、消費電力、発熱、遅延、設置性、用途ごとの柔軟性が重要になる。今回のイベントは、単にちゃんと動作するリコンフィギャラブルAI半導体を設計・製造した、というだけの話ではなく、設計ツール、評価ボード、AIプラットフォームなどといったユーザーが必要とする周辺環境も併せて整備していくことで、現場に沿った形でのAIの実装基盤を整備していき、エッジのニーズへの対応を図っていくというTAIの姿勢を改めて示したものと言えるだろう。

Manta Rayの次には第2世代量産チップ「Whale Shark(ホエールシャーク。意味はジンベイザメ)」の開発が予定されている。ホエールシャークそのものの存在は2025年の段階で明らかにされており、当時は2030年度以降の製品化と説明されていたが、今回、あくまでTBD(To Be Determined:現時点では未定)という注釈付きながら、2030年12月の完成めどということが示された。仕様についての詳細は明らかにされなかったが、従来からの変更がなければ、メモリチップをスタックしてスケールすることを可能とする仕組みを採用し、低消費電力でより高いAI演算性能の実現が期待されるアナログ系回路の搭載も予定されている野心的な製品になる模様である