Baya Systemsは2023年創業の比較的新しい半導体IP企業である。

同社は「WeaverPro」と呼ばれる、チップレットベースの「Design Platform」と、その上で利用可能な4種類の「WeaveIP(Calico/Cashmere/Chiffon-AI/Neurascale)」を提供する企業である。創業者はSailesh Kumar博士であるが、創業メンバーにはTenstorrent CEOのJim Keller氏も名前を連ねており(Keller氏は現在同社の取締役会長を務める)、それもあってTenstorrentとの協業(TenstorrentがBayaからWeaveIPのライセンスを受けて、自社のチップレットソリューションに採用しているも早くから発表されている。

そんなBaya Systemであるが、8月25日に日本オフィスを開設した事をアナウンスした。日本オフィスには元Synopsysの猪飼歩氏がDirector of Salesとして着任されている。

そんなBaya Systemsだが、9月7日にCEOのKumar博士に加え、今年3月にCOO(Chief Commercial Officer)として着任したNandan Nayampally氏が合わせて来日され、この際に色々お話を伺う機会に恵まれたので、ちょっとその内容をお届けしたいと思う。

  • 実はNayampally氏、2020年まではArmに居られた

    Photo01:左がCEOのKumar博士、右がCOOのNayampally氏。実はNayampally氏、2020年まではArmに居られ、筆者は何回顔を合わせたか分からない(例えば2017年の2017年のこの記事)。といってもコロナ禍以降、Face to Faceで顔を合わせる機会が激減した事もあり、会ったのは10年ぶりくらいなのだが

Jim Keller氏の一言から始まったBaya Systems

元々、Kumar博士はSystem Fabricの開発を行うNet Speed Systemsという会社を共同創業し、CTOを務めていた。同社は非常に好調で、2018年にIntelに買収されている。このNet Speed SystemのFabric IPは、当時Teslaに居たJim Keller氏が非常に気に入ってくれ、Teslaの初代Autopilotに採用されたそうだ。その後Keller氏がIntelに入社の際にKumar博士を熱心に誘い、それもあってIntelによる買収の際にそのままIntelに移籍。IntelではKeller氏と密接に3年半ほど働いたそうだ。

その後Keller氏はIntelを辞してTenstorrentに参画、CTOから途中でCEOに切り替わった訳だが、その1年後にKeller氏からKumar博士に「もう一度、新しいFabricの会社を立ち上げる必要がある。Fabricが新たなボトルネックになっているからだ」という連絡が入ったそうだ。これがBaya Systemsの始まりだそうだ。

連絡を貰ってから資金を調達し、チームを組織し、会社として実際に稼働するまでは僅か1か月という迅速なものだったそうだ。現在は元Intel出身者を中心にチームが構成されている(Photo02)。

  • Photo02:何故だか日本オフィスは元Arm出身者が多いらしいのだが,A日本オフィスは元Arm出身者が多いらしい

    Photo02:何故だか日本オフィスは元Arm出身者が多いらしいのだが,A日本オフィスは元Arm出身者が多いらしい

Tenstorrentとの協業を足掛かりに日本市場へ

同社は現在、欧米を中心に販路を広げており、またアジア地域はシンガポールのAdoreSysとパートナー契約を締結してカバーするが、日本に関してはAdoreSys経由でなく、直接アクセスをすることになったとする(Photo03)。

  • 色の濃さの違いは単に見やすくしてるだけ

    Photo03:この色の濃さの違いの意味を確認したが、単に見やすくしてるだけで違いはないとの事

何故日本をそこまで重視するかについて、「理由は2つ。1つ目は半導体およびHPCへの投資が活発であること。2つ目は密接なパートナーであるTenstorrentが日本で非常に活発に活動しており、政府との議論、あるいはテストプログラムにBayaを引き入れてくれていること」であるとする。もっとも「Slowly but steadily」だそうで、今すぐ何か大きな動きに繋がるという訳ではなさそうだが。

AI半導体の新たなボトルネックは「データ移動」

ではそのBayaが提供するものは何か？　という事になる。結論から言えば、Bayaのフォーカスは“"Data Movement”である。

順を追って説明するが、今後のAIの進化に対してすでに大きなギャップが生まれることが明確に予測されている(Photo04)。

  • トークン数は2030年までに120倍に増えると予測され、その一方供給可能な電力量は2倍程度に過ぎないとされる

    Photo04:トークン数は2030年までに120倍に増えると予測され、その一方供給可能な電力量は2倍程度に過ぎないとされる。という事は、トークン当たりの消費電力効率を60倍にしないと辻褄が合わないことになる

これを解決するためにはコンピュート能力の一層の高密度化が求められるが、そこで課題となるのがチップレットだったりチップ同士だったり、といった複数デバイスの統合であるとする(Photo05,06)。

  • チップレットの4つの課題

    Photo05:チップレットの4つの課題。チップレットというとUCIeを使えば？　という話になる訳だが、UCIeは物理層の仕様であって、その上にどんなプロトコルを通すかはユーザーに一任されており、なので自前でプロトコルを開発する必要がある

  • alt属性はこちら

    Photo06:Scale-outの“No change in latency”はもう色々無理っぽいと放棄されてる気がする。というかScale-upですらその必要性は認めつつも、じりじりLatencyが増えている気が

この問題に対するBayaが提供できるソリューションが、Photo05で示された4つの課題にどうつながるか？　という回答がこちら(Photo07)。

  • プロトコルなど上位層に対してのソリューションを提供する、ということにな

    Photo07:端的に言えば、これまでチップレットデザインとかNoCの設計の際にユーザーが悩みながら実装していた、プロトコルなど上位層に対してのソリューションを提供する、ということになる

チップレット設計の課題をWeaverProで一貫支援

具体的な設計フローがこちら(Photo08)で、WeaverProで提供されるツールを利用する事で初期要件の把握からアーキテクチャ解析、ワークフローおよびトラフィックパターンのエミュレーション、マイクロアーキテクチャの設計まで行い、最終的なFabricの自動生成までを一貫してサポートするとされる。

  • WeaverProはポストシリコンのチューニングや、内蔵されたテレメトリ機能を活用してのルート最適化、QoS制御にも対応する

    Photo08:加えてWeaverProはポストシリコンのチューニングや、内蔵されたテレメトリ機能を活用してのルート最適化、QoS制御にも対応するとの事

独自IPで用途別のデータ移動に対応

これを支えるのがWeaveIPとして提供されるIP群である。256個のチップレットと512個のSLC(System Level Cache)をサポートできるCache Coherent Fabric IPはCHIおよびMulti-Layter CHIベースで、物理的なチップレットの境界を越えたCache Coherent性を提供する。

次がCustom AI Fabric IPで、これはAXIを利用せずに軽量な独自プロトコルを定義したい顧客向け。一方でAXIを好む顧客向けには、Non-coherent Fabric IPが用意される。こちらはAXI準拠で、すでにAXI対応となっているI/OやGPU、NPUなどに利用可能である。最後がScale-up/Scale-out Fabric向けのNeuroscaleで、これはCrossbarの代替になる、とされる。

という事はNeuroscaleはたとえばBroadcomのTomahawk 6を置き換えできるのか？　と尋ねたところ、「スイッチチップ全体を置き換えられる訳では無く、PHYやプロトコルエンジンそのものは顧客自身が説明する必要がある。Neuroscaleが提供するのはチップ内部のPHY間でメッセージやデータをノンブロッキングで転送する、Digital Crossbar Coreの部分だ」との事。ついでに言えば、これは完全にデジタルIPなので、小さなスイッチングタイルとして複製可能であり、物理実装やレイアウトが用意になるほか、UCIeなどを介したDie-to-Dieのスケーリングにも容易に対応できる、とした。

SynopsysだけでなくCadenceやSiemensの環境にも対応

ところでBaya SystemはSynopsysから出資を受けており、また取締役会にもSynopsysからSiva Yerramilli氏(CVP, Corporate Incubation Group)が参加しているなど結びつきが強い。これもあってSynopsysのPlatform Architectの中からBayaのFabricStudioを呼び出して使うといった形での統合が行われている(Photo09)が、では他のEDAベンダーのツールは？　ということで確認したところ、「我々はEDAツールに対して中立の立場を取っている。もちろんSynopsysのPlatform Architectと連携はしているが、同様にCadenceのチップフレームワークとも連携可能で、実際いくつかの顧客はCadenceでBayaのソリューションを利用している。これはSiemensについても同じである。我々のツールは標準的なSystem C API、Python API、C++モデルを介してインタフェースになっている」という返事であった。

  • BayaのPacketizerはSynopsysのUCIe Controller IPと連携して動作する

    Photo09:別の例がこちら。BayaのPacketizerはSynopsysのUCIe Controller IPと連携して動作する

チップレットに限らずモノリシックなSoCもターゲット

それともう1つ。これは日本でのビジネスにも絡む話なのであるが、そもそもBayaのソリューションはチップレットを容易に構築するためのツールとIPに見える(Photo10)。そこで「そもそも日本でチップレットを利用したSoCを構築しよう、という顧客がそんなに居る訳では無いと思うのだが、そこでビジネスは成立するのか？」と尋ねたところ「我々のソリューションは、データムーブメントの最適化を行う事だ。これはモノリシックだろうがチップレットだろうが変わらない。つまりモノリシックなSoCを構築する顧客であっても、弊社のソリューションは役立つ」という返事が戻ってきた。

  • モノリシックでもチップレットでも同じように設計できる

    Photo10:モノリシックでもチップレットでも同じように設計できる(というか、CPUなりGPUなりから見ると同じNoCにアクセスしている様に扱える)のがポイントである

これに絡み、日本オフィス開設のリリースを読むとTenstorrentの顧客に対して、そのFabric構築のサポートをするのが最初のミッションと説明されている訳だが、「だったらTenstorrentを直接サポートする方が早いのでは？」と尋ねたところ「きっかけはTenstorrentであるが、BayaはTenstorrentに依存している訳では無く、独立して独自顧客を獲得してゆく」との事であった。

問題はそこまでの需要が本当にあるのか？　という話であるが、これに関してKumar博士は「別の言い方をしてみよう。我々は小規模な会社だ。だから、もし顧客が3社あれば、それは素晴らしい(Great)。5社獲得できれば、さらに良い(Better)。20社獲得出来たら大金星だ(Excellent)。我々は、Bayaの提供する技術の素晴らしさを証明するために、ここに居る」とした。

日本ではHPCや車載半導体市場にも期待

さらに「今後、どんなマーケットがデータムーブメントを必要とするか？　～長期的にはすべてのチップがそうなると思うのだが～、(そういうデマンドが発生すると)我々もそこに参入できる可能性が生まれることになる。我々は富士通のHPCへの取り組み、あるいはルネサス エレクトロニクスの自動車向けソリューションへの取り組みなどを注視している。また多くの自動車OEMが独自のシステムを構築している事にも注目している。トヨタやホンダも検討しているか、少なくとも必要な仕様を定めている所だ」とした。Bayaのソリューションが自動車や産業機器向けの機能安全仕様に関して言及している(Photo11)のは、こうした自動車向けのビジネスを狙っている部分も多分にあると思われるし、そうであれば日本に新たに拠点を設けた事も頷ける話である。

  • ASIL-BやらDやらを取得するには膨大な労力と時間が必要

    Photo11:もちろん、ここでASIL-BやらDやらを取得するには膨大な労力と時間が必要なので、今すぐ提供できるわけではない(ここにも“in assessment”とか“systematic capability, roadmap”とかある)

「世界第4のIPベンダー」を目指すBaya Systems

最後、Kumar博士に(失礼ながら)「ところでBayaのGoalは？　EDAツールやIPのベンダーは多くがEDAベンダーに買収されているが、そういうゴールを想定しているのか？」と確認したところ、「同じ質問を投資家とか新しい社員とかにもよく聞かれるんだが(笑)、確かに誰もが素晴らしいExitを夢見ているから、それは理解できる。これに関しての私の考えは『Exitに関しては何も考えていない』だ。我々は素晴らしいビジネスを築くためにこの事業に取り組んでおり、素晴らしいビジネスは素晴らしい製品の上に成り立ち、そして素晴らしい製品は素晴らしい人材によって生み出されるからだ。なので、我々はここで本当に素晴らしい会社を築き上げており、そして現代の最も重要な問題を解決しようとしていると感じている。」とした。

さらに「高性能コンピューティングや高性能インフラストラクチャに携わる人に話を聞けば、誰もが口を揃えて『制約となっているのは接続性とデータの移動だ』と言うだろう。AIデータセンターを詳しく見てみると、AI演算リソースがしばしば遊んでいる。メモリからAI演算リソースへデータを移動させることが出来ないからだ。つまりデータの移動こそが最も核心的な課題なのだ。

そこで、私たちはこの課題に非常に情熱を注ぐチームを結成した。メンバーはNet SpeedやIntel、Armでの勤務経験があり、これらすべての企業でこのコネクティビティの問題を解決してきた実績がある。そして、全員が『遂に自分たちの専門知識が最も活かされる時代が来た』と感じている。なので、彼らは皆、素晴らしい製品を作り上げ、ビジネスを確立することに非常に情熱を注いでおり、Exitについて考えるような余地が無いともいえる。

確かに、歴史的に見れば、ほとんどのIP企業はSynopsysかCadenceなどに買収されてきた。ただ我々は持続可能なビジネスを築き上げ、市場で4番目の大手IPベンダーになれると確信している。何故なら我々は『正しい問題』を解決しており、当社の製品には膨大な需要があるからだ。しかもExitを目指すのではなく、素晴らしい会社を築き上げることに並々ならぬ情熱を注ぐチームを構築した。という訳で繰り返しになるが、Exitについてはまったく考えていない」という熱のこもった返事をいただいた。

Bayaのソリューションを、“Chiplet IPs and Tools”と見るのは間違いで、“Data movement IPs and Tools”とするのが恐らく正確なのだろう。ただこれは非常に分かりにくい表現でもある。競合としては、例えばCadenceのJanus NoCとか、Arteris IPのNoC IPなどが挙げられると思うのだが、さてKumar博士の言うように、第4のIPベンダーになれるだろうか？

大原雄介

この著者の記事一覧はこちら