マクニカとフィックスターズ、Tenstorrent製AI基盤の導入・運用を一貫支援

このITインフラ関連ニュースのまとめ

・マクニカとフィックスターズがTenstorrent製AI基盤の導入・運用支援で連携
・実機評価からモデル移植、性能最適化、インフラ構築まで一貫して支援
・共同PoCではgpt-oss-120bの1トークン当たりの生成時間を31.3％短縮

マクニカとフィックスターズは、Tenstorrent製AI製品の導入を検討する国内企業を対象に、AIモデルの実機評価から性能最適化、AIインフラの構築、導入および運用までを共同で支援する。

生成AIの企業利用が広がる中、機密性やガバナンス、運用の柔軟性などを理由に、AIモデルを自社で管理できる環境に導入したいというニーズが高まっている。一方、新たなAIハードウェアを導入する際には、製品の選定だけでなく、利用予定のAIモデルが実際に動作するかどうかの確認や、実機上での性能評価、ソフトウェアの調整、インフラの構築、導入後の技術支援などが必要になる。

そこで両社は、マクニカが持つAIインフラの構築および製品評価支援の知見と、フィックスターズが持つパフォーマンスエンジニアリング技術を組み合わせ、導入前の検証から導入後の運用までを一貫して支援する体制を構築する。

具体的には、顧客が利用するAIモデルやアプリケーションの実機評価をはじめ、評価環境およびモデル実行環境の構築、AIモデルの移植、動作検証、性能分析などを支援する。また、処理上のボトルネックを特定したうえで、計算処理やデータの受け渡し方法を含むソフトウェア実装を改善し、AIモデルの推論性能を最適化する。

さらに、評価と最適化の結果を踏まえたAIインフラの構築や導入、運用も支援するほか、必要に応じてTenstorrentとの技術連携も行う。これにより、企業は製品の導入を前提とせず、実際に利用するAIモデルを実機上で検証し、用途や性能要件に適したAI基盤であるかを定量的に判断できるようになる。

両社は、こうした支援の実効性を確認するため、TenstorrentのWormholeチップを8基搭載し、合計96GBのGDDR6メモリを備えたAIワークステーション「TT-QuietBox」を用いた共同PoCも実施した。

PoCでは、OpenAIのオープンウェイト大規模言語モデル「gpt-oss-120b」をTT-QuietBox上で動作させ、推論処理の性能を解析した。マクニカが実機とリモート評価環境、AIモデルの実行環境および技術支援を提供し、フィックスターズがモデルの処理状況を分析して、処理時間が長い箇所の特定とソフトウェア実装の改善を担当した。

その結果、デコード処理の主なボトルネックとなっていたMoE(Mixture of Experts)のexpert行列積を3.68倍高速化した。応答開始後の1トークン当たりの生成時間を示すTPOTは144.85msから99.49msへと31.3％短縮した。

また、1ユーザー当たりのデコード速度は毎秒6.9トークンから同10.05トークンへと45.7％向上し、リクエスト全体の平均応答時間も25.0秒から19.3秒へと23.0％短縮したという。

両社は今後、今回のPoCで得た知見を活用し、gpt-oss-120bだけでなく、顧客が利用を希望するさまざまなAIモデルやワークロードを対象に支援を展開する。AIハードウェアの販売にとどまらず、基盤の選定、実機検証、モデル移植、性能最適化、インフラ構築、導入後の運用までを支援することで、国内企業によるAI活用の拡大につなげるとしている。