ローカル環境におけるLLM実行環境導入・保守サービス「Magatama.AI」発表、プライム・ストラテジー

プライム・ストラテジー、ローカル環境におけるLLMの実行環境導入・保守サービス「Magatama.AI」を発表した。

「Magatama.AI」の特徴

「Magatama.AI」は、LLM(AI)活用に向けてのコンサルティングから実装までサポートするサービス。LLM(AI)活用を支援するコンサルティングサービスと環境構築・実装サービスから構成されている。

「Magatama.AI」のサービス概要

同サービスの特徴の一つがローカルにLLMが利用できる環境を構築すること。外部の生成AIサービスを利用しないため、データの漏洩などのリスクを抑えられ、API利用料も発生しない。

2つ目の特徴が、軽量かつ高速である点だ。まず、ユーザーが利用する環境は、NVIDIAかAMDのGPU、もしくはM2かM3のMacアーキテクチャで、オンボードメモリかユニファイドメモリが16GB以上であればよい（主要クラウドサービスのGPUサーバも利用可能）。

加えて、量子化・バイナリー化技術でLLMを軽量化することにより、高速かつ並列動作を実現する。

3つ目の特徴は、オープンソースのAIやLLMを協調動作させることで、ユーザーはエージェントを介してLLMを選択できる点だ。

「Magatama.AI」を実現するテクノロジーの仕組み

代表取締役社長渡部直樹氏は、「Magatama.AI」の強みについて、次のように語る。

「他のサービスはデータのセキュリティを確保するためにRAGなどを使って対応してきたと思うが、Magatama.AIはデータをお客様所有のローカルサーバにとどめておく。したがって、自由にカスタマイズして、API利用料などを気にせず使い放題。独自技術によって、軽量化と性能を安価に両立している」

プライム・ストラテジー代表取締役社長渡部直樹氏

一文の命令で2分以内にプログラムを生成

人材開発部井元剛氏が、「Magatama.AI」のデモを見せてくれた。デモは、「スネークゲームを作って」という一文で、スネークゲームを2分以内に生成してくれるという内容だ。

本来であれば、プランナーがスネークゲームを作成するまでのプランを考え、それに伴い、プログラマー、テスター、マネージャーなど複数人に作業を割り振るといった流れを、「Magatama.AI」が協調動作してすべてこなす。

LLMはそれぞれ得意としていることが異なり、目的を達成するために組み合わせて使う必要があるが、「Magatama.AI」であれば、それをやってくれるというわけだ。

井元氏は、7Bモデルを少ないメモリで稼働できるようにチューニングすることに苦労したと語っていた。

プライム・ストラテジー人材開発部井元剛氏

また、CMO（Chief Marketing Officer）の吉政忠志氏は、「LLMが何をできるかをわかっていない企業もあるのではないか。企業において少しでもLLMの利用が進むよう、コンサルティングサービスの料金を1人日10万円と試していただきやすい価格設定にしている。Magatama.AIなら、他社に渡したくないデータもローカルで分析できる。ローカル環境で利用できるので、昼間と夜間で使い分け、フルで使い倒すこともできる」と語っていた。