Anacondaは現地時間10月1日、公式ブログでパブリックベータ版として提供してきたデスクトップ環境でLLM(大規模言語モデル)を運用できる「AI Navigator」の一般提供を開始したことを発表した。

ローカル環境で200以上の生成AIモデルを活用できる「Anaconda AI Navigator」

「AI Navigator」(公式Webサイト)

「AI Navigator」は、デスクトップ等のローカル環境で生成AIによるチャットやコーディングサポート、AIアプリの作成と運用などLLM(大規模言語モデル)を実行する環境を提供するプラットフォーム。LLMモデルはローカル環境で実行されるのでデータが外部に送信されずにAIを利用できる。

「AI Navigator」で利用できるLLMは、「Llama 3」「Gemma」「Mistral」などを含む200以上の事前トレーニング済みのLLMモデルで、各モデルには4つの異なる量子化レベル(Quantize Quantize levels:量子化手法により圧縮されたモデル)が用意されている。各モデルは、「AI Navigator」上で選択しダウンロードして使用する。

  • 「AI Navigator」(起動画面)

簡素にまとめられた左側のサイドメニューより「Models」「DownLoaded Models」「Chat」「API Server」などを選択し、関連する作業を実行する。APIサーバーは既存のアプリケーションやワークフローシステムと連携する機能を提供、ローカルLLMモデルを外部クラウドのように利用できる。

  • 「AI Navigator」で利用可能なLLMモデル一覧

「AI Navigator」は2024年10月時点で、Windows、macOS用のインストーラーが用意されており、近日中にLinux用の提供が予定されている。「AI Navigator」の快適な利用には最低でも16GB以上のRAMが推奨され、ストレージ容量もLLMモデルが2～10GBから150GBと容量が多いので余裕をもったマシンが必要となる。利用はAnacondaアカウントを作成した上でインストーラーをダウンロードして使用、Windows用はWindows 11、macOSは13以降に対応、Webサイトよりダウンロードできる。