さくらインターネット、Preferred Networks（PFN）、情報通信研究機構（NICT）は10月14日、生成AIを継続的に評価・改善する「能動的評価基盤」の社会実装に向けた取り組みを開始すると発表した。

固定したプロンプト集による従来型の評価では捉えにくい新たなリスクや社会環境の変化に対応することを目指す。NICTが開発する技術とPFNの国産LLM、さくらインターネットのAI基盤を組み合わせ、生成AIを継続的に点検・改善できる仕組みの実現を進める。

固定したプロンプトによる評価では、新たなリスクを捉えにくい

生成AIの産業・行政利用が広がる一方、その出力を日本の法令や文化、商習慣に照らして継続的かつ実用的に検証する仕組みは、まだ発展途上にある。

さくらインターネット、PFN、NICTの3者は、生成AIを取り巻くリスクとして複数の課題を挙げる。その1つが、日本での安全性が十分に検証されないまま、各国で開発された生成AIが社会に浸透する可能性がある点だ。他に、想定外の挙動や新たなセキュリティリスクもある。また、特定モデルの突然のサービス変更や停止といった供給面のリスクも存在する。さらに、偽・誤情報が生成AIによって巧妙化することへの懸念もある。

現在の生成AIの安全性評価では、あらかじめ用意したプロンプト集に対するAIの応答を確認する手法が中心となっている。

しかし、評価に使われるデータベースを開発側が生成AIに学習させれば、その評価で高い結果を得る可能性がある。また、生成AIの利用形態や悪用手法、想定外の挙動も変化し続ける。そのため、固定されたデータベースだけでは、新しいリスクや社会環境の変化を十分に捉えることが難しいという。

「きわどいプロンプト」を自動生成、出力の問題を継続的に検証

そこで3者が社会実装を目指すのが「能動的評価基盤」である。

能動的評価基盤は、NICTが開発を進めているLLM評価用システムを指す。評価対象には、差別的・攻撃的な表現のほか、犯罪や迷惑行為を助長する回答、誤情報、日本の文化・法令との不整合などが含まれる。ハルシネーションやバランスを欠いた出力も評価対象としている。

特徴の1つが、評価に使うプロンプト自体を自動的に生成する仕組みだ。

NICTは、いわゆる「きわどいプロンプト」を自動生成し、そのプロンプトに対する生成AIの出力を自動評価するシステムを開発。ヘイトスピーチや誹謗、ハルシネーションの可能性、バランスを欠いた出力などを検知できるようになりつつあるという。

さらに、評価で見つかった問題点を改善するための学習データも自動合成する。生成AIを一度だけ評価するのではなく、社会の変化に合わせて継続的に点検・改善する枠組みの構築を目指している。

ハルシネーションや危険な回答を検証、「WISDOM-CE」と「WISDOM-AR」

能動的評価基盤では現在、複数の評価コンポーネントのプロトタイプが稼働を始めている。

その1つが「WISDOM-CE」である。評価対象となるLLMの出力を大量のWebページと照合する。両者の整合性や矛盾を検知することで、ハルシネーションやバイアスの可能性を検知するサービスだ。NICTが開発した検索ベースの質問応答システム「WISDOM X」をベースに、複数のAIを組み合わせて構築している。

  • WISDOM-CEの画面イメージ

    WISDOM-CEの画面イメージ

もう1つが「WISDOM-AR」だ。NICT独自の日本語特化型LLMやWISDOM Xなどを組み合わせ、危険性の高いプロンプトを大量に自動合成する。評価対象となるLLMの回答についても、差別的・攻撃的な表現や、犯罪・迷惑行為を助長する回答のリスクを自動判定するほか、その理由も併せて提示する。

  • WISDOM-ARの画面イメージ

    WISDOM-ARの画面イメージ

将来はWISDOM-CEとWISDOM-ARなどのコンポーネントを統合し、能動的評価基盤として完成させる予定だという。

さくらインターネット、PFN、NICTの技術を組み合わせて社会実装へ

3者の連携は今回が初めてではない。

2025年9月18日、3者は安心安全で日本社会と調和する国産生成AIのエコシステム構築を目指す基本合意を締結した。その後、それぞれが能動的評価基盤や国産生成AIを巡る開発を進めてきた。

さくらインターネットは、NICTが開発する能動的評価基盤のコンポーネントを自社基盤上で稼働させ、動作環境の最適化などを研究した。また、PFNの生成AI基盤モデル「PLaMo 3.0 Prime」を、生成AI向け推論基盤「さくらのAI Engine」で2026年8月4日から提供している。

  • さくらのAI Engineの特徴

    さくらのAI Engineの特徴

PFNは、NICTとの共同研究成果を利用して「PLaMo 3.0 Prime」をフルスクラッチで開発。2026年6月22日に商用提供を開始している。NICTの能動的評価基盤に同モデルを組み込むための準備も進めてきた。

「PLaMo 3.0 Prime」は、高度な推論を担うReasoningモデルと高速応答のNon-reasoningモデルを提供。256Kコンテキストの長文処理やAIエージェント用途にも対応する。

  • PLaMo 3.0 Primeの画面イメージ

    PLaMo 3.0 Primeの画面イメージ

さくらインターネットの「さくらのAI Engine」は、生成AIアプリケーション開発向けのフルマネージド型推論API基盤である。国内データセンターのGPU基盤上で複数の基盤モデルを利用できる。モデルの実行や通信、データ保管は国内のクラウド基盤で完結するという。

来年度中の運用開始を目指し、国内外のLLMへの適用を検討

社会実装に向けて、3者は今後の役割も示している。

さくらインターネットは、能動的評価基盤の来年度中の運用開始を目指す。「さくらのAI Engine」で提供する国内外のLLM群に対し、能動的評価基盤を試験的に適用する検討を始める。その結果を踏まえ、課題の抽出や妥当性の検証を実施。継続的な評価において、評価結果の妥当性を持続的に担保する方法論も検討する。

PFNはNICTと連携し、日本語性能や安全性をさらに高めた国産LLMを開発する。成果をPLaMo 3.0 Primeの後継モデルにつなげる。PLaMo 3.0 Primeや後継モデルを能動的評価基盤に組み込み、基盤の能力向上にも取り組むという。

NICTは能動的評価基盤の高度化を本格化し、さくらインターネットへ技術を提供する。NICTが約20年にわたり収集してきた日本語WebデータやWISDOM X、LLM、オープンモデルなどを組み合わせた「AI複合体」を活用。これにより、評価プロンプトを自動合成・更新する仕組みや、評価対象LLMの出力を判定する手法の開発・改良を進める。

3者はこうした取り組みを通じ、日本社会と調和する生成AIのエコシステム構築を進める方針である。