リコーは10月20日、生成AIへの入力や生成AIが出力する内容が安全かを判定する、ガードレール機能を組み込んだ日本語向けLLM（Large Language Models：大規模言語モデル）の改良版を発表した。

「gemma-4-E4B-it」をベースに開発したこのセーフガードモデルは、LLMの入出力に含まれる有害情報を検知し、生成AIの安全な利用を支援する。従来モデル（Llama-Ricoh-SafeGuard-20260520）と同等水準の安全性判定性能を維持しながら、モデルを小型化し少ない計算資源での利用を可能にしている。

また、近年のLLMの性能向上や実際の利用シーンの広がりを踏まえ、安全性判定基準を見直したという。これにより、企業や組織における生成AI活用において必要以上の利用制限を抑えながら、安全性と実用性を両立した運用に貢献するとのことだ。

リコージャパンが提供する「RICOH オンプレLLMスターターキット」に11月から順次標準搭載して提供を開始する。

  • セーフガードモデルの使用イメージ
  • セーフガードモデルの使用イメージ

    セーフガードモデルの使用イメージ

モデルサイズを小型化

今回開発した新モデルは、ベースモデルを従来の「Llama-3.1-Swallow-8B-Instruct-v0.5」から「gemma-4-E4B-it」に刷新。安全性判定性能は従来モデルと同等水準でありながら、モデルを小型化しており、より少ない計算資源で利用可能。

オンプレミス環境など利用できる計算資源に制約のある環境でも導入しやすいという。

実利用を踏まえた安全性判定基準の見直し

近年はLLMの性能が向上し、従来は安全上の懸念から制限していた内容についても、利用目的や文脈に応じて有用かつ適切な回答が可能な例が増えている。そこで新モデルでは、実際の利用シーンを想定して安全性判定基準を見直している。

必要以上に利用を制限するのではなく、安全性を確保しながらLLM本来の有用性を活用する運用が可能となる。これにより、企業や組織における生成AIの業務活用範囲の拡大に貢献する。

顧客のポリシーに応じた簡易的なカスタマイズにも対応

新モデルではあらかじめ学習された一般的な有害カテゴリーに加え、ユーザーが用途や運用ポリシーに応じて、任意の判定ラベルを追加できる。

モデルの追加学習を行わずに業界固有のルールや企業ごとのガイドラインなどのラベルを追加する仕組みで、簡易的なカスタマイズに対応する。