リコー、LLMの入出力に含まれる有害情報を検出するセーフガードモデルを無償公開

リコーは5月20日、LLM（Large Language Models：大規模言語モデル）に対する有害情報の入出力を検知する自社開発のガードレール機能を組み込んだモデル「Llama-Ricoh-SafeGuard-20260520」（以下、セーフガードモデル）を無償公開することを発表した。

このセーフガードモデルは米Meta Platformsが提供する「Meta-Llama-3.1-8B」の日本語性能を向上させた「Llama-3.1-Swallow-8B-Instruct-v0.5」をベースに、リコーで追加開発を行ったもの。さらに、リコー独自の量子化技術により、小型・軽量化を実現している。

これまで同モデルは、リコージャパンが提供する「RICOH オンプレLLMスターターキット」に標準搭載しユーザーへ提供してきた。今回、生成AIの安全な利活用に一層貢献することを目的に、無償での公開を開始する。

セーフガードモデル開発の背景

生成AIの社会的な広がりとともに、業務でのAIを活用による生産性向上や付加価値の高い働き方を実現する取り組みが注目を集めている。一方で、生成AIの安全な利活用という点ではまだ多くの課題が残される。

リコーは、2024年10月にLLMの安全性対策を目的とした社内プロジェクトを立ち上げ、規制や技術動向の把握に加え、LLMの安全性に関する評価指標の整備や、安全性を満たす効果的な手法の開発、さらにはそれらの社会実装に向けて取り組んできた。

同モデルはその取り組みの一環として開発されたもので、2025年8月には有害なプロンプト入力を対象とした判別機能をリリース。同年12月にはLLMが生成する有害な出力情報の検知にも対応した。

無償公開の狙い

近年はLLMの活用が広がる一方で、日本ではLLM分野におけるオープンモデルの選択肢が少ないという課題が指摘されている。

リコーはこれまで、経済産業省と新エネルギー・産業技術総合開発機構（NEDO）が推進する、国内における生成AIの開発力強化を目的としたプロジェクト「GENIAC（Generative AI Accelerator Challenge）」の第2期、第3期に参画し、図表を含む多様なドキュメントを高精度に読み取るマルチモーダルモデルを無償公開してきた。

また、ガードレールLLMにおいても重要性が高まる一方で、日本のビジネスの現場で実用的に利用できるモデルは少ない。同社はセーフガードモデルをいち早く無償公開することで、その重要性を社会に提起するとともに、生成AIの安全な利活用の推進に貢献するとのことだ。