西日本電信電話（以下、NTT西日本）と山口県は9月17日、自治体における働き方改革推進に向けて、庁内業務への生成AI適用と、機微データを扱う業務へのLLM（Large Language Models：大規模言語モデル）「tsuzumi」活用に関する実証実験を開始することを発表した。

実証実験の背景

NTT西日本は生成AIを活用して自治体や企業の課題解決を進めている。同社はNTTが開発したtsuzumiの商用提供開始に合わせて技術検証を進め、適用可能性を模索してきたという。安価なGPUでも動作可能なtsuzumiは、自治体や企業のオンプレミス環境でも扱えるためより機密性の高いシステム環境での利用が可能であり、特に機微なデータを扱う業務において効果的に生成AIを適用できる利点を持つ。

山口県は2021年11月に、NTT西日本との協働の下でやまぐちDX（デジタルトランスフォーメーション）推進拠点「Y-BASE」を開設し、DXに関する相談対応やコンサルティング、実証実験など、自治体や企業への伴走型支援により県内のDXを推進している。

生成AIの利活用による県庁内業務の効率化に向けては、2023年度より「Y-BASE」のクラウドシステムである「Y-Cloud」上に県独自のセキュリティ性の高い生成AIの利用環境を構築し、本格的な業務利用に向けたシステムの検討を実施してきた。これまでに全庁での本格運用を実施し、利活用の促進を図っているという。

両者は今回、Y-BASEを中心としてこれまで培ってきた行政DXや生成AIに関する技術とノウハウを用いて、機微データを扱う自治体業務への本格的な展開も見据えた実証実験を開始する。実証実験を通じて、両者はtsuzumiの実用性と適用可能性の評価、適切なAI利用の推進に向けたAIガバナンスのあり方について検討を進める予定。

実証実験の概要

今回の実証実験では、機微なデータを扱うためにオンプレミス環境において小型のGPUサーバでtsuzumiを動作させ、庁内の実データの活用を想定した実証に取り組むとのことだ。具体的には、機微なデータを用いる業務の対応記録の要約・校正や、各種業務マニュアルの検索および要約を行う。精度向上のために業務に特化したチューニングを実施し、業務への適用性を高める。

  • 実証実験のイメージ

    実証実験のイメージ