総務省の有識者会議は12月5日、人工知能（AI）の安全性確保に向け、開発者や関連サービスの提供者に情報漏えいなどの対策を求める指針案を取りまとめた。サイトやサーバーに対して大量の情報を送付し、ダウンさせる「DoS攻撃」と、情報漏えいや誤作動を引き起こす命令文「プロンプトインジェクション」への対策が柱。AIに安全対策を学習させることなどを通じ、悪意のある指示によって起きるデータの漏えいや誤作動を防ぎ、機密情報を狙うサイバー攻撃への備えを促す。
総務省は今後、正式な指針を策定し、年度内に公表する方針だ。指針に沿った対策を導入した企業は、法的保護を受けやすくする。
指針案は、具体的なリスクとして、プロンプトインジェクションを使った不正操作による非公開情報の漏えいや、DoS攻撃による膨大な情報処理によりシステム障害を誘発する攻撃などを想定した。その上で、生成AIの開発者に対し、生成AIの基盤となる大規模言語モデル（LLM）に安全基準を学習させ、不正な指示の判別や回答に機密情報が含まれていないかの検証を可能にするなどの対策を求めた。
ただ、AI技術が急速に進展する中、リスクの完全な排除は困難だとも指摘。総務省や事業者が継続的に対策を検討する必要性に言及した。
AIを巡っては、高市政権下で発足した日本成長戦略会議で重点施策とされ、総合経済対策の裏付けとなる補正予算案にAI研究開発と利活用に向けた財源1895億円が盛り込まれた。林芳正総務相は「外国製の生成AIへの過度な依存を避けるためにも、日本の文化や歴史などに対する正しい理解を備えた信頼できるAIの開発力の強化が必要だ」と指摘している。
国産AIの開発とその普及に必要なものは？デジタル庁の統括官、現役エンジニア、AI専門弁護士が語るAIの現在地 - データ共創会議 2026より
