AI導入で見落としがちな5つのリスク　安全な活用に必要な4つの条件とは

AIをどのように企業のワークフローのなかで活用するか。この命題について、もはや考えていない企業はいないというほど、AIの実装・活用は加速しているが、一方で企業が抱えているデータをAIに受け渡し処理させることについて、セキュリティ上の懸念が高まっている。AIの可能性の広がりに伴い、企業は自社のデータや業務プロセスを管理・制御しながら「どのようにAIを安全に活用するか」という課題に直面している。

2026年2月にインド・ニューデリーでインド政府電子情報技術省が主催した国際AIイベント「India AI Impact Summit 2026（AIサミット）」でも、こうしたテーマが国・企業・研究機関を横断する論点として議論された。Zoho Japanは、このAIサミットで議論されたハイライトを紹介すると共に、日本企業におけるAI実装の論点は何かを考察するメディア向け勉強会を開催した。

AIは「規制」か「成長」か世界で揺れる議論とインドの答え

AIを巡る国際的な議論は、ここ数年で大きく揺れているという。Zoho Japanの岩見房佳氏はまず、AIサミットの時系列を振り返った。

Zoho Japan 岩見房佳氏

英国、韓国と続いてきたAIサミットでは、安全性を重視する方向性が共有されてきた。一方、2025年のパリ会合では、規制とイノベーションのバランスを巡って各国の温度差が表面化した。そして2026年のインド開催では、「社会実装」を重視する新たな方向性が打ち出された。

こうした経緯から、AIを巡る国際論争は「どう安全に管理するか」という規制の議論と、「イノベーションを止めずにどう伸ばすか」という成長の議論の間で揺れ、各国の足並みは必ずしもそろっていない状況にあった。

そうした流れの中、今年のAIサミットのホスト国となったインドはどのような方針を打ち出したのか。今年はグローバルサウスで初めて開催されたAIサミットであり、テーマには「Impact」が掲げられた。AIを研究や規制の議論にとどめず、「社会実装と成果へ接続する姿勢」を打ち出したものだったという。

インドが強調したのは、途上国・新興国を中心とするグローバルサウスへの恩恵だ。AIリソースの民主化（計算基盤やデータへのアクセスの平等化）をはじめ、社会的エンパワーメントへの包摂、信頼できるAIシステム、エネルギー効率、科学へのAI活用、人的資本開発、経済成長と社会的善のためのAIという7つの方向性が示された。その根底には、特定の国だけが恩恵を受けるのではなく、AIの恩恵は誰もが受けられるものであるべきだという考えがある。

岩見氏は、インドが打ち出した考えを「規制か成長かという二項対立ではなく、それとは別の軸で、AIを適切な形で社会に実装し、誰もが安心して活用できるものにしていくことが必要だ」と整理した。AIを理念や研究開発の議論で終わらせず、実際に社会・産業・公共の現場で「使えるもの」にしていくことが、インドの狙いと見ているという。

AIの進化で増える新たなリスク企業はどう向き合うべきか

一方で「規制か成長か」という議論に結論が出ていない現在も、AIモデルの性能競争も止まっていない。

岩見氏は、Anthropicの「Claude」やOpenAIの「ChatGPT」を挙げ、約1年前には大量のコストをかけることなく短期間・低コストで大手と同等の性能を示したとして「DeepSeek」が話題になったことに触れた。推論能力やコーディング能力、マルチモーダル対応、長文コンテキスト、エージェント化といった領域で競争は続き、「ランキングは毎週、あるいは1日単位で変わっている」（岩見氏）状況だという。

AIが高性能になり「使えるAI」になればなるほど、社会や業務への導入は進み、企業が受ける恩恵も大きくなる。しかし岩見氏は、「恩恵の裏側にあるリスク」にも目を向けるべきだと指摘した。

従来のITリスクは情報漏えいや権限管理ミス、システム障害などが中心だったが、AI時代にはそれに加えてAI固有のリスクがある。ハルシネーション（想定外の出力）、判断根拠の不透明性、プロンプトインジェクション、エージェントの意図しない実行など、人間がすべてを想定し制御することが難しい領域だ。高性能なAIモデルを、誰が、どう監督し、どこまで使わせるのか。安全性や監査、アクセス制御をめぐる論点が顕在化しているとした。

従来のITリスクとAI固有のリスクの違い

こうした状況のなかで浮上してきたのが、「ソブリンAI」という考え方だ。岩見氏は、ソブリンAIには一律の定義はないとしたうえで、この言葉を最初に提唱したとされるNVIDIAのCEOジェンスン・フアン氏の定義を紹介した。それによれば、ソブリンAIとは「国家が、自国のインフラ・データ・人材・ビジネスネットワークを使ってAIを生み出す能力」を指す。

「ソブリンAI」の概要

一方で、企業がAIを活用するうえでは、この考え方を企業の文脈に置き換えて捉える必要があるという。つまり、自社がAI活用に必要なデータ、AIモデル、インフラ、ガバナンスをどこまで主体的に把握・管理できるかが重要になる。

また岩見氏は、「ソブリンAI＝国産AI」と捉えるのは誤解だと指摘する。国内企業が開発したAIであっても、モデルやインフラを海外のプラットフォームに依存し、自社データがどのように扱われるかを把握できなければ、安全とは言えない。「国産だから安全なのではなく、利用する企業が自社データをきちんとコントロールできることが重要だ」（岩見氏）

AIを安全に利用するポイント

企業のAI活用に潜む5つのリスクと導入・運用時の留意点

岩見氏は、企業がAIを活用するうえで鍵になるのは「データのガバナンス」と述べた。AIで大きな効果を生み出すためには、顧客情報や商談履歴、社内ナレッジなど企業固有の業務データを掛け合わせることが重要だ。特に日本の製造業は独自のデータを多く持っており、それらをAIと掛け合わせることで、生産現場などで活用する「フィジカルAI」の領域でも価値を生み出す可能性があるという。

ただし、そのデータを安全な環境で運用できなければ、価値の源泉であるはずの業務データはリスクにさらされることになる。岩見氏は、AIの業務活用に潜むリスクとして、「再学習」「漏えい」「ロックイン」「監査不能」「意図しない実行」の5つを挙げた（下図）。

業務データをAIで利用する上での5つのリスク

入力された業務データが意図せず外部モデルの再学習に使われる「再学習」、本来アクセスできない情報をAIが誤って参照・提示する「漏えい」、特定ベンダーのモデルや料金・規約変更に業務全体が縛られる「ロックイン」、AIの判断根拠を後から検証できない「監査不能」、そしてエージェントが誤判断でメール送信やデータ更新などを実行してしまう「意図しない実行」である。

「AIに掛け合わせるほど業務データの価値は高まるが、コントロールできなければ、そのデータ自身がリスクになってしまう」（岩見氏）

では、企業はAIをどう選び、どう運用すればよいのか。岩見氏は、下図に示したように、「データ」「モデル」「インフラ」「ガバナンス」という4つの条件について、自社がどこまで把握・制御できるかを確認すべきだとした。これらを明確にできているかどうかが、企業が安全にAIを使い続けるうえで重要になるという。

企業がAIを安全に活用するための4つのチェックポイント

データの管理だけでなく、利用するAIモデルやインフラ、権限管理・監査体制まで含めて確認することが、安全なAI活用につながるという。

AI活用に潜むリスクにベンダー企業はどう応えるか

こうした課題に対し、Zohoはデータ・モデル・インフラ・ガバナンスを企業自身が管理できる環境づくりを重視している。同社は創業以来、顧客データを収益化しないという方針を貫いてきたという。広告モデルを持たず、顧客データを第三者に販売せず、そしてデータの二次利用は明示的なオプトインを前提とする。非上場で自己資金経営を続けていることが、こうした方針を維持する背景にあると岩見氏は説明した。

同社のAI「Zia」は、入力データを基盤モデルの再学習に利用しないことや、利用者ごとのアクセス権限に応じてAIが参照できるデータを制御する仕組み、テナントを分離して他社データと混在させない設計などを採用しているという。

また、同社は特定のAIモデルやクラウドへの依存を抑えるため、自社開発のLLMやAI基盤の整備も進めている。これにより、部門横断のデータをAIが取り込みやすくなり、データを構造化してラベルを付与する「AIレディ」の準備という観点でも有利に働くという。

さらに、特定ベンダーへの「ロックイン」や、モデル・インフラへの依存というリスクに対しては、Zohoは自社開発のLLM「Zia LLM」とAIデータセンターなどのインフラを自社で保有することで応えるとした。「クラウドベンダーに依存せず、インフラのレベルまで自社でコントロールしていく。これはソブリンAIの考え方そのものだ」（岩見氏）

岩見氏は、「AI時代には性能だけでなく、企業が自社データをどこまで把握・管理できるかが重要になる」と述べ、AIを安心して活用するためにはガバナンスを含めた設計が欠かせないとまとめた。