【2025年の生成AIビジネス活用動向を予測】AIの最前線で活躍する企業担当者の話から紐解く、ローカル環境における生成AIの真価

「対話型生成AI」の登場をフックに、ビジネスや生活での活用が一気に進んだ「生成AI」。日本国内においても盛り上がりを見せており、業務効率化・生産性向上から新たなビジネスの創出まで、様々な領域での活用が模索されている。

こうした状況のなか、業種や規模を問わず、あらゆる企業が生成AI活用の取り組みを進めているが、急成長中の市場なこともあってベストプラクティスが確立しておらず、ハードウェア・ソフトウェアの選定はもちろん、適用すべき業務やデータの整備、セキュリティの担保と課題は山積だ。さらには競合他社に対しての優位性を確保するため、水面下で研究・開発を続けている企業も多く、生成AIビジネスの現状を把握することは困難となっている。

そこで本稿では、GPU対応サーバーを中心にAI向けGPUプラットフォームを展開する日本ヒューレット・パッカード合同会社（以下、HPE）と、生成AIを用いたシステム開発やAIコンサルティングを手がけ、AIに関する情報発信を続ける株式会社WEEL（以下、WEEL）、そしてAI PCやワークステーションなど、ローカル環境でAI活用を支えるハードウェアメーカーの株式会社日本HP（以下、日本HP）の3社による鼎談を実施。AIの最前線で活躍している3人の担当者に、生成AIの現在地とトレンド、今後活用が進むと考えられているオンプレミス型AIソリューションがもたらす価値について話を伺っていく。

• 

生成AI活用の現状
――日本企業は水面下で取り組みを進めている

――まずは皆様の自己紹介をお願いできますでしょうか。

HPE 古賀氏：
HPEで主にAIサーバーやGPUサーバーのプリセールスを担当しています。学生時代の1990年代からニューラルネットワークやAIプログラミングに携わっており、米国HPEの公式AIアンバサダーの役割も担っています。近年はNVIDIAとのAIコラボレーションにも関わっており、NVIDIAのAI認定資格も取得しています。

WEEL 田村氏：
私は、生成AIを用いたオーダーメイドのシステム開発と、既存AIツールの活用を支援するコンサルティング事業の2軸でビジネスを展開しているWEELの執行役員と、AI事業部の統轄部長を務めています。クラウドのAIサービスからローカル環境の生成AIまで、幅広いニーズに対応したソリューションを提供しています。

• 

  株式会社WEEL 生成AI事業部 統括リーダー 田村 洋樹 氏

日本HP 勝谷氏：
HPEさんはサーバーを中心にエンタープライズ向けの事業を展開されていますが、日本HPでは主にクライアントサイドで、コンシューマや法人向けのPCやワークステーションを提供しています。私はワークステーションを用いたAI/データサイエンスの市場開発担当を担っており、生成AIに関してはモデルの動作検証や、導入を検討する企業とのPoCなどを行っています。

――ありがとうございます、本日はよろしくお願いいたします。
現在は空前の生成AIブームといえる状況になっていますが、AI技術の活用自体は昔から行われてきました。そこで以前のAI活用における課題感や、現在の生成AI活用ブームの流れ、市場全体についての所感などをお聞かせください。

HPE 古賀氏：
いきなり前世紀の話になってしまいますが、1990年代のAI活用はとにかくコンピューティングリソースが足りませんでした。何かの処理をしようとクリックしても、結果が出るのが1カ月後だったりするのはざらで、とても時間が掛かるものでした。そのため研究開発は進められていたものの、実用化できない冬の時代が長く続いていた印象があります。したがって現在、生成AI活用がブームになっている背景には、やはりGPUの進化によりコンピューティングのパワーがアップしたことが大きいと考えています。

GPUやAI技術・ツールの進化はすさまじく、最近では一般企業向けを含む様々な生成AIイベントが多数開催されています。つまりアーリーアダプター層だけでなく、デジタルネイティブではない個人や一般企業もAIを取り入れたいと考えている。これはすごいことだと思います。

• 

  日本ヒューレット・パッカード合同会社（HPE） デジタルセールス・コンピュート事業統括本部 コンピュート技術部 シニアテクノロジーアーキテクト 古賀 政純 氏

WEEL 田村氏：
確かに裾野が広がった感はありますね。製造業の現場では機械学習による予測AIなどが以前から使われていましたが、生成AIの登場によって、様々な業界に一気に広がったと感じています。ただ、実際に企業の担当者と話していると、水面下で動いているケースが多く、日本における生成AI活用に関する取り組みの全貌は見えていない状況とも言えます。チャットボットなどの導入で業務効率化を図ったり、AIを取り込んだ新規サービスを開発したりと、各社進めてはいるのですが、競合他社との優位性を保つために外には出したがらない傾向が見られます。個人的には2025年のどこかのタイミングで、日本企業の生成AI活用が一気に表面化し、そこで企業間の差が見え始めてくるのではないかと予想しています。

日本HP 勝谷氏：
クライアントPC側で生成AIを動かすというのは、まだスペック的に難しい点もありますが、オンプレミスのサーバー上で生成AIを動かして、その結果をPC側で使うという取り組みはすでに進められていると思います。ただ、田村さんが話されたとおり、それを競合企業に見せたくないという意思も感じます。そのためオープンにはされていないですが、抜かりない企業はすでに取り組みを始めていて、業務で活用しているケースも多いと思います。

HPE 古賀氏：
企業側が公開したがらないというのは確かにありますね。グローバルではかなりオープンに活用が進んでいるので、これから大きな波がくるのではないでしょうか。

――各企業が生成AI活用の取り組みを公にしない理由はどこにあるのでしょうか。

WEEL 田村氏：
一番は、やはり「競合企業との差を付けたい」だと思います。それと、海外では割とオープンにα版の状態でもリリースして、そこからアップデートしていけばいいというアプローチが多いのですが、日本ではβ版でもある程度完成されている必要があると考えるケースが多い。その辺りも、取り組みを表に出さない要因の1つと考えています。

HPE 古賀氏：
生成AI活用の目的に関しても、海外では業務の自動化・効率化よりは新規ビジネスの創出に重きを置いている節がありますが、日本では生成AIを業務効率改善のツールと捉えることが多い気がしています。一概には言えないですが、その点も要因になっているのではないでしょうか。

日本HP 勝谷氏：
そうですね。以前、言語処理学会でお客様と話をしたところ、生成AIにはハルシネーションなど不確実性があり、製品に載せて販売するのはまだ厳しいという考えで、それよりは社内DXの推進に活用したいという意向を聞いています。

• 

  株式会社 日本HP エンタープライズ営業統括 ソリューション営業本部 ワークステーション営業部 AI/DS事情開発担当部長 勝谷 裕史 氏

生成AIのビジネス活用で重要なのは“ブループリント”
――課題に対してどのようにAIを活用するのか

――生成AIの不確実性、ハルシネーションの話も出ましたが、生成AIのビジネス活用における現状や課題についてどうお考えでしょうか。

日本HP 勝谷氏：
お客様とPoCを行っていて、一番の課題と感じたのは、生成AIに学習させるデータ自体が用意できていないことです。PoCをしたいという話をいただいても、実際には学習用のデータを作るところから始める必要があるケースが非常に多い。

HPE 古賀氏：
データそのものをしっかり整備しないと、学習させられませんよね。

日本HP 勝谷氏：
そうなんですよ。データ自体は存在しても、無作為・無差別に全部溜め込んでいるので、データクレンジングなどが必要で、もはやPoCと言えない程の時間が掛かってしまうこともあります。

HPE 古賀氏：
そういったところも含めて、生成AIの必要性は理解していても、そもそもどんな事業課題があって、生成AIをどのように適用するのかというブループリントを描かずに、とにかく検証を行ってみたいという企業は少なくありません。しかし、それだと性能が出ました、出ませんでしたという話で終わってしまい、プロジェクトが立ち消えになってしまいます。生成AIをビジネスに適用する際の課題は、このブループリントを描けていないことだと思っています。

• 

WEEL 田村氏：
おっしゃる通りですね。企業が生成AIの取り組みを公表しないことも一因ですが、結局何ができるのか理解しないまま、クラウドのAIサービスを導入したり、サーバーやAI PCを購入して環境構築をしたりしようとしても、予算を確保するのも難しいと思います。そこをわかっていなくて、とりあえず始めます、となると頓挫してしまう可能性が高い。

HPE 古賀氏：
新しいAIツールが出たら、とりあえず性能が出るか検証しているという担当者もおられますが、何のためにテストをするのか理解していないと意味がないですよね。ただ、我々もお客様からの相談を受けることが多いのですが、AIの進化が早くて追いつくのが大変という話もよく聞きます。確かにAI技術の進化スピードはすさまじく、企業のDX/AI担当者だけで追随するのは困難です。そこで疲弊してしまい、効果的な生成AI活用にまで行き着いていない可能性はあると思います。逆にいうと、そういった変化に対応できる何かしらの仕掛けがなければ、想定どおりの効果を得るのは難しい気がしています。

注目が高まるローカル環境でのAI活用
――オンプレミス型生成AIサービスの3つのメリットとは

――生成AI＝クラウドで利用するものという認識を持つ企業も多いと思いますが、昨今はローカル環境で活用できるオンプレミス型生成AIソリューションへの注目も高まっています。ローカル環境で生成AIを活用するメリットについてお聞かせください。

HPE 古賀氏：
まず1つは、企業内にある機微なデータをセキュアに扱えることがあげられます。たとえば製造業が持っている設計データ、特許に関わるデータなど、漏えいすると企業の存続に関わる機密データをパブリッククラウド上の生成AIサービスにアップするのをためらう企業は少なくありません。そこで社内のオンプレミス上で生成AIを活用するというアプローチが注目され始めていると感じています。

WEEL 田村氏：
私も大きく3つのメリットがあると考えています。まずは古賀さんが話されたセキュリティ、情報漏えい防止の側面。それに加えて、ランニングコストの側面とビジネス優位性のメリットもあると思っています。データセキュリティに関しては古賀さんがおっしゃるとおりで、社外に出せないデータを学習させるにはローカル環境でやるしかないという話です。

ランニングコストについては、たとえば大規模な企業が生成AIを活用して、全社的に大幅な業務効率化を目指している場合、すべてをクラウドのAPIで行うと、とんでもないランニングコストがかかってしまいます。なので、適用する業務に合わせて一部をローカル環境で行うなど棲み分けが必要でしょう。全社で使うならデータセンターにAIサーバーを導入、部署内の少人数で使う場合は、ワークステーションやAI PCを導入するといった適材適所での生成AI活用が求められていると感じています。

ビジネス優位性については、生成AIの普及が進んだことで、公開データの価値が低下しており、誰もが取得できる情報だけを使っていたのでは、競合他社との優位性を担保できない点についてです。これは逆に言えば、社内にある非公開データやユーザー情報などを読み込ませることで、より高精度な回答を得ることができる。これもローカル環境でAIを活用するメリットになると考えています。

• 

日本HP 勝谷氏：
確かにオープンな学習データを使ったクラウドの生成AIでは、たとえば社内の総務部門の電話番号を聞いても正しい回答は返ってきません。そのため社内のことに関しては、ローカル環境のデータを学習させたモデルを用いるというアプローチは有効でしょう。現状では、クライアントPC上で生成AIを動かすのは難しく、オンプレミス上のサーバーで生成AIを動かして、そこにクライアントPCからアクセスする形になると思います。ですが今後は、ワークステーションでSLMを立ててPoCを行うケースも増えてくるかと。将来的には、GPU搭載サーバーでモデルを作って配付し、AI PCで推論処理を行うような使い方が主流になっていくのではないでしょうか。

HPE 古賀氏：
オンプレミス上のAIサーバーに関していえば、GPUのリソースを各部署や業務に対して柔軟に振り分けたいというニーズも増えています。生成AI活用においてGPUは貴重なリソースのため、GPUを仮想化してリソースを自由に分割して最適配分するような仕組みも求められており、弊社もハードウェアベンダーとして、そういったニーズに対応するためのソリューション開発などを続けています。

NAVIDIのGPUは性能だけではない？
――コミュニティの存在やナレッジの豊富さがエンジニアを助ける

――ローカル環境の生成AI活用でも、GPUを搭載したサーバー製品が重要な役割を担うと思います。AIとGPUは、やはり切っても切れない関係にあるのでしょうか。

HPE 古賀氏：
冒頭でも話しましたが、昨今のAIブームは高性能GPUの登場が牽引しており、GPUリソースはあればあるだけ使いたいというのが現状です。生成AIのモデルは人体にたとえると「脳」に該当するもので、その脳を動かすのがGPUなので、まさに切っても切れない関係であることは間違いありません。逆に、工場など現場のデータを用いて推論を行うような場合は、現場に設置したワークステーションやAI PCで行うという棲み分けも可能だと思います。

WEEL 田村氏：
勝谷さんが話されていた、GPU搭載サーバーでモデルを作って配付するということですね。

――AI向けのGPUとしては、NVIDIAの製品一強という状況ですが、生成AI活用においてNVIDIAのGPUがもたらす価値について、皆様はどうお考えでしょうか。

日本HP 勝谷氏：
生成AIを効果的に活用したいのならば、大容量のメモリを搭載したGPUは必須です。特にNVIDIAが開発したGPUの並列コンピューティングプラットフォーム「CUDA」を基盤としたライブラリやフレームワークが使えるか使えないかは非常に重要でしょう。もちろん、各社様々なGPUを出されていますが、NVIDIAの製品にはCUDAも含めて、AIを利用するための環境がしっかりと整備されており、コミュニティも充実しています。何か困ったことがあっても、調べれば誰かがやっていたりして、すぐに解決が図れるのは大きいと思います。

• 

HPE 古賀氏：
本当にナレッジが豊富ですよね。

日本HP 勝谷氏：
そうなんです。逆に他社のGPUだと、ナレッジが存在せず、すべて自分でやらなければならない場合も。

HPE 古賀氏：
あとはGPU上で使えるツールが充実していることもNVIDIA製品の大きな強みですね。長い歴史のなかで最適化されていて、本当に使いやすい。HPEがOEM提供している「NVIDIA AI Enterprise」など、NVIDIAのGPUに最適化されたソフトウェアを利用できるので、単にGPUの処理性能だけにとどまらない優位性があります。

WEEL 田村氏：
ここは、意外と企業の皆様が知らない強みですよね。一般的にGPUを選定する際には性能で比較しますが、エンジニア目線ではコミュニティの存在やサポート、ナレッジの豊富さが評価されます。実際、NVIDIA製品以外のGPUが要件に含まれている案件もありますが、ナレッジが少ないと開発期間も延びてしまうため、NVIDIAのGPUを提案するケースも少なくありません。

HPE 古賀氏：
もちろん、お客様の要件で重要になるのは、前述したブループリントが描かれているかどうかですが、ハードウェアベンダーとしてはWEELさんのような生成AIベンダーとGPUサーバー＋最適化されたツールの会話をし、コラボレーションを実現していかなければお客様の要求に応えられないと考えています。

オンプレミス上でAIチャットボットの動作を検証
――HPEとWEELの協業から見えるローカルAIの可能性

――ここまでの話を踏まえて、HPEが展開されているエンタープライズAI向けのGPUプラットフォームについてお聞かせください。

HPE 古賀氏：
HPEは、NVIDIAとの共同開発・共同研究を行っています。これまで様々な企業とのコラボレーションをしてきましたが、製品開発の領域にここまで深く踏み込んでいるのは初めてじゃないかと感じるくらい、NVIDIAさんと密接に協業しています。単にサーバーにGPUを搭載して、快適に動作するか検証をするといった領域にとどまらず、先ほど話したNVIDIA AI Enterpriseなどソフトウェアも含めてパッケージ化した製品を共同開発したり、ソフトウェアライセンスをOEM化したりと、多様な取り組みを行っています。社員同士の情報交換も密にしているので、社内でNVIDIAの認定資格を取得するといった動きも多いです。

製品としては、「HPE ProLiant」ブランドのサーバーにNVIDIAのGPUを搭載して提供しており、DL320 Gen11のような1Uのサーバーから、AIモデル学習、ファインチューニングなどで使えるH100/H200といったNVIDIAのハイエンドGPUを搭載できる2Uサーバー、さらに最大8枚のGPUを実装できる「HPE Cray」など豊富なラインナップを用意しています。

• 

また、オンプレミスの閉じた環境でクラウドライクにAIを活用したいといったニーズに応える「HPE Private Cloud AI」も提供しているほか、WEELさんのような生成AI ISVパートナー様との協業により、HPE ProLiant Gen11サーバーで動くAIチャットボットソリューションの開発・検証も行っており、こちらはテクニカルホワイトペーパーも公開しています。

WEEL 田村氏：
具体的にはProLiant Gen11サーバー上で、Hugging Faceで商用利用可能なモデルを用いて開発・操作検証を行いました。その結果をもとに、WEELで提供する企業のブループリント実現のためのAIアプリケーション導入において、動作の保証された「HPE ProLiant DL320 Gen11」と「NVIDIA L4 24GB PCIe Accelerator」を組み合わせた推奨システム構成を作成しています。

• 

HPE 古賀氏：
HPEではハードウェアレベルで安定稼働とセキュリティを担保できる機能を取り入れていますが、それに加えてソフトウェアの動作をWEELさんのようなAIベンダーと共同検証することで、よりお客様が安心できるソリューションの提供を目指しています。オンプレミス上でチャットボットが動く環境を提示できたのは、導入を検討される企業にとっても大きなポイントだと思います。

WEEL 田村氏：
導入する企業にとっては、まずは動くかどうか、そこから速度や精度はどうなのかというところで不安を感じられていると思いますので、そこを検証して、現状のモデルならこう動作しますという“基準値”を提示できれば、安心して導入できるのではと考えました。

求められているのは「飛びつく力」 ――ベンダーやメーカーの力を借りて、
生成AI活用を積極的にチャレンジして欲しい

――ここまで生成AI活用の現状と、オンプレミス型生成AIソリューションの役割について伺ってきましたが、これまでの話も踏まえて、ビジネスにおける生成AI活用のこれからについて、お考えをお聞かせください。

日本HP 勝谷氏：
先に話したとおり、企業独自の生成AI、LLMを作るという流れになると考えています。しかし言語モデルを作るのは非常に難易度が高く、いきなり大きなモデルを作成しても失敗する可能性もあります。予算的な面でも、いきなり高性能なGPUサーバーを導入するのはハードルが高い。そこでまずはワークステーション等でスモールスタートしていただき、その後、必要に応じてサーバーを導入して利用拡大を図り、AI PCなどを用いてクライアント側で出来る処理と棲み分けていく、というのが自然な流れになっていくでしょう。

• 

HPE 古賀氏：
ハードウェアベンダー、インフラベンダーとしては、生成AIの導入ハードルを下げることが最優先のミッションになると考えています。ここまで話してきたように、学習データの整理はもちろん、最新技術やツールへの追随、GPUリソースの最適配分、モデルのチューニングなど生成AI活用でやることは多岐にわたり、これを企業側で行うのは現実的に難しいでしょう。そのため、生成AIを簡単に使える環境を、ハードウェアベンダーとAIベンダーが協業して作り上げていく必要があります。その一環がWEELさんとの共同検証であり、こうした取り組みは今後も継続していきたいと考えています。

また今後はテキストだけでなく、音声や画像、動画など様々なデータをAIに活用するマルチモーダル化が進んでいくと予想されており、これに対応する環境の提供も合わせて進めていく必要があると思っています。

WEEL 田村氏：
2025年はAIエージェント元年になると言われていますが、私としては、ローカルAIの元年になるのではないかと思っています。企業と話していると、外部に出せない機密データを学習させたモデルを使いたいというニーズは非常に多いのですが、前述したように、その取り組みは水面下で行われています。古賀さんが話されていたマルチモーダル化に対しても、各社検証を進めている段階でしょう。そのため、今年の秋くらいにかけて、ローカル環境での生成AI活用事例が一気に出てくるのではないかと期待しています。

――最後に、生成AI活用に取り組みたい企業に向けてメッセージをお願いします。

WEEL 田村氏：
私が常々思っているのは、ブループリントも含めて、私たちのようなAIに携わっているベンダーに、まずは情報を聞きに来て欲しい、ということです。実際に私たちのようなAIベンダー/コンサルや、ハードウェアベンダーから情報を収集している企業は本当に動きが早いです。一方で、自社だけで悩んでいて何も動きがない企業も存在しており、支援する私達としてももどかしい思いがあります。なので、とにかく何か悩みがあったら“気軽に相談してください”というのが伝えたいメッセージですね。

• 

日本HP 勝谷氏：
確かにその傾向はありますね。日本の企業は“レガシーな技術”が大好きですが、そのスタンスで生成AI活用に取り組むと、何周も遅れてしまう。だから、今求められているのは“飛びつく力”だと思います。まずは試してみることが重要で、上手くいかなくても自社内で完結させず、田村さんが話されたように外部に聞いてみることが大切です。状況は常に変化していますので、ある程度生成AI活用がビジネスに定着し、落ち着いてから取り組みたいと考えていても、そのタイミングは来ないでしょう。まずは初めの1歩として、PoCを一緒にやらせていただければと思います。

WEEL 田村氏：
そうですね、技術の進化が収まってから検討したい、と考える企業も少なくありませんが、たとえば決定版のようなLLMが出たとして、そこからデータのクレンジングやモデルの検証、環境の構築などを進めていくと、結局、競合他社には追い付けない。実際、AI活用で重要なのはブループリントを描き、ロジックを構築してデータを用意するといった準備の“身体づくり”の部分であり、モデルアップデートのような“頭脳”の入れ替えには、そこまで工数はかかりません。取り組んで経験値を溜めておけば、新しい技術やツールの導入もスムーズに行えます。

HPE 古賀氏：
確かに「頭脳」の部分を付け替えても、必要な学習データが用意できなければ欲しい回答は得られませんね。

• 

日本HP 勝谷氏：
あとは評価の仕組みも必要ですね。精度やレスポンスがどれだけ変化するのかを検証できなければ、アップデートした結果、まさかの精度ダウンという事態も起こり得ます。要はこれまでのシステム更改と一緒なのですが、あらかじめ検証できる体制を構築しておくことが大切だと思います。

HPE 古賀氏：
AI在りきのDX推進を行える組織・体制を作ることが重要ということですね。AIの世界は生成AIだけではなくトラディショナルなAIも含めて非常にエキサイティングで、クラウドやオンプレミスのサーバー、クライアントPC、さらにソフトウェアを組み合わせてAIドリブンで新しい事業を創出していくのはやりがいがあります。ぜひオンプレミスのサーバーシステムやクライアントPCもAI活用の要素として検討いただき、田村さんが話されたように、気軽にご相談いただければと思います。

――ありがとうございました。

•