NTT DATAはいかにローカル環境でのLLM活用とAIコーディングを実践しているのか - DevOpsDive2025

GitLabはこのほど、DevOpsやDevSecOpsに関わる人々が集まるイベント「DevOpsDive2025～セキュアなAI活用を実現する3つの方法とは～」を新宿で開催した。本稿では、高度なセキュリティ要件を満たしつつAIコーディングを活用するための取り組みや、ローカルな環境でLLMの技術的検討を進めるNTT DATAの事例セッションをレポートする。

生成AI活用でソフトウェア開発70%効率化を目指す

NTT DATAはAIを活用した業務変革の一環として、積極的なAI活用の推進とAIガバナンスの徹底を両立して進めている。このうち、積極的なAI活用の推進は、NTT DATAの顧客企業のバリューチェーンを変革するためのAI活用と、自社のバリューチェーンを変革するためのAI活用に分けられる。

2024年10月に同社が国内向けに発表した生成AI活用コンセプトが「SmartAgent」。これは、利用者の指示に応じて自律的なAIエージェントが業務のタスクを抽出・整理・実行し、業務の効率化を支援するというもの。このコンセプトの下で生成AIサービスを展開し、2027年までにグローバル全体で3000億円規模の売り上げを目指すという。

社内向けには、生成AIを活用したソフトウェア開発の生産性向上が検討されている。最近では自社IPと商用ツールを組み合わせたアセット群により、ソフトウェア開発の全工程において生成AIを活用している。

また、こうした生成AI活用を支えるため、同社は全社員約20万人に生成AI活用リテラシーの教育を提供するなど、AI活用を実践できる人材の増加・強化も図っている。現在はソフトウェア開発における生成AIの提案・適用事例は国内で250件を超えているとのことだ。

NTT DATAにおける開発生産性向上の取り組み

NTT DATAでAIコーディングツールの国内普及を進める加藤耕也氏は、「生産性向上のターゲットはソフトウェア開発のライフサイクルの全域。プロジェクト管理から要件定義・設計、コーディング・テスト、保守・運用まで、2025年度には50%、2027年度には70%の生産性向上を目標としている」と解説した。

NTTデータグループ技術革新統括本部 Apps＆Data技術部加藤耕也氏

閉域網での生成AI活用に関するNTT DATAの取り組み

プライベートクラウドやオンプレミス環境は、物理レイヤーの分離によりデータの機密性を確保できることに加え、従量課金のパブリッククラウドと比較して運用コストが安定している。また、モデル選定やファインチューニングの自由度が高いため、プライベートクラウド・オンプレミスでの生成AI活用の需要も多い。

同社が顧客企業へヒアリングしたところ、公共分野をはじめ金融・損保、製造業、海外・観光業など、分野を問わずに機密データの取り扱いや独自のチューニングなどの需要が顕在化しているとのことだ。

プライベートクラウド・オンプレミスにおけるAI活用のニーズ

こうした課題に対して、NTT DATAはPrivateAI（仮称）オファリングの提供を進めている。同サービスは、BPOサービスとデータセンター資産を活用して、生成AI活用のコンサルティングからシステム導入・開発、保守・運用までトータルにサポートする。インフラレイヤーからアプリケーションレイヤーまで、多様なカスタマイズ性が強みだ。

モデル選定は、文書生成や分析・企画検討、プログラム・コード生成など、ユースケースに応じて実施する。NTTグループが提供する「tsuzumi」の他、オープンソースで公開されているモデルも選択可能。また、用途に応じたチューニングにも対応する。提供形態は、試用やPoCに適したオープンソース構成と、商用製品を組み込んだ商用構成の2種類。

PrivateAI（仮称）の構成イメージ

NTT DATA社内におけるAIコード生成の現状

昨今、ChatGPTなどチャット型のインタフェースでソースコードを生成できるようになり、開発者は「コードを書く人」から、「AIを指揮・監督する人」へとシフトした。さらに最近ではAIエージェントなども登場し、高いレベルの指示をAIに与えて検証するというサイクルが加速している。開発プロセスそのものの見直しが迫られているとも言える。

NTT DATAにおいては、現在国内で約3000人がAIコーディングツールを活用している。加藤氏によると、「投資した以上の開発生産性の向上を実感している」とのことだ。また、開発者体験（Developer Experience）の向上にも寄与しているという。さらに、開発現場だけでなくスタッフ組織でもAIコーディングツールを活用することで、これまでExcelファイルで作業していた業務を、Pythonなどで自動化できるようになった。

NTT DATAのAIコーディング実践

これらの取り組みを社内で活性化させるため、NTT DATAではプロセスや具体的なプロンプトの共有を強化している。その他にも、社内で技術コンテストやハッカソン、社内コミュニティを使った情報共有、個別での相談会なども実施しているそうだ。

クラウド型のLLMツールはすぐに導入でき、常に最新のモデルを利用できる一方で、データ機密性の担保やガバナンスの観点から、NTT DATAにおいてはローカルLLMが必要なプロジェクトは多い。そこで同社は、GitLab Duoを用いたローカルLLM AIコーディング環境の検証を開始した。GitLab Duoとは、GitLabに生成AIを搭載した機能群のこと。

GitLab Duoを用いたローカルLLM AIコーディング環境検証

検証では、Self-hosted環境と完全AirGap環境の各モデルをホスティング。コードの精度や改善提案などの機能面、およびコストなど非機能面での実用性を計73項目で確認した。その結果、ローカルLLMを用いた場合でも改善の余地はありながらも精度は十分実用に足るレベルであることが明らかとなった。今後は高セキュリティ案件への適応も視野に入れ検討を進めるとのことだ。