Kongは11月4日、みずほフィナンシャルグループ（以下、みずほFG）に対し、AIエージェントの接続管理基盤「Kong AI Gateway」の提供を開始したと発表した。AIエージェントと業務システムの接続管理やアクセス制御を共通化するとともに、LLM（大規模言語モデル）の利用量やコストを可視化する仕組みの整備を支援する。

AIエージェントの増加に対応、接続管理を共通化

みずほFGは、AIエージェントを継続的に開発する仕組み「エージェントファクトリー」や、ビジネス要件と技術をつなぐ「内製開発ラボ」を通じて、AI駆動開発を全社的に展開している。

また、ノーコード開発基盤「Dify Enterprise」を活用し、現場の業務担当者が自らAIエージェントを開発する「市民開発」の拡大も見据えている。

一方、AIエージェントが増加すると、LLMや業務システムとの接続先、アクセス権限などの管理が複雑になる。個々のAIエージェントで接続ルールを管理するのではなく、共通基盤で統制する仕組みが必要となる。

そこで、みずほFGはKongの製品を活用し、接続管理の共通基盤を整備する。Kongは2026年6月に締結された製品利用契約に基づき、導入を支援している。

LLMの利用量・コストも一元管理

今回、「Kong Konnect」と「Kong AI Gateway」を活用し、主に接続統制、LLMの利用量・コスト管理、異なるIT基盤間の接続という3つの領域に対応する。

Kong Konnectは、APIやAI関連の通信を一元的に管理するクラウドベースのプラットフォーム。APIの接続管理やアクセス制御、利用状況の監視などの機能を提供し、オンプレミスやクラウドに配置されたゲートウェイを統合管理できる。

一方、Kong AI Gatewayは、LLMやAIエージェント向けの接続管理機能を提供する製品。複数のLLMへの接続を共通化し、アクセス制御やトークン利用量の監視、コスト管理などに対応する。

みずほFGでは、これらの製品を活用し、AIエージェントと業務システムの間に共通のゲートウェイ層を設け、業務要件に応じたアクセス権限や接続ポリシーを一元的に適用する。これにより、現場で開発されるAIエージェントが増えても、接続ルールを共通基盤側で管理できる体制を整える。

LLMの利用管理では、Dify Enterprise上で開発されるAIエージェントとLLMの接続をKong AI Gatewayで管理する。アプリケーションやユーザーごとのトークン利用量を把握し、利用実態に応じたコスト管理や将来的なコスト最適化につなげる。

また、オンプレミスとクラウドの双方にデータプレーンを配置できる構成とし、「みずほWiz Base」や他のIT基盤をまたいだシステム接続にも対応する。

  • みずほFGにおけるKong製品を活用した接続管理基盤の構成イメージ（出典：Kong）

    みずほFGにおけるKong製品を活用した接続管理基盤の構成イメージ（出典：Kong）

MCPによるAIエージェント連携の拡大も視野に

Kongは今後、AIエージェントと外部ツール・データを接続するMCP（Model Context Protocol）への対応も視野に入れている。

具体的には、MCPを利用した通信の認証やアクセス制御、利用状況の監視などを担う「Kong MCP Gateway」と、MCPサーバーを一元的に登録・管理し、AIエージェントが利用可能なツールを見つけられるようにする「Kong MCP Registry」の活用を検討している。

さらに、プロンプトの内容に応じて処理コストの異なるLLMを自動的に使い分ける「セマンティックルーティング」や、AIエージェント間の連携を支えるA2A（Agent2Agent）を見据えた機能拡張も今後の支援領域として挙げている。