アカマイ・テクノロジーズは11月4日、「AI利用急増で直面する『トークンコスト問題』とガバナンスの壁〜企業向けAI統合管理の最新動向」に関するメディアブリーフィングを開催した。登壇は同社 テクニカルソリューション部 シニア・テクニカル・ソリューション・アーキテクトの森祐孝氏。

増え続けるAIコストに各社はどう対応するのか

森氏は冒頭、グローバル企業におけるAIコストの動向を示した。Uber Technologiesではわずか4カ月で年間のAI予算を消費したため、1人1,500ドル/月という上限を設定したという。また、Microsoftは1人1カ月に28,000ドルを消費した例があったことなどから、デフォルトのモデルを安価なものへ切り替えたそうだ。このようにグローバル企業ではAIコストの急増に対し、制限をかけて止めるか、仕組みで解決するかの二択の対応を採る場合が多いと、同氏は説明する。

日本企業ではどうか。森氏によると、そもそも日本市場では、AIコストがかさみやすい独自の事情がある。日本語がトークン数の増えやすい言語だという点だ。加えて、AIコストが従来の定額制から従量課金制へと移行する傾向にあり、今後もコスト増が予想されているという。

「モデル単価は3年で約1,000分の1に下がっています。一方で利用料は12カ月で10倍になっているという調査もあり、総コストは膨らみ続けると考えられます」（森氏）

  • 人物画像

    アカマイ・テクノロジーズ テクニカルソリューション部 シニア・テクニカル・ソリューション・アーキテクト 森祐孝氏

エージェント利用で、状況の可視化・把握が難しくなった

そこで重要なのがAIへのリクエスト回数を減らす仕組みづくりだが、その前にやるべきことがある。それが、誰が何にどのくらいのコストを使っているかを把握することだ。

人がチャット形式でAIを利用した場合、1回の操作で1回のリクエストになる。しかし、エージェントの場合、1回の指示に対し、LLMやAPI、MCPへ連鎖的にアクセスし、複数回のリクエストを行う。AIの使い手が人からエージェントに変わったことで、4つの課題が生まれたと森氏は言う。

1つ目は「誰が使ったか分からない」ことだ。APIキーが部署や個人ごとに散在している場合、このような課題が発生する。

2つ目は「どのツールにつないだか分からない」ことだ。管理者側が、エージェントが接続するMCPサーバーを把握できておらず、どのツールに接続されるのかが不明となる。

3つ目は「何を送ったか分からない」ことだ。モデルへの入出力の記録を管理できていないと、監査することもできない。

4つ目は「どこまで許すかが絞れない」ことだ。誰が、どのツールに、何を送ったかが見えていないので、権限を絞ることもできない。

このような課題に対し、Uber TechnologiesではAIとAPIのゲートウェイを内製し、統合管理を試みたという。しかし、実装が重複する、回答品質に影響を及ぼす、更新負担が増え続けるといった問題が起き、結果的には「ゲートウェイチームが全社のボトルネックになった」と同氏は話した。

配分、減らす、測る、統制を1つの基盤でできるマネージドサービス

そこで森氏が提示したのが、マネージドサービスの活用だ。アカマイ・テクノロジーズでは「Akamai AI & API Manager（AAM）」を提供している。これは、AI Gateway、MCP Gateway、MCP Server、API Gatewayから成る、APIの管理・セキュリティ機能に加え、LLMへのリクエスト制御やコスト管理、MCP対応などを提供するAI・API管理サービスだ。

  • サービスイメージ

    Akamai AI & API Manager（AAM）の概要

AI Gatewayでは、複数のLLMへのアクセスを統合し、コスト・可用性・セキュリティを1つのポリシーで管理できる。モデルのルーティング、階層ごとのコスト管理、セマンティックキャッシュなどが可能だ。管理画面では組織ごとの利用状況や、上限までの残り予算、キャッシュヒット率などが把握できる。また、ポリシーはデフォルトで設定されており、アプリごとに指定順に実行されるほか、カスタマイズも可能だという。

MCP Gateway、MCP Serverは、APIをMCPとして提供することと、組織が利用するMCPを統制することを担う。API呼び出しやAIリクエスト、MCPツール呼び出しを記録し、既存のSIEMへ転送したり、LLM評価ツールと連携をしたりすることで、「全てを記録する」と同氏は説明した。

森氏は最後に、「誰がどのAIをどれだけ使っているかを知るためには、配分、減らす、測る、統制の4つの仕組みが必要になる」と話したうえで、AIを統合管理するためには「まずは測ることから始めるのを推奨する」とアドバイスを送った。

「現状を把握し、そのうえで、予算や制御を足していくのが進めやすい順番になります」（森氏）