Dataiku CEOが語るAIエージェントが生む課題と活用のポイントとは

Dataikuは10月23日、生成AIの利用に際して、コストの監視およびデータプライバシーの保護を担うソリューション「Dataiku LLMガード」の提供を開始した。

「Dataiku LLMガード」の概要

同ソリューションは、コストガード、安全性ガード、新機能となるクオリティーガードから構成されている。これらはLLMゲートウェイであるDataiku LLMメッシュに統合されている。

コストガードは、企業におけるLLMの使用状況を追跡・監視するコスト監視機能で、生成AIの予算に対する支出を予測・管理する。

安全性ガードは、リクエストとレスポンスの機密情報を評価してLLMの利用を保護する機能で、データの乱用や漏洩を防ぐ。

クオリティーガードは各ユースケースのLLMに対して自動的で標準化されたコードフリー評価による品質保証を提供する。

「Dataiku LLMガード」の概要

「Dataiku LLMガード」を利用することで、DataikuのユニバーサルAIプラットフォーム上で生成AIの品質を迅速かつ容易に判断し、生成AIのユースケース構築サイクルにこの重要なステップを統合できるようになる。

AIエージェントの増加によって生まれるリスク

「Dataiku LLMガード」提供に伴って開催された記者説明会では、米共同創業者兼CEOのFlorian Douetteau氏が、生成AI、LLM、AIエージェントの活用によって実現する未来について語った。

Dataiku 共同創業者兼CEO Florian Douetteau氏

Douetteau氏は、「企業は将来、チャットボットはなく、何百のAIエージェントを動かすようになる。各チームが業務プロセスを最適化するために、エージェントが必要になる」と語った。

しかし、多くのAIエージェントを使うようになるとリスクも生じるという。Douetteau氏は、「特定のベンダーがエージェントを作る、チャットボットが仕事を自動化することで仕事がなくなる、そんな怖いシナリオが考えられる」と指摘した。

こうしたリスクの解決について、「差別化のポイントを見極めて、そこにAIを入れること」とDouetteau氏は述べた。同氏は、ビジネスがAIをベースとするようになると、工場のようにAIエージェントがアセットになり、エージェントもメンテナンスが必要だと説明した。

さらに、Douetteau氏はAIを使いこなすには、「スマートなアプリを作ること」と「絞り込んでタスクの自動化をすること」が必要だと語った。

ただし、LLMやプロンプトなどによって動かしているAIエージェントは増えると、複雑になる。新しいAIエージェントベースのビジネスに移ったとき、「何が起こっているか、どこまでコントロールできるかわからなくなるという課題が生じる」とDouetteau氏。

そこで、Douetteau氏は「多くのエージェントがある場合、情報を入力したカタログを作り、どこでどう動いているかを集約する必要がある」と説明した。AIはタスクにひもづいているので、サービスを作ってAIをコントロールする必要があり、こうした形でエージェントを開発すれば、拡張性をもって活用できるという。

Douetteau氏は、過去数カ月取り組んできた、企業がAIエージェントを開発するための製品として、「LLMメッシュ」と「Dataiku LLMガード」を紹介した。同氏はこうした製品を提供することで、ノーコードでAI開発することを実現すると話した。