オルツは4月26日、数兆パラメータ超の規模のLLM（Large Language Models：大規模言語モデル）の構築に着手したことを発表した。同社は実際のビジネスシーンや実生活におけるユースケースから逆算したLLMの設計が重要であるとして、単にパラメータ数を膨大にするだけではなく、生成AIのエンドユースケースから逆算した目標として開発するとのことだ。

  • 数兆パラメータ規模のLLM開発に着手する

    数兆パラメータ規模のLLM開発に着手する

実運用時の指標でも高水準を目指す

同社は今回の開発において、パラメータ数に加えて、スピードと計算効率、コストパフォーマンスなど実運用時に重要となる指標でも世界最高峰レベルを目指すとしている。また、この開発を通して、すでに展開している生成AIプロダクト群をより費用対効果の高いサービスとしてユーザーに提供すること、さらには、グローバルに先駆けた日本発の生成AIのエンドユースケースの確立を目指すという。

実用的なLLMの開発を

オルツはLLMの開発において、より複雑な表現力と高度なカスタマイズ性の両面を追求しているという。デベロッパーとエンドユーザーの両方の観点から、GPTなどの既存モデルを超える使いやすさを実現するため、数兆パラメータ規模を持ち日本語に優位なモデルの構築を構想してきた。

LLMでは、スケーリング則の元となる「パラメータ数」「データ量」「計算量」に加えて、スピードとコストのバランスが重要とされる。そのため、同社はこれらを適切に管理しながらユーザーにとって実用的なサービスの提供を目指す。

  • オルツの取り組みの例

    オルツの取り組みの例