Armは、Arm CPU 上での次世代アプリケーションによる大規模言語モデル(LLM)の実行を可能にするため、Arm® KleidiテクノロジーとPyTorch およびExecuTorchとの統合を発表しました。Kleidi は、最新の開発者支援技術と重要リソースを組み合わせることで、ML スタック全体で技術的なコラボレーションとイノベーションを推進しています。これらを通じて、Arm は現在、ML スタック内のあらゆる環境で可能な限り円滑な開発者体験の実現に取り組んでいます。
ポイントとしては、以下の3つが挙げられます。
- Kleidi テクノロジーを PyTorch および ExecuTorch と統合することで、Arm は AI パフォーマンスの重要な利点をエッジからクラウドまで拡大、Arm CPU 上で大規模言語モデルを実行する次世代のアプリケーションを実現
- ML ワークロードの民主化に対する継続的な投資により、開発者はスタック全体で最新の生成 AI モデルを採用し、大幅に向上した推論パフォーマンスを直ちに活用可能に
- クラウドサービスプロバイダーや ML ISV コミュニティの主要企業とのコラボレーションを拡大し、あらゆるAI開発者への支援を強化
これらの特長から、開発者はどのようなメリットを享受できるのでしょうか。
主要フレームワークとの統合を通じて、クラウドの重要なメリットを実現
[PR]提供:アーム