NVIDIAは10月17日（現地時間）、同社技術ブログにおいて「Unlock Faster Image Generation in Stable Diffusion Web UI with NVIDIA TensorRT」と題した記事を公開した。画像の生成を行える「Stable Diffusion Web UI」を高速化できる謹製ツールについて紹介されており、Gituhubから導入できる。

  • GeForce RTX環境で「Stable Diffusion Web UI」を高速化、NVIDIA自家製ツール登場

NVIDIA GeForce RTXシリーズには行列計算を高速化するため、専用のTensorコアが搭載されている。今回公開されたソフトウェアはこれを用いることでAIワークロードをさらに早めるというもので、「Stable Diffusion Web UI」に対応。NVIDIAによると、従来のPyTorch xFormersと比較して1分当たりの生成数が2倍になるという。比較のグラフでは、Apple M2 UltraによるCoreML利用時の性能比も紹介されている。

  • GeForce RTX環境で「Stable Diffusion Web UI」を高速化、NVIDIA自家製ツール登場

ツールはGitHubのNVIDIA/Stable-Diffusion-WebUI-TensorRTで公開中だ。