米デル・テクノロジーズは9月17日（現地時間）、インテル Gaudi 3 PCIe アクセラレーターを搭載した「Dell PowerEdge XE7740」サーバの提供を開始することを発表した。強力なAIアクセラレーション、柔軟性、パフォーマンスを提供できるように設計されたという。

4Uの「PowerEdge XE7740」は、「Dell PowerEdge Rシリーズ」の統合の容易さと、「Dell PowerEdge XEシリーズ」のパフォーマンスおよび拡張性、ネットワーク、強力なアクセラレーター構成を提供し、拡大するAI開発のニーズに対応する。

  • 「Dell PowerEdge XE7740」サーバ

    「Dell PowerEdge XE7740」サーバ

AI向けの柔軟なハイパフォーマンス

「PowerEdge XE7740」は柔軟性を備え、最大8基のダブルワイド PCIeアクセラレーターをサポート。最大8基のGaudi 3アクセラレーターを搭載する構成では、オプションで4アクセラレーター×2グループのブリッジ接続にも対応する。

4基のGaudi 3 PCIe アクセラレーターをブリッジ接続すると、18本の200GbE インターフェイスを介したRoCE v2（Remote Direct Memory Access over Converged Ethernet）により、合計1200ギガバイト / 秒のアクセラレーター間スループットが実現されるという。

また、8つのフルハイトPCIeスロットと統合型OCPネットワーク モジュールにより、最大1対1のアクセラレーター対NIC（ネットワーク インターフェイス カード）比を実現する柔軟なネットワーキングを実現する。また、既存インフラストラクチャへのシームレスな統合を可能にし、既存のデータセンターで広く利用されている最大10キロワットのラック環境でも効率的に稼働する。

シームレスな統合

「Dell Smart Cooling」を採用したXE7740は、エンタープライズAIのために専用設計され、既存の空冷ラックへ統合を可能とする。最大8基のインテル Gaudi 3 PCIe アクセラレーターを搭載し、Llama4、Llama3、Deepseek、Phi4、Qwen3、Falcon3などの主要モデルに最適化されたAIワークフロー統合を実現する。

高効率的な設計により、高いコストが伴う電力供給設備や冷却システムの追加投資を必要とせずに高いパフォーマンスを確保できるため、信頼性と効率を両立しながらAIワークロードを拡張したいと考えている企業に最適とのことだ。

エンタープライズAIの現実世界におけるアプリケーション

「PowerEdge XE7740」は、LLMの推論とファインチューニング、画像認識や音声認識などのマルチモーダルAIアプリケーション、膨大なデータを扱う医療分析およびゲノム解析、金融サービス業界における不正検知とリスク低減、小売業界とeコマースにおけるリアルタイムのパーソナライゼーションなど、多様なAIワークロードに対応できるように設計されている。

インテル Gaudi 3 PCIe アクセラレーターは、PyTorchやHugging Faceなど、さまざまなプラットフォームとスムーズに統合するため、モデルの微調整や複雑なAIモデルの推論などを効率的に実行できる。