Il 9 dicembre 2024 Dell ha annunciato la spedizione a CoreWeave dei primi rack PowerEdge XE9712 equipaggiati con NVIDIA GB200 NVL72. La configurazione, integrata nei rack Dell IR7000 e raffreddata a liquido, è destinata ai carichi di addestramento di grandi modelli linguistici e all’inferenza in tempo reale sulla piattaforma cloud di CoreWeave. L’annuncio riguardava la spedizione dell’infrastruttura, non la disponibilità cloud generale: l’accesso dei clienti è stato comunicato in seguito, nel 2025.
Che cosa è stato annunciato
Dell ha presentato l’estensione della collaborazione strategica con CoreWeave dichiarando di aver iniziato a spedire i primi sistemi PowerEdge XE9712 con NVIDIA GB200 NVL72. Dell descrive questi sistemi come rack Integrated Rack IR7000 completamente integrati e raffreddati a liquido, con il supporto dei propri servizi professionali per progettazione e distribuzione.
La destinazione è la piattaforma cloud di CoreWeave, pensata per fornire capacità di calcolo a organizzazioni che sviluppano e utilizzano modelli di intelligenza artificiale di grandi dimensioni. La dichiarazione del COO e vicepresidente di Dell, Jeff Clarke, secondo cui i rack avrebbero fornito velocità e scalabilità ai clienti enterprise, è una valutazione promozionale dell’azienda e non un benchmark indipendente.
Che cos’è un GB200 NVL72
NVIDIA definisce NVL72 come una piattaforma rack-scale in cui più nodi lavorano come un unico dominio ad alta velocità. La configurazione pubblicata dal produttore comprende:
What’s actually slowing this PC down?
Pick the symptom - the matching free tool is one click away.
#1 Best Overall
- Dell PowerEdge T440 Tower Server for Small Businesses, Branch Locations, and Home Offices
- Dual (2) Intel Silver 4110 8-Core 2.1GHz 11MB CPUs; 128GB DDR4 PC4-21300 2666MHz Registered Memory
- 16TB (4 x 4TB) 7.2K 12Gb/s SAS 3.5" HDDs for High Capacity Storage; PERC H330 12Gb/s RAID Controller
- Windows Server 2019 Standard Retail
| Componente o caratteristica | Valore dichiarato da NVIDIA |
|---|---|
| GPU | 72 GPU Blackwell |
| CPU | 36 CPU Grace |
| Memoria GPU | 13,4 TB HBM3E |
| Interconnessione interna | 130 TB/s tramite NVLink |
| Raffreddamento | A liquido, nel rack integrato |
Il punto distintivo non è soltanto il numero di acceleratori. Le 72 GPU condividono un dominio NVLink a livello di rack, così i modelli possono distribuire il lavoro tra gli acceleratori con una comunicazione interna molto più stretta rispetto a un insieme di server collegati solo dalla rete esterna.
A quali carichi di lavoro serve
Addestramento di modelli linguistici
La densità di GPU, la memoria HBM3E e il dominio NVLink sono orientati all’addestramento distribuito di modelli linguistici di grandi dimensioni, dove sincronizzazione dei parametri e trasferimento dei dati tra acceleratori incidono direttamente sui tempi di esecuzione.
Rank #2
- Dell PowerEdge R730xd 24B SFF 2U Server
- 2x Intel Xeon E5-2690 v4 2.6Ghz 14-Core (28-cores Total)
- 128GB DDR4 RAM – 4x 1.2TB 10K SAS 2.5” 12Gb/s
- Dell H730P mini 2GB 12Gb/s RAID
- 2x 750W PSU - 2x 10Gb SFP+ 2x 1Gb (RJ45) NIC
Inferenza in tempo reale
La stessa infrastruttura può servire a eseguire modelli già addestrati con requisiti elevati di latenza e throughput, ad esempio servizi generativi utilizzati contemporaneamente da molti utenti.
Cluster oltre il singolo rack
Dell ha associato la piattaforma alla rete Quantum-2 InfiniBand per collegare più sistemi. I dati successivamente comunicati da CoreWeave per la propria offerta cloud indicano fino a 400 Gb/s per GPU e cluster fino a 110.000 GPU: sono caratteristiche dell’ambiente cloud annunciato da CoreWeave, non della singola macchina XE9712.
Do these 3 things before closing this tab:
1Fix the driver behind crashes, sound loss and screen glitches2Repair Windows errors before they cause bigger problems3Scan for outdated or missing drivers - takes under a minuteRank #3
- 3.5 Inch Hot Plug Hard Drive PowerEdge T340 Tower Server Chassis
- Microsoft Windows Server 2019 Standard Operating System
- Processors: Intel Xeon E-2124 Quad-Core 3.3GHz 8MB CPU, Up To 4.3GHz Turbo
- Memory: 32GB (2 x 16GB) DDR4 PC4-21300 2666MHz Unbuffered Memory
- Hard Drive: 8TB (4 x 2TB) 7.2K RPM 6Gb/s SATA 3.5 Inch HDDs in RAID
Prestazioni dichiarate: come leggerle
Nella pagina prodotto del GB200 NVL72, NVIDIA dichiara fino a 30 volte più velocità nell’inferenza in tempo reale di LLM con trilioni di parametri e fino a quattro volte più rapidità nell’addestramento rispetto a sistemi basati su H100. Sono moltiplicatori del produttore, riferiti alle condizioni e alla configurazione di confronto indicate da NVIDIA; la stessa documentazione avverte che le prestazioni proiettate possono cambiare.
Non sono risultati misurati indipendentemente su un rack installato presso CoreWeave. Per un confronto corretto servirebbero stesso modello, precisione numerica, batch, latenza obiettivo, software e numero di GPU.
Rank #4
- Renewed server with the highest quality standards
- Ideal for a robust enterprise environment or data center
- All servers include power cords, and other parts detailed in full product description below
- Custom configurations available upon request
Spedizione, accesso cloud e disponibilità
| Data | Evento | Che cosa significa |
|---|---|---|
| 9 dicembre 2024 | Annuncio Dell | Spedizione a CoreWeave dei primi rack XE9712 con GB200 NVL72. |
| 15 aprile 2025 | Annuncio CoreWeave | Accesso ai sistemi GB200 NVL72 e ai servizi cloud per Cohere, IBM e Mistral AI, indicati come primi clienti. |
| 2025 | Annuncio di disponibilità generale | CoreWeave descrive istanze cloud con NVLink a livello rack e Quantum-2 InfiniBand. |
Questa sequenza evita un equivoco frequente: la spedizione annunciata da Dell nel 2024 non equivaleva alla disponibilità generale per qualsiasi cliente. Le aree geografiche, le quote e lo stato attuale delle istanze devono essere verificati direttamente con CoreWeave.
Independent reader supportYour contribution helps us test, update, and keep practical guides available for everyone.Perché il raffreddamento a liquido è importante
Un rack con decine di GPU ad alta potenza concentra una quantità di calore che rende il raffreddamento un problema di sistema, non un semplice accessorio del server. L’IR7000 integra il raffreddamento a liquido e la distribuzione del rack, mentre i servizi professionali Dell coprono progettazione e messa in opera. Le fonti disponibili non forniscono però una misura indipendente del consumo energetico o del risparmio ottenuto da questa installazione.
Recommended Free Tools
Quick Recap
Best Value
- Dell PowerEdge R740xd 3.5 inch 12-Bay Server
- 2x Intel Xeon Silver 4210 - 2.20Ghz 10 Core
- 192GB PC4-2133R DDR4 Registered Memory
- PERC H740p RAID Controller
- 12x Enterprise 3.5 inch 6TB SAS 7.2K Hard Drives
Cosa significa per chi usa CoreWeave
- Possibilità di accedere a un dominio NVLink che tratta il rack come una risorsa strettamente interconnessa.
- Capacità adatta a training e inferenza di modelli che superano le dimensioni pratiche di una singola GPU.
- Scalabilità tra rack tramite Quantum-2 InfiniBand per lavori distribuiti di grandi dimensioni.
- Necessità di considerare disponibilità regionale, quote, software supportato e condizioni dell’istanza, che possono differire dall’annuncio hardware.
Product prices and availability are accurate as of the date/time indicated and are subject to change. Any price and availability information displayed on Amazon at the time of purchase will apply.
