HPE verscheept eerste NVIDIA Grace Blackwell-systeem

"AI-serviceproviders en grote modelbouwers staan onder enorme druk om schaalbaarheid, extreme prestaties en een snelle implementatietijd te bieden," aldus Trish Damkroger, senior vice president en general manager van HPC & AI Infrastructure Solutions bij HPE. "Als bouwers van 's werelds drie snelste systemen met directe vloeistofkoeling, biedt HPE klanten lagere kosten per token training en de beste prestaties in zijn klasse met toonaangevende expertise op het gebied van services."

De NVIDIA GB200 NVL72 beschikt over een architectuur met gedeeld geheugen en lage latency met de nieuwste GPU-technologie, ontworpen voor extreem grote AI-modellen van meer dan een biljoen parameters, in één geheugenruimte. De GB200 NVL72 biedt naadloze integratie van NVIDIA CPU's, GPU's, compute- en switchtrays, netwerken en software, en brengt extreme prestaties samen om zwaar parallelle workloads aan te pakken, zoals het trainen en inferen van generatieve AI-modellen (GenAI), samen met NVIDIA-softwareapplicaties.

AI-clusters

"Ingenieurs, wetenschappers en onderzoekers hebben geavanceerde vloeistofkoelingstechnologie nodig om gelijke tred te houden met de toenemende eisen op het gebied van vermogen en computing," aldus Bob Pette, vice president van enterprise platforms bij NVIDIA. "Voortbouwend op de voortdurende samenwerking tussen HPE en NVIDIA, zal de eerste levering van HPE van de NVIDIA GB200 NVL72 serviceproviders en grote ondernemingen helpen om grote AI-clusters efficiënt te bouwen, implementeren en schalen."

Met toenemende eisen aan het vermogen en de dynamiek van de datacentrumdichtheid, beschikt HPE over vijf decennia aan expertise op het gebied van vloeistofkoeling, waardoor het bedrijf uniek gepositioneerd is om klanten te helpen bij een snelle implementatie en een uitgebreid infrastructuurondersteuningssysteem voor complexe, vloeistofgekoelde omgevingen. Deze ervaring heeft HPE in staat gesteld om acht van de top 15 supercomputers op de Green500-lijst te leveren, die 's werelds meest energie-efficiënte supercomputers rangschikt. HPE wordt erkend als leider in directe vloeistofkoelingstechnologie en heeft zeven van de top 10 snelste supercomputers ter wereld gebouwd.

Kenmerken van de NVIDIA GB200 NVL72 van HPE

• 72 NVIDIA Blackwell GPU's en 36 NVIDIA Grace CPU's die met elkaar zijn verbonden via high-speed NVIDIA NVLink
• Tot 13,5 TB totaal HBM3e-geheugen met 576 TB/sec bandbreedte
• HPE directe vloeistofkoelingstechnologie

Services en ondersteuning

HPE is in staat AI-oplossingen op wereldschaal te leveren, met een bewezen vermogen om enorme, aangepaste AI-clusters te ondersteunen met superieure service, waaronder deskundige ondersteuning op locatie, aangepaste services, duurzaamheidsservices en meer. HPC & AI Custom Support Services zijn afgestemd op de behoeften van de klant. Met verschillende niveaus van SLA-dekking biedt HPE verbeterd incidentbeheer met proactieve ondersteuning via dedicated remote engineers, waardoor een snelle installatie en een snellere time-to-value worden gewaarborgd. Beschikbare services zijn onder meer:

• Engineering resources op locatie: Uitgebreide ondersteuning op locatie via hoogopgeleide resident engineers die nauw samenwerken met de IT-teams van een klant om optimale systeemprestaties en beschikbaarheid te garanderen.
• Prestatie- en benchmarking engagements: Toonaangevend team van experts om oplossingen gedurende de levensduur van een systeem te verfijnen.
• Duurzaamheidsservices: Energie- en emissierapportage, duurzaamheidsworkshops en resource monitoring om de milieu-impact te verminderen.

De onlangs verscheepte NVIDIA GB200 NVL72 van HPE is een van de vele high-performance computing- en supercomputingsystemen die elk gebruiksscenario voor GenAI, wetenschappelijke ontdekking en andere compute-intensieve workloads adresseren.