Supercluster nu større end verdens største supercomputer
OCI Supercluster overgår verdens største supercomputer i størrelse og kan nu skalere op til 4.096 Compute Bare Metal-instanser med 32.768 GPU'er
Del artiklen påOracle har udvidet sit samarbejde med Nvidia til også at omfatte kørsel af strategiske Nvidia AI-applikationer på den nye Oracle Cloud Infrastructure (OCI) Supercluster. Nvidia har valgt OCI som den første hyperscale cloud-udbyder til at tilbyde Nvidia DGX Cloud, en AI-supercomputing-tjeneste, i massiv skala. Desuden kører Nvidia AI Foundations, sine nye generative AI-cloudtjenester, som er tilgængelige via DGX Cloud, på OCI.
"OCI er den første platform, der tilbyder en AI-supercomputer i stor skala til tusindvis af kunder på tværs af alle brancher. Dette er en kritisk kapacitet, da flere og flere organisationer har brug for computerressourcer til deres unikke AI-anvendelsestilfælde. For at understøtte denne efterspørgsel fortsætter vi med at udvide vores samarbejde med Nvidia," siger Clay Magouyrk, executive vice president, Oracle Cloud Infrastructure.
"De ubegrænsede muligheder for AI-drevet innovation er med til at transformere stort set alle virksomheder. Nvidias samarbejde med Oracle Cloud Infrastructure sætter den ekstraordinære supercomputerydelse fra Nvidias accelererede computerplatform inden for rækkevidde af enhver virksomhed," sagde Manuvir Das, vice president of enterprise computing, Nvidia.
"De ubegrænsede muligheder for AI-drevet innovation er med til at transformere stort set alle virksomheder. Nvidias samarbejde med Oracle Cloud Infrastructure sætter den ekstraordinære supercomputerydelse fra Nvidias accelererede computerplatform inden for rækkevidde af enhver virksomhed," sagde Manuvir Das, vice president of enterprise computing, Nvidia.
OCI's nye supercluster
Nvidia DGX Cloud og Nvidia AI Foundations-tjenesterne, der kører på den, udnytter OCI's unikke Supercluster, som blev certificeret af Nvidia for at sikre, at den lever op til de høje standarder for DGX Cloud.
OCI's Supercluster omfatter OCI Compute Bare Metal, en RoCE-klynge med ultra-lav latency baseret på Nvidia-netværk og et valg af HPC-lagring. Den er blevet implementeret og valideret af Nvidia til at understøtte tusindvis af OCI Compute Bare Metal-instanser, der effektivt kan behandle massivt parallelle applikationer. OCI Supercluster-netværk kan nu skalere op til 4.096 OCI Compute Bare Metal-instanser med 32.768 A100 GPU'er. OCI Compute Bare Metal-instanser med NVIDIA H100 GPU'er er nu i begrænset omfang tilgængelige.
Desuden meddelte Nvidia, at Oracle tilføjer Nvidia BlueField-3 DPU'er til sin netværksstack.
Generative AI-tjenester til opbygning af brugerdefinerede virksomhedsmodeller
Nvidia AI Foundations modelleringstjenester dækker sprog, billeder, video og 3D samt biologi. Virksomheder kan bruge Nvidia NeMo™ sprogtjenesten og Nvidia Picasso-billed-, video- og 3D-tjenesterne til at opbygge egne, domænespecifikke, generative AI-applikationer til intelligent chat og kundesupport, professionel indholdsskabelse, digital simulation og meget mere. Til træning og inferens af AI-modeller inden for biologi tilbyder Nvidia BioNeMo cloud-tjenesten værktøjer til hurtigt at tilpasse og implementere generative AI-applikationer.
På OCI nyder brugerdefinerede modeller, der er bygget med Nvidia AI Foundations og modelfamilier som GPT-3, godt af OCI Supercluster, som omfatter specialbygget RDMA-netværk, der leverer en ydeevne nær line rate med mikrosekunders latenstid og eliminerer blokeringsproblemer for RDMA-afhængige arbejdsbelastninger.
- lb