AI Supercomputer | ai server system
NVIDIA DGX H200
Sebagai generasi keempat dari infrastruktur AI pertama di dunia yang dirancang khusus, DGX H200 dirancang untuk menjadi pusat keunggulan AI (AI Center of Excellence ) perusahaan/lembaga.
DGX H200 ini adalah platform perangkat keras dan perangkat lunak yang sepenuhnya dioptimalkan yang mencakup dukungan penuh untuk rangkaian solusi perangkat lunak AI NVIDIA terbaru, ekosistem dukungan pihak ketiga, dan akses ke dukungan support dari layanan profesional NVIDIA.
Server AI Supercomputer
NVIDIA DGX H200 SYSTEM
2x Intel Xeon 8480C (56 cores, 2.0GHz), 8x NVIDIA H200 SXM5 141GB, 2TB RAM, 30TB NVMe (Data), 8x 400Gb HDR Infiniband, 4x 200Gb Ethernet, 3 years support
NVIDIA H200 SXM5 GPUs
8x NVIDIA H200 with 1128GB total GPU memory, 18x NVLink connections per GPU with 900 GB/s GPU-to-GPU bandwidth
Dual Intel Xeon Platinum 8480C CPU
A total of 112 processor cores and 2TB of system memory
30TB Gen4 NVMe SSD
8× 3.84 TB with 50GB/s of peak bandwidth, 2x faster than Gen3 NVMe SSDs and 2× 1.92 TB NVMe for OS
NVLink & NVSwitch
4x NVIDIA NVSwitches with 7.2TB/s of bidirectional bandwidth & 10x NVIDIA ConnectX-7 with 400Gb/s InfiniBand / Ethernet network interface
NVIDIA DGX B200 FEATURES
NVIDIA DGX H200 Systems Provide Full AI Software Stack
NVIDIA DGX server.
Sistem universal untuk semua beban kerja AI – mulai dari analitik hingga pelatihan hingga inferensi. DGX H200 menetapkan standar baru untuk kepadatan komputasi, mengemas kinerja AI 32 petaFLOPS ke dalam faktor bentuk 8U, menggantikan infrastruktur komputasi lama dengan satu sistem terpadu.
NVIDIA DGX OS.
NVIDIA DGX Systems hadir dengan tumpukan perangkat lunak NVIDIA DGX OS yang sudah terinstal – Ubuntu atau RedHat Enterprise Linux, driver yang dioptimalkan (GPU, jaringan), mesin Docker, manajemen kontainer, manajemen sistem, alat manajemen pusat data, dan fitur keamanan.
NVIDIA AI Enterprise.
NVIDIA AI Enterprise menawarkan rangkaian perangkat lunak AI berbasis cloud yang aman dan lengkap, yang menyediakan katalog besar berisi pustaka ilmu data, alat, model pra-terlatih, kerangka kerja, dan banyak lagi yang dioptimalkan dan selalu terbarui. Seluruh tumpukan perangkat lunak sepenuhnya tercakup oleh dukungan perusahaan NVIDIA.
NVIDIA Mission controll & Base Command.
NVIDIA Mission Control adalah paket perangkat lunak yang terdiri dari NVIDIA Base Command dan NVIDIA Run:AI yang bersama-sama menyediakan basis perangkat lunak yang solid untuk orkestrasi, Slurm, dan lingkungan Jupyter Notebook, menghadirkan solusi penjadwalan dan orkestrasi yang mudah digunakan dan telah terbukti di lingkungan perusahaan.
NGC applicatioin containers.
NVIDIA NGC adalah katalog publik dari kerangka kerja AI yang paling banyak digunakan, aplikasi yang dipercepat GPU, model AI pra-terlatih, atau alur kerja. Anda dapat menjalankan beban kerja AI Anda segera setelah sistem DGX Anda dikirim. Katalog NGC diperbarui secara berkala untuk selalu mendapatkan komponen perangkat lunak terbaru yang telah disetel untuk kinerja tertinggi aplikasi AI Anda.
NVIDIA AI software solutions The Cornerstone of Your AI Center of Excellence
DGX H200 adalah solusi perangkat keras dan perangkat lunak terintegrasi penuh untuk membangun Pusat Keunggulan AI Anda. Solusi ini mencakup NVIDIA Base Command™ dan rangkaian perangkat lunak NVIDIA AI Enterprise, ditambah saran ahli dari
NVIDIA DGXperts.
Leadership-Class Infrastructure on Your Terms.
Dapatkan kekuatan DGX H200 dalam berbagai cara yang sesuai dengan bisnis Anda: di lokasi sendiri, di lokasi bersama, disewa dari penyedia layanan terkelola, dan banyak lagi. Dan dengan Manajemen Siklus Hidup DGX-Ready, organisasi mendapatkan model keuangan yang dapat diprediksi untuk menjaga implementasi mereka tetap terdepan.
Break Through the Barriers to AI at Scale.
NVIDIA DGX H200 memiliki performa 6X lebih tinggi, jaringan 2X lebih cepat, dan skalabilitas kecepatan tinggi. Arsitekturnya dirancang khusus untuk beban kerja terbesar seperti AI generatif, pemrosesan bahasa alami, dan model rekomendasi pembelajaran mendalam.
about us
Fastest Time to Solution
DGX H200 mengintegrasikan tumpukan perangkat lunak DGX yang telah diuji dan dioptimalkan, termasuk sistem operasi dasar yang disetel untuk AI, semua perangkat lunak sistem yang diperlukan, dan aplikasi yang dipercepat GPU, model pra-terlatih, dan banyak lagi dari NGC.
Layanan Perusahaan NVIDIA menyediakan dukungan, pendidikan, dan layanan profesional untuk infrastruktur DGX Anda. Dengan para ahli NVIDIA yang tersedia di setiap langkah perjalanan AI Anda, Layanan Perusahaan dapat membantu Anda menjalankan proyek Anda dengan cepat dan sukses.
NVIDIA DGX SuperPOD yang dibangun di atas sistem DGX H200 memungkinkan perusahaan/lembaga terkemuka untuk menerapkan infrastruktur skala besar dan siap pakai yang didukung oleh keahlian AI NVIDIA. Percepat proyek Anda dengan arsitektur modular dan serbaguna SuperPOD dan manfaatkan kinerja yang dapat diskalakan untuk mempercepat waktu inferensi dan pelatihan.
Amankan Alokasi Unit NVIDIA DGX H200 Anda sekarang juga.
Tanpa infrastruktur yang tepat, proyek AI perusahaan berisiko mengalami delay, pembengkakan biaya, dan kehilangan momentum pasar. Amankan alokasi unit NVIDIA DGX H200 Anda sekarang juga.