NVIDIA ve Oracle, Oracle Cloud Infrastructure üzerinde Vera Rubin sistemlerini çok gigawatt ölçeğine taşımak için iş birliğini genişletti.
AI Talebine Yanıt Verme
NVIDIA ve Oracle, Oracle Cloud Infrastructure (OCI) Superclusters’ı NVIDIA Vera Rubin NVL72 sistemleri ile çok gigawatt ölçeğine genişletmeyi planladıklarını duyurdu. Bu genişleme, AI eğitim, çıkarım ve ajans uygulamaları için artan müşteri talebini destekleyecek.
Geliştirilen iş birliği, müşterilere hem GPU ağırlıklı eğitim ve hizmet verme süreçlerinde hem de model çağrıları arasında görevleri yerine getiren CPU yoğun görevlerde altyapı sağlıyor. Müşteriler, CPU ve GPU kaynaklarını bağımsız olarak ölçeklendirebiliyor, bu da kullanılmayan kapasitenin azaltılmasına ve altyapının daha verimli kullanılmasına yardımcı oluyor.
OCI Superclusters ile Sektöre Hız Kazandırma
OCI Superclusters, NVIDIA NVL72 sistemlerini, Oracle Acceleron ağını, NVIDIA Spectrum-X™ Ethernet ağı ve NVIDIA BlueField®-4 DPUs’yu birleştirerek en büyük AI modellerini eğitmek ve hizmet vermek amacıyla gigawatt sınıfı güç ve soğutma sağlıyor. Her rack, 72 GPU’yu NVIDIA NVLink™ ölçekleme ağı ile bağlıyor.
Planlanan Vera Rubin genişlemesi, OCI’nin mevcut NVIDIA destekli altyapısını genişletiyor. NVIDIA’nın ortak CUDA® yazılım temeli, müşterilerin gelişen modeller ve iş yüklerini desteklemesine yardımcı oluyor.
NVIDIA HGX Rubin NVL8’in Tanıtımı
OCI, ayrıca sekiz Rubin GPU’yu NVLink üzerinden bağlayan NVIDIA HGX Rubin NVL8’i tanıtmayı planlıyor. Bu platform, iki adet 64 çekirdekli Intel Xeon 6 CPU, 4TB DDR5 bellek ve 6.4 Tbps yüksek hızlı RDMA ağı sunarak AI eğitim ve çıkarımında esnek bir dağıtım seçeneği sağlıyor.
HGX Rubin NVL8, müşterilere daha küçük bir sekiz-GPU yapılandırmasında bir sonraki nesil Rubin GPU teknolojisini benimseme imkanı sunarken, x86 tabanlı uygulamalarla da uyumluluğunu koruyor.
AI Ajanslarının Hızını Artıran NVIDIA Vera CPU’lar
AI ajansları, sadece yanıt üretmekle kalmaz, aynı zamanda görevleri tamamlamak için araçları çağırır, kodu çalıştırır ve bilgi toplar. Bu CPU yoğun işlemlerin yavaş gerçekleşmesi, sonuçların gecikmesine neden olabilir.
OCI Compute, NVIDIA Vera CPU’ları ile yüksek tek iş parçacığı performansı ve bellek bant genişliği sunarak ajansların CPU yoğun görevleri daha hızlı tamamlamasına yardımcı oluyor. Bu yetenekler, GPU’ların boşta kalma süresini azaltarak iş yükleri ölçeklendikçe tutarlı bir performans sağlamaya yardımcı oluyor.
Müşterilerin Deneyimleri ve Gelecek Perspektifleri
NVIDIA Vera CPU’ları üzerinde erken erişime sahip olan müşteriler, bu teknolojinin farklı AI iş yükleri üzerindeki potansiyelini keşfediyor. OpenAI’nin teknoloji müdürü Uday Ruddarraju, NVIDIA Vera CPU’larının yüksek performans sunduğunu belirtiyor.
Oracle Cloud Infrastructure’ın başkanı Mahesh Thiagarajan, NVIDIA ile iş birliğinin, AI’nın eğitim, çıkarım ve ajans alanında gelişmesine katkı sağladığını vurguladı. Bu iş birliği, müşterilerin GPU’larını verimli, güvenli ve ölçeklenebilir bir şekilde kullanmalarına yardımcı oluyor.
