1. Haberler
  2. TEKNOLOJİ
  3. Lambda, NVIDIA Photonics ile AI Fabrikalarının Verimliliğini Artırıyor

Lambda, NVIDIA Photonics ile AI Fabrikalarının Verimliliğini Artırıyor

featured
Google'da Abone Ol
0
Paylaş

Bu Yazıyı Paylaş

veya linki kopyala

Ağ Altyapısında Yenilikçi Çözümler

Lambda, yapay zeka model eğitimi için gereken hızlı, verimli ve dayanıklı bir ağ altyapısı oluşturmak amacıyla NVIDIA Photonics ko-paketlenmiş optik anahtarlar kullanıyor. Bu anahtarlar, 10,000’den fazla GPU içeren NVIDIA GB300 NVL72 raflarını birbirine bağlayarak, enerji tüketimini azaltıyor ve ağın dayanıklılığını artırıyor.

Lambda’nın bulut hizmetleri başkanı Dave Ward, “Ağ altyapısının, giderek büyüyen yapay zeka kümelerinin taleplerine ayak uydurması gerekiyor,” diyerek ko-paketlenmiş optiklerin bu ölçekteki bir dağıtımda önemli bir adım olduğunu vurguladı.

Ağ Gecikmesinde Kayda Değer Düşüş

Yapılan testlerde, ağ gecikmesinin (veri aktarımı için gereken süre) raf ölçeğinde yaklaşık %4, pod ölçeğinde ise %10 oranında düştüğü bildirildi. Geleneksel takılabilir optiklerle karşılaştırıldığında, ağın aynı verimliliği sağladığı görülüyor.

Ağ altyapısındaki her kesinti, binlerce GPU’yu duraklatabileceği için güç verimliliği ve dayanıklılık, AI fabrikalarının üretkenliği açısından kritik bir öneme sahip.

Güç Verimliliği ve Dayanıklılıkta İyileşme

NVIDIA Photonics, takılabilir alıcıları ko-paketlenmiş optik motorlarla değiştirerek, enerji verimliliğini 5 kat artırırken, güvenilirliği 15 kat yükseltiyor. Ayrıca, kullanılan lazer sayısını da 4 kat azaltarak arızalanma olasılığını düşürüyor.

Bir büyük eğitim işi sırasında, bir ağ kesintisi birçok ajan üzerinde zincirleme gecikme etkileri yaratabiliyor. Bu nedenle, her kesintinin maliyeti zaman kaybı ile ölçülüyor.

Soğutma ve Değiştirilebilir Işık Kaynakları ile Dayanıklılık Artışı

Lambda’nın dağıtımı, her biri 800 Gb/s hızında çalışan 144 port bulunan NVIDIA Photonics anahtarlarını içeriyor. Sıvı soğutma, anahtar çipinden ve optik motorlardan ısıyı uzaklaştırıyor.

Şirket, ortalama optik sıcaklığının 36°C olduğunu, bu değerin geleneksel takılabilir optiklerde ise 51°C olduğunu aktarıyor. Yapılan testler, sinyal bütünlüğünün daha stabil olduğunu gösteriyor.

Modüler Yapı ile Kolay Bakım

NVIDIA Photonics, elektriksel-optik dönüşümü anahtar çipine daha yakın hale getiriyor. Her anahtar, optik motorlara ışık sağlayan 18 çıkarılabilir harici ışık kaynağına sahip. Bu modüller, teknik ekipler tarafından sahada değiştirilerek bakım sürecini kolaylaştırıyor.

Ko-paketleme, elektriksel yolu inçlerden milimetrelere kısaltarak sinyal kaybını azaltıyor ve güç tüketimini düşürüyor. Ayrıca, sinyal yolundaki parça sayısını da azaltıyor.

Lambda, NVIDIA Photonics ile AI Fabrikalarının Verimliliğini Artırıyor
0

Tamamen Ücretsiz Olarak Bültenimize Abone Olabilirsin

Yeni haberlerden haberdar olmak için fırsatı kaçırma ve ücretsiz e-posta aboneliğini hemen başlat.

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

0/30 karakter