Ağ Altyapısında Yenilikçi Çözümler
Lambda, yapay zeka model eğitimi için gereken hızlı, verimli ve dayanıklı bir ağ altyapısı oluşturmak amacıyla NVIDIA Photonics ko-paketlenmiş optik anahtarlar kullanıyor. Bu anahtarlar, 10,000’den fazla GPU içeren NVIDIA GB300 NVL72 raflarını birbirine bağlayarak, enerji tüketimini azaltıyor ve ağın dayanıklılığını artırıyor.
Lambda’nın bulut hizmetleri başkanı Dave Ward, “Ağ altyapısının, giderek büyüyen yapay zeka kümelerinin taleplerine ayak uydurması gerekiyor,” diyerek ko-paketlenmiş optiklerin bu ölçekteki bir dağıtımda önemli bir adım olduğunu vurguladı.
Ağ Gecikmesinde Kayda Değer Düşüş
Yapılan testlerde, ağ gecikmesinin (veri aktarımı için gereken süre) raf ölçeğinde yaklaşık %4, pod ölçeğinde ise %10 oranında düştüğü bildirildi. Geleneksel takılabilir optiklerle karşılaştırıldığında, ağın aynı verimliliği sağladığı görülüyor.
Ağ altyapısındaki her kesinti, binlerce GPU’yu duraklatabileceği için güç verimliliği ve dayanıklılık, AI fabrikalarının üretkenliği açısından kritik bir öneme sahip.
Güç Verimliliği ve Dayanıklılıkta İyileşme
NVIDIA Photonics, takılabilir alıcıları ko-paketlenmiş optik motorlarla değiştirerek, enerji verimliliğini 5 kat artırırken, güvenilirliği 15 kat yükseltiyor. Ayrıca, kullanılan lazer sayısını da 4 kat azaltarak arızalanma olasılığını düşürüyor.
Bir büyük eğitim işi sırasında, bir ağ kesintisi birçok ajan üzerinde zincirleme gecikme etkileri yaratabiliyor. Bu nedenle, her kesintinin maliyeti zaman kaybı ile ölçülüyor.
Soğutma ve Değiştirilebilir Işık Kaynakları ile Dayanıklılık Artışı
Lambda’nın dağıtımı, her biri 800 Gb/s hızında çalışan 144 port bulunan NVIDIA Photonics anahtarlarını içeriyor. Sıvı soğutma, anahtar çipinden ve optik motorlardan ısıyı uzaklaştırıyor.
Şirket, ortalama optik sıcaklığının 36°C olduğunu, bu değerin geleneksel takılabilir optiklerde ise 51°C olduğunu aktarıyor. Yapılan testler, sinyal bütünlüğünün daha stabil olduğunu gösteriyor.
Modüler Yapı ile Kolay Bakım
NVIDIA Photonics, elektriksel-optik dönüşümü anahtar çipine daha yakın hale getiriyor. Her anahtar, optik motorlara ışık sağlayan 18 çıkarılabilir harici ışık kaynağına sahip. Bu modüller, teknik ekipler tarafından sahada değiştirilerek bakım sürecini kolaylaştırıyor.
Ko-paketleme, elektriksel yolu inçlerden milimetrelere kısaltarak sinyal kaybını azaltıyor ve güç tüketimini düşürüyor. Ayrıca, sinyal yolundaki parça sayısını da azaltıyor.



