NVIDIA, Nemotron ailesini genişleterek yeni modellerini tanıttı.
Nemotron 3.5 Super VL ve Bolt Modelleri
NVIDIA, 120 milyar parametreli açık model Nemotron 3.5 Super VL’i piyasaya sürdü. Bu model, sürekli çalışan ajanslar için en hızlı görev tamamlama ve en yüksek doğruluğu sağlıyor. Ayrıca, iki yeni kenar modeli olan Nemotron 3.5 Bolt 74B-A9B 24GB ve Nemotron 3.5 Bolt E4B 4GB da tanıtıldı. Bolt 74B-A9B, yerel ajans yükleri için zeka ve hız dengesini optimize ederken, Bolt E4B hızlı konuşma ajansları için zeka optimizasyonu sunuyor.
Model Özellikleri ve Performansı
Nemotron 3.5 Super VL, çok modlu ajans görevlerinde lider doğruluk sağlamakta ve NVIDIA’nın en büyük akıl yürütme modeli ile karşılaştırılabilir bir performans sergilemektedir. Bu model, sınıfındaki en hızlı açık ajans modeli olarak, yüksek hacimli görevleri daha hızlı tamamlamaya yardımcı oluyor. Diğer modellere göre, Super VL, 5 kat daha hızlı bir akış sağlıyor.
Yerel Kullanım ve Özelleştirme İmkanları
Bolt 74B-A9B, NVIDIA RTX/DGX Spark üzerinde günlük ajans görevlerini yerel olarak çalıştırmak üzere tasarlandı. Kullanıcılar, projelerini buluta göndermeden popüler yerel ajans uygulamaları ile yürütme imkanına sahip. Bolt E4B ise, GeForce RTX ve Jetson üzerinde fiziksel ve konuşma ajansları için geliştirilmiş bir modeldir.
Özelleştirme ve Kullanım Alanları
Birçok kuruluş, Super VL modelini kendi verileri ve iş akışlarıyla özelleştirerek doğruluğu artırmak için kullanıyor. Örneğin, Scale AI, modeli Skydance için özelleştirirken, AI21 ve Alice, siber güvenlik saldırı dayanıklılığı için model üzerinde çalışmalar yapıyor. Ayrıca, Ramp, Dream ve Lila Sciences gibi başka kuruluşlar da Super VL’i farklı alanlarda özelleştiriyor.
Açık Veri ve Güvenlik
Nemotron 3.5 Super VL, açık ağırlıklar ve açık veri setleri ile birlikte geliyor. Bu sayede, kuruluşlar güvenlik ve veri ikamet gereksinimlerine göre modeli kendi altyapılarında çalıştırabiliyor. Özelleştirme, NVIDIA NeMo ve Python tabanlı boru hatları aracılığıyla destekleniyor.
Donanım Uyumluluğu ve Erişim
Nemotron 3.5 Super VL, NVIDIA’nın tam donanım yelpazesi üzerinde çalışabiliyor. Bu modeller, DGX Spark, DGX Station ve RTX sistemleri ile yerel akıllı uygulamalar için kullanılabilir. Nemotron 3.5 Bolt 74B-A9B ise, GeForce RTX PC’lerde de çalışabiliyor ve 16 Ekim’de piyasaya sürülecek NVIDIA RTX Spark dizüstü bilgisayarlarında destekleniyor.
