NVIDIA, GTC Berlin etkinliğinde yeni yerel yapay zeka donanımını tanıttı.
Yeni Donanım Modelleri
NVIDIA, geçen hafta piyasaya sürdüğü RTX Spark ile kişisel ajanları Windows PC’lerde çalıştırma imkanı sunuyor. Ayrıca, geliştiricilere uygulama geliştirme ve ölçeklendirme konusunda destek veren DGX Spark ve Linux üzerinde çalışan iş ekipleri için tasarlanan DGX Station da tanıtıldı. Windows versiyonu Aralık ayında çıkacak.
Etkinlikte yapılan bazı duyurular arasında, RTX Spark için Underdog masaüstü ajanın artık kullanılabilir olması ve DGX Spark 64GB sisteminin 23 Ekim Cuma günü satışa sunulacağı yer alıyor. Ayrıca, Ekim ayı için DGX Spark yazılım güncellemesi, Wi-Fi Asistanı ve yeni beceriler ekliyor.
RTX Spark ile Kişisel Ajanlar
RTX Spark, 128GB birleşik bellek ve 1 petaflop AI hesaplama gücü ile 1440p 100 kare/saniye oyun deneyimi sunarak kişisel ajanların çalıştırılmasına olanak tanıyor. İlk incelemeler, RTX Spark’ın içerik üretimini hızlandıran ve yaratıcılar için ideal bir makine olduğunu belirtiyor.
Underdog, tamamen yerel ve özel AI için geliştirilmiş yeni bir masaüstü ajan uygulaması olarak RTX Spark ile entegre çalışıyor. Bu uygulama, kullanıcı verilerini asla cihaz dışına çıkarmadan çalışabiliyor. RTX Spark dizüstü bilgisayarları, geliştiricilerin yerel ajanları özelleştirmelerine ve inşa etmelerine imkan tanıyan açık bootloader ile geliyor.
DGX Spark ile Geliştirici Desteği
Yeni DGX Spark 64GB sistemleri, 23 Ekim’den itibaren satışa sunulacak ve daha fazla kapasite gerektiren iş yükleri için birden fazla DGX Spark sistemi bağlanabilecek. Bu sistemler, geliştiricilerin büyük modelleri çalıştırmasına olanak tanıyor. DGX Spark, sekiz birimlik kümeleri destekleyerek daha büyük modeller ve dağıtık geliştirme için uygun hale geliyor.
NVIDIA Sync Model Launcher, kullanıcıların tek bir tıklama ile modelleri indirmelerine ve konfigürasyona uygun hale getirmelerine yardımcı olacak. Ekim ayındaki güncelleme ile birlikte kullanıcılar, DGX Spark’ı çalıştırırken ağ değiştirebiliyor.
DGX Station ile Gelişmiş Performans
DGX Station, 748GB birleşik bellek ve 20 petaflop AI performansı sunarak, büyük takımların gelişmiş modelleri çalıştırmasına olanak tanıyor. Yeni entegrasyonlar, IT ekiplerinin DGX Station sistemlerini yönetmelerini kolaylaştırıyor. Aralık ayında piyasaya sürülecek Windows tabanlı sistemler, profesyonel uygulamalarla çalışan iş akışları oluşturmayı mümkün kılacak.
Bu sistemler, mühendislerin yerel modelleri Windows tabanlı yazılımlarda çalıştırmasına ve aynı sistemde AI modellerine erişmesine olanak tanıyor. Ayrıca, robotik takımlar için özel işlem gücü sağlayarak, paylaşılan altyapıyı beklemeden iterasyon döngülerini kısaltıyor.
Yeni Yerel Kodlama Modeli: Recursive Flint
Recursive Superintelligence, RTX Spark için optimize edilmiş yeni bir yerel kodlama modeli olan Recursive Flint’ı tanıttı. Bu model, hızlı ve doğru kodlama için 40 milyar parametre içeren bir yapı sunuyor. Geliştiriciler, modelin açık ağırlıklarını Hugging Face’ten indirebilir ve RTX Spark ile DGX Spark sistemlerinde çalıştırabilir.
Ayrıca, NVIDIA, güncel AI modelleri için güncel destek sunarak, geliştiricilerin yerel AI donanımında daha verimli çalışmasına imkan tanıyor. Yeni modeller, kullanıcıların hızlı ve etkili bir şekilde yerel sesli asistanlar ve etkileşimli oyun karakterleri oluşturmasına yardımcı oluyor.
Yerel AI ile Hızlandırılmış İnferans
NVIDIA, yerel donanımda agentik iş yüklerini hızlandırmak için llama.cpp ve vLLM açık kaynak toplulukları ile çalışmaya devam ediyor. Yeni destekler, kullanıcıların daha hızlı görevler gerçekleştirmesine olanak tanıyor. GTC Berlin’de, NVIDIA’nın yerel AI ile geliştirdiği yenilikler sergilendi ve bu alandaki gelişmelerin önümüzdeki dönemde daha da artması bekleniyor.
