Amazon, PyTorch geliştiricilerine AWS Trainium AI çiplerini açarak, yazılımlarını yeniden yazmadan bu donanımı kullanma imkanı sağlıyor.
TorchNeuron ile Donanım Uyumsuzluğu Ortadan Kalkıyor
Amazon’un TorchNeuron adı verilen yeni aracı, mevcut PyTorch kodunun herhangi bir değişiklik yapılmaksızın Trainium çiplerinde çalışmasını sağlıyor. Geliştiricilerin halihazırda kullandığı test, hata ayıklama ve ölçeklendirme araçları, bu yeni donanımla uyumlu çalışacak. TorchNeuron, 20 Ekim’de düzenlenecek PyTorch Konferansı’nda açık kaynak olarak sunulacak.
Geliştiriciler için Zaman ve Maliyet Avantajı
AI projelerinin gerçek maliyeti, yalnızca çip fiyatıyla sınırlı değil. Özellikle başlangıç aşamasındaki şirketler için mühendislik zamanı en büyük maliyet kalemlerinden biri. Yeni donanıma uyum sağlamak için harcanan her hafta, ürünün geliştirilmesi için kaybedilen bir hafta anlamına geliyor. TorchNeuron ile bu uyumsuzluk ortadan kalktığından, şirketler daha verimli bir şekilde kaynaklarını kullanabilecekler.
Büyük Şirketler İçin Devrim Niteliğinde Fırsatlar
Büyük ölçekli işletmeler için AI uygulamalarında kullanılan donanımın hem eğitim hem de çıkarım işlemlerinde aynı olması büyük bir avantaj sunuyor. Off-peak saatlerde, çıkarım iş yükleri için kullanılan kapasite eğitim görevlerine kolayca kaydırılabiliyor, böylece donanım kaynağından daha fazla değer elde edilebiliyor.
TorchNeuron’un Erken Benimseyicileri
TorchNeuron, sesli AI’dan ilaç keşfine kadar geniş bir yelpazede ilk kullanıcılar tarafından benimsenmiş durumda. Bu kullanıcılar, kodlarını değiştirmeden Trainium’a geçiş yaptılar. Örneğin, Cartesia, insan benzeri etkileşimlerde bulunan bir zeka geliştirmek için PyTorch’un Trainium üzerindeki yerel desteğini kullanıyor.
Pioneer ve Geliştirici Araçları
Amazon, sadece kendi donanımını değil, PyTorch topluluğuna da katkıda bulunuyor. PyTorch’u daha donanım bağımsız hale getirme hedefiyle, çerçeveyi belirli çiplere bağlayan kodların kaldırılması üzerinde çalışıyor. Ayrıca, Hugging Face, popüler AI geliştirme araçlarında yerel Trainium desteği sağladı, böylece geliştiriciler Amazon’a özgü kod yazmak zorunda kalmadan bu donanımı kullanabiliyor.
Gelecek ve Açık Kaynak Katkıları
TorchNeuron, Trainium2 ve Trainium3 destekleyecek şekilde geliştirilmeye devam ediyor. Açık kaynak olarak Apache 2.0 lisansı altında yayınlanacak. Amazon, kendi çip tasarımı konusunda uzun yıllardır yaptığı yatırımları bu yeni araçla birleştirerek, PyTorch kullanan tüm geliştiricilere bu donanımı erişilebilir kılmayı hedefliyor.
