Amazon, PyTorch uygulamalarını tek ayarla Trainium çiplerine taşıyan TorchNeuron'u yayımladı

Amazon Web Services, PyTorch ile yazılmış yapay zeka uygulamalarının şirketin kendi çipi Trainium'da çalışmasını sağlayan TorchNeuron aracını 19 Ekim'de yayımladı. Amazon'a göre geçiş için kodu yeniden yazmak gerekmiyor; tek bir yapılandırma satırını değiştirmek yetiyor. Şirket, yapay zeka uygulamalarının yaklaşık yüzde 85'inin PyTorch ile yazıldığını söylüyor. Nvidia, CUDA yazılımının PyTorch'u sorunsuz desteklemesi sayesinde yıllardır varsayılan donanım konumunda.

Amazon ayrıca PyTorch'un ana projesine, çerçeveyi belirli çiplere bağlayan kodu kaldıran değişiklikler göndereceğini açıkladı. AWS, aynı çipin hem eğitim hem çıkarım yapmasının toplam maliyeti düşürdüğünü savunuyor. Örnek olarak ses yapay zekası şirketi Deepgram'ın Trainium'a geçtikten sonra dolar başına yüzde 70 daha fazla ses işlediğini gösteriyor. PyTorch uygulamaları benzer bir ayar değişikliğiyle AMD ve Apple çiplerine de taşınabiliyor.