Google ve Amazon, PyTorch uygulamalarını Nvidia dışı çiplere taşıyan araçlar yayımladı

Amazon 19 Ekim'de, Google 20 Ekim'de yapay zeka uygulamalarını Nvidia ekran kartlarından kendi çiplerine taşımayı kolaylaştıran araçlar yayımladı. İkisi de, Amazon'a göre yapay zeka uygulamalarının yaklaşık yüzde 85'inin yazıldığı açık kaynak araç takımı PyTorch'u temel alıyor. Amazon'un TorchNeuron'u uygulamaları Trainium çiplerine, Google'ın açık kaynak TorchTPU'su ise Tensor Processing Unit çiplerine taşıyor. İki şirket de bunun kodu yeniden yazmadan, tek bir yapılandırma değişikliğiyle yapılabildiğini söylüyor. Amazon ayrıca PyTorch'un ana projesine, çerçeveyi belirli çiplere bağlayan kodu kaldıran değişiklikler göndereceğini açıkladı. Google ise Meta, Hugging Face ve vLLM'in geliştiricisi Inferact ile uyumluluk üzerinde çalıştığını, taşıma işine yardım eden bir ajan paketi de sunduğunu bildirdi.