Yapay zekâ çipi yarışında Nvidia'nın en büyük kozu yalnızca donanımı değil, yıllardır inşa ettiği yazılım ekosistemi. Amazon Web Services (AWS) bu duvarı aşmak için yeni bir adım attı: TorchNeuron adlı geliştirici aracı, mevcut yapay zekâ uygulamalarının şirketin kendi geliştirdiği Trainium çipine taşınmasını kolaylaştırmayı hedefliyor.
AWS'nin anlattığına göre bir uygulamayı Trainium üzerinde çalıştırmak için kodun yeniden yazılmasına gerek yok; tek bir yapılandırma değişikliği yeterli. TorchNeuron, açık kaynaklı PyTorch kütüphanesinin uyarlanmış bir sürümü olduğu için PyTorch'a hâkim geliştiriciler yeni bir şey öğrenmek zorunda kalmayacak. Amazon, yapay zekâ uygulamalarının yaklaşık yüzde 85'inin PyTorch ile yazıldığını söylüyor; yani hedef kitle oldukça geniş.
PyTorch'u bir zamanlar Facebook geliştirdi, 2022'den bu yana ise Linux Vakfı çatısı altında yönetiliyor. Nvidia ise yıllardır CUDA yazılımını PyTorch ile kusursuz çalışacak şekilde optimize etti. Bu durum, geliştiricilerin doğal olarak Nvidia donanımına yönelmesine yol açtı. AMD ekran kartlarına ya da Apple çiplerine geçişin de benzer biçimde basitleştiği düşünülürse, Amazon'un girişimi tamamen yeni değil; ama bulut tarafındaki gücü onu farklı kılıyor.
AWS'nin ana argümanı şu: Trainium yalnızca ucuz bir çip değil, Amazon'un tüm bulut hizmetlerine açılan bir kapı. Şirket, CoreWeave, Nebius ve Firmus gibi çoğu Nvidia donanımına bağlı 'neocloud' sağlayıcılarına karşı bu bütünlüğü öne çıkarıyor. Aynı çip hem model eğitimi hem de çıkarım (inference) aşamasında kullanılabildiği için, AWS belirli senaryolarda maliyetin düşeceğini savunuyor — her zaman en ucuz token fiyatını sunmasa bile.
Somut bir örnek de var: ses tabanlı yapay zekâ sağlayıcısı Deepgram, yerel PyTorch kullanarak Trainium'a geçiş yapmış ve üretim düzeyinde doğrulukta dolar başına yüzde 70 daha fazla ses işlediğini bildiriyor. Amazon ayrıca PyTorch'un ana projesine, çerçevenin belirli çiplere bağımlılığını azaltacak kod katkıları yapacağını açıkladı.
Elbette şüpheci bir bakış da mümkün. PyTorch'un varlık nedeni zaten farklı donanımlardaki zorlukları gizlemek; Amazon'un vaat ettiği özgürlüğün gerçekten daha fazla seçenek ve daha düşük maliyet getirip getirmeyeceği, yoksa yeni yapılandırma sorunları mı çıkaracağı zamanla görülecek. Ancak Amazon PyTorch'u Nvidia'dan gerçekten ayrıştırabilirse, etkisi sadece çip rekabetiyle sınırlı kalmayabilir.
Türkiye'deki girişimler ve araştırmacılar için de bu tablo önemli: Yapay zekâ işlerini bulutta çalıştıran küçük ekipler için Nvidia GPU erişimi ve maliyeti hâlâ büyük bir engel. Alternatif çiplerin sorunsuz çalışması, ölçeklenmek isteyen yerli ekiplere daha fazla pazarlık gücü sağlayabilir.
Kaynak: TechCrunch
