NVIDIA, güçlü AI GPU’larıyla bölümde önder pozisyonda bulunuyor ve yeni jenerasyon B200 Blackwell çipleri ile bu pozisyonunu daha da güçlendirecek. Lakin, Etched isimli bir startup, daha süratli ve daha ekonomik bir tahlil geliştirdiğini argüman etti: Sohu isimli ASIC (Application Specific Integrated Circuit) çipi.

Etched’nin Sohu ASIC çipi NVIDIA GPU’larından 20 kat daha hızlı

Etched isimli startup’ın yeni çipi Sohu, klasik GPU’lardan çok daha üstün performans sunuyor. ASIC yapısı sayesinde, machine learning üzere muhakkak iş yükleri için optimize edilen bu çip, NVIDIA B200 GPU’larından 10 kat, mevcut en yaygın hızlandırıcı olan NVIDIA H100 (Hopper) GPU’lardan ise 20 kat daha süratli performans sunuyor.

Örneğin, Meta tarafından geliştirilen Llama 70B mimarisi üzerinde yapılan testlerde, 8 Sohu çipi kullanan bir sunucu, saniyede 500 bin token işleyebiliyor. Kıyaslayacak olursak, 160 adet NVIDIA H100 GPU’nun sürece gücüne muadil. Sohu, yüksek süreç gücünü daha fazla sayıda özel transistor kullanarak elde ediyor. Bu da, AI sistemlerinin muhtaçlık duyduğu “ham güç”ü sağlıyor.

ASIC, tam yükte yüzde 90 kullanım oranına ulaşabiliyor ki bu, klâsik GPU’ların iki katı kadar. GPU’lar, programlanabilir ve esnek olmalarına karşın, ASIC’ler kadar yüksek verimlilik sağlayamıyorlar. Etched’e nazaran, GPU’lar kuşaktan nesile çok büyük ilerlemeler kaydetmiyor. Performans artışı, çoklukla daha büyük çip boyutları ve daha yüksek güç tüketimi ile sağlanıyor.

ASIC’ler ise, muhakkak vazifeler için optimize edildiklerinden, daha verimli ve güçlü olabiliyorlar. Şayet vaat edilen performans gerçekleşirse, büyük bilgi merkezi sağlayıcıları bu yeni teknolojiyi yakından takip edeceklerdir. Sohu’nun piyasaya çıkış tarihi hakkında şimdi bilgi bulunmuyor, fakat üretim TSMC’nin 4 nm süreci ile yapılacak.

Bu yeni teknoloji, NVIDIA GPU’larına önemli bir rakip olabilir. Siz bu yeni ASIC çipler hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmında paylaşmayı unutmayın…

Shiftdelete

Kaynak : https://shiftdelete.net/sohu-nvidia-etched-gpulari-asic