Groq, mimarlık tensörü akış işlemcisini (TSP) çağırır. İki yıl geri, Google'ın tensör işleme birimini (TPU) geliştiren on kişinin sekizini işe aldığını söyledi.
Şirket finansmanda 62,3 milyon dolar kazandı.
Groq'ın mimarisi, saniyede bir katrilyonel işlemlere veya 1E15 ops / s'ye eşittir ve saniyede (flop) 250 trilyon kayan nokta işlemine kadar yapabilme.
"Top GPU şirketleri müşterilere, önümüzdeki birkaç yıl içinde bir petaop / s performansını sunmayı umduklarını söylüyorlardı; Groq bugün onu duyuruyor "diyor Groq CEO'su Jonathan Ross," Groq Mimarisi, hem düşük gecikme ve saniyede çıkarımlar açısından çıkarım için uygun olan her şeyden daha hızlı. Birinci Silikon Back, Birinci Gün Power-Devri, İlk Haftada Çalışan Programlar, Altı Haftadaki Ortaklara ve Müşterilere, A0 Silikon Üretime Giren "
Bir yazılımın birinci zihniyetiyle, Groq'ın TSP mimarisi, geleneksel GPU ve CPU mimarilerinin senkronizasyonu olmadan hem hesaplama esnekliğini hem de büyük paralellik elde etmesini iddia ediyor.
Groq'ın mimarisi hem geleneksel hem de yeni makine öğrenme modellerini destekleyebilir ve şu anda hem X86 hem de X86 olmayan sistemlerde müşteri sitelerinde çalışıyor.
Mimari, bilgisayar vizyonu, makine öğrenmesi ve diğer AI ile ilgili iş yüklerinin performans gereksinimleri için özel olarak tasarlanmıştır.
Yürütme planlaması yazılımda olur, silikon emlaktan kurtulun, aksi takdirde dinamik talimat yürütülmesine adanmıştır.
Bu mimarinin sağladığı sıkı kontrol, özellikle güvenlik ve doğruluğun en önemli olduğu uygulamalar için değerli olan deterministik işlemler sağlar.
CPU'lara, GPU'lara ve FPGA'lara dayanan karmaşık geleneksel mimarilere kıyasla, Groq'un yongası, müşterilerin, WATT başına ölçeklenebilir, yüksek performanslı sistemleri basitçe ve hızlı bir şekilde uygulanmasını sağlayarak yeterlilik ve dağıtımı da kolaylaştırır.