Groq memanggil pemproses streaming tensor senibina (TSP). Dua tahun lagi berkata ia telah merekrut lapan daripada sepuluh orang yang membangunkan Unit Pemprosesan Tensor Google (TPU).
Syarikat itu telah menaikkan $ 62.3 juta dalam pembiayaan.
Seni bina Groq adalah bersamaan dengan satu operasi quadrillion sesaat, atau 1E15 ops / s dan mampu sehingga 250 trilion operasi titik terapung sesaat (Flops).
"Syarikat-syarikat GPU teratas telah memberitahu pelanggan bahawa mereka berharap dapat menyampaikan satu prestasi PetaOP / S dalam beberapa tahun akan datang; Groq mengumumkannya hari ini, "kata Ketua Pegawai Eksekutif Groq Jonathan Ross," Senibina Groq adalah banyak gandaan lebih cepat daripada apa-apa yang tersedia untuk kesimpulan, dari segi latency dan kesimpulan yang rendah sesaat. Kami mempunyai silikon pertama, power-on day, program yang sedang berjalan pada minggu pertama, sampel kepada rakan kongsi dan pelanggan dalam tempoh enam minggu, dengan silikon A0 pergi ke dalam pengeluaran "
Dengan pemikiran pertama yang pertama, arsitektur TSP Groq mendakwa untuk mencapai kedua-dua fleksibiliti yang mengira dan paralelisme besar-besaran tanpa penyegerakan overhead GPU tradisional dan seni bina CPU.
Seni bina Groq boleh menyokong kedua-dua model pembelajaran tradisional dan baru, dan kini sedang beroperasi di laman pelanggan dalam kedua-dua sistem X86 dan bukan X86.
Senibina direka khusus untuk keperluan prestasi visi komputer, pembelajaran mesin dan beban kerja yang berkaitan dengan AI.
Perancangan pelaksanaan berlaku dalam perisian, membebaskan hartanah silikon sebaliknya didedikasikan untuk pelaksanaan arahan dinamik.
Kawalan ketat yang disediakan oleh seni bina ini menyediakan pemprosesan deterministik yang sangat berharga untuk aplikasi di mana keselamatan dan ketepatan adalah yang paling utama.
Berbanding dengan seni bina tradisional yang kompleks berdasarkan CPU, GPU dan FPGAS, cip Groq juga menyelaraskan kelayakan dan penggunaan, yang membolehkan pelanggan dengan mudah dan dengan cepat melaksanakan sistem persembahan yang berkualiti tinggi.