Groq kutsub oma arhitektuuri tensor streaming protsessor (TSP). Kaks aastat tagasi ta ütles, et see oli tööle kaheksa kümnest inimesest, kes töötas välja Google'i tensor töötlemise üksuse (TPU).
Ettevõte on rahastanud $ 62,3 miljonit dollarit.
Groqi arhitektuur on samaväärne ühe neljakordse operatsiooniga sekundis või 1E15 OPS / s ja võimelised kuni 250 triljoni ujuva punkti operatsioone sekundis (flops).
"Top GPU ettevõtted on rääkinud klientidele, et nad lootsid, et nad saaksid järgmise paari aasta jooksul pakkuda ühe Dataop / s jõudlust; Groq kuulub tänase täna, "ütleb Groqi tegevjuht Jonathan Ross," Groqi arhitektuur on paljud mitu korda rohkem kui midagi muud, mis on järeldusele, nii madala latentsuse kui ka järelduse poolest sekundis. Meil oli esimene räni tagasi, esmakordselt sissepääs, programmid, mis töötavad esimesel nädalal, proovid partneritele ja klientidele alla kuue nädala jooksul, kusjuures A0 Silicon tootmine "
Tarkvara-esimese mõtteviisi puhul väidab Groqi TSP arhitektuuri mõlemad arvutavad paindlikkus ja massiline paralleelsus ilma traditsiooniliste GPU ja CPU arhitektuuride sünkroniseerimiseta.
Groqi arhitektuur võib toetada nii traditsioonilisi kui ka uusi masinaõppe mudelit ning on praegu töötavad nii X86 kui ka mitte-x86 süsteemide kliendisaitidel.
Arhitektuur on mõeldud spetsiaalselt arvuti nägemise, masinaõppe ja teiste AI-ga seotud töökoormuste toimivuse nõuetele.
Täitmise planeerimine toimub tarkvaras, vabastades Silicon kinnisvara, mis on muidu pühendatud dünaamilisele juhendamisele täitmisele.
Selle arhitektuuri poolt esitatud tihe kontroll pakub deterministlikku töötlemist, mis on eriti väärtuslik rakenduste puhul, kus ohutus ja täpsus on ülimalt tähtis.
Võrreldes keeruliste traditsiooniliste arhitektuuridega, mis põhinevad CPU-l, GPU-s ja FPGAS-is, suunab Groqi kiip ka kvalifikatsiooni ja kasutuselevõtu, võimaldades klientidel lihtsalt ja kiiresti rakendada skaleeritavaid ja suure jõudlusega-per-watt-süsteemi.