Groq-ek bere arkitekturako tentsore streaming prozesadorea (TSP) deitzen du. Bi urte atzera egin zuen Google-ren Tensor Tratamienzteko Unitatea (TPU) garatu zuten hamar pertsonetatik zortzi kontratatu zituela.
Konpainiak 62,3 milioi dolar bildu ditu finantzaketan.
GROQren arkitektura segundo bakoitzeko kuadrilioi operazio baten baliokidea da, edo 1e15 ops / s eta 250 bilioi puntako ebakuntza flotagarriak bigarren (flops) dira.
"GPU konpainia nagusiak datozen urteetan PETAaop / s emanaldi bat entregatu ahal izan zieten bezeroei esan diete; Groq-ek gaur iragarri du ", dio Groq CEO Jonathan Ross-ek," Groq arkitektura inferentziarako erabilgarri dagoen beste ezer baino azkarrago multiplo asko da, latentzia baxuei eta segundoko inferentziei dagokienez. Lehenengo silizioaren atzeko aldean, lehen egunean, lehen astean exekutatzen diren programak, bazkide eta bezeroei laginduta sei aste baino gutxiagoan, A0 silizioa ekoizten joango gara "
Software-lehen pentsamoldearekin, Groq-en TSP arkitektura aldarrikatu du, bai konputazio malgutasuna eta paralelismo masiboa lortzea GPU eta CPU arkitektura tradizionalen sinkronizaziorik gabe.
Groqen arkitekturak makina tradizional eta berrien ikasteko ereduak onartzen ditu eta gaur egun bezeroen guneetan funtzionatzen du X86 eta X86 sistemetan.
Arkitektura informatikaren ikuspegitik, makina ikaskuntzaren eta AIrekin lotutako beste lan karga batzuen errendimendu eskakizunetarako diseinatuta dago.
Exekuzioaren plangintza softwarean gertatzen da, silikonako higiezinak, bestela, instrukzio dinamikoen exekuzioari eskainitakoa.
Arkitektura honek ematen duen kontrol estuak prozesamendu determinista eskaintzen du bereziki baliotsua den aplikazioak eta zehaztasuna funtsezkoak diren aplikazioetarako.
CPU, GPU eta FPGASen oinarritutako arkitektura tradizional konplexuen aldean, Groq-en txipak ere kualifikazioa eta hedapena errazten ditu, bezeroei errendimendu handiko eta errendimendu handiko sistema altuak eta azkar ezartzeko aukera emanez.