GROQ kaller sin arkitektur Tensor streaming prosessor (TSP). To år tilbake sa det at det hadde rekruttert åtte av de ti personer som utviklet Googles Tensor-behandlingsenhet (TPU).
Selskapet har økt $ 62,3 millioner i finansiering.
GROQs arkitektur er ekvivalent med en kvadrillion operasjoner per sekund, eller 1E15 ops / s og i stand til opptil 250 billioner flytende punkt operasjoner per sekund (flops).
"Top GPU-selskapene har fortalt kunder at de hadde håpet å kunne levere en Petaop / s ytelse innen de neste årene; GROQ annonserer det i dag, sier GROQ CEO Jonathan Ross, "Groq-arkitekturen er mange multipler raskere enn noe annet som er tilgjengelig for inferanse, både når det gjelder lavt ventetid og avledninger per sekund. Vi hadde første silisium tilbake, første dagers strømforsyning, programmer som kjørte i den første uken, samplet til partnere og kunder på under seks uker, med A0-silisium som går i produksjonen "
Med en programvare-første tankegang, hevder GROQs TSP-arkitektur å oppnå både beregne fleksibilitet og massiv parallellisme uten synkroniseringsoverhead av tradisjonelle GPU- og CPU-arkitekturer.
GROQs arkitektur kan støtte både tradisjonelle og nye maskinlæringsmodeller, og er for tiden i drift på kundesider i både x86 og ikke-X86-systemer.
Arkitekturen er spesielt utviklet for ytelseskravene til datasyn, maskinlæring og andre AI-relaterte arbeidsbelastninger.
Execution planlegging skjer i programvare, frigjøring av silisium eiendomsmegling ellers dedikert til dynamisk instruksjon utførelse.
Den stramme kontrollen som tilbys av denne arkitekturen gir deterministisk behandling som er spesielt verdifull for applikasjoner der sikkerhet og nøyaktighet er avgjørende.
Sammenlignet med komplekse tradisjonelle arkitekturer basert på CPUer, GPUer og FPGAS, strømmer GROQs chip også kvalifiseringen og distribusjonen, slik at kundene enkelt kan og raskt implementere skalerbare, høyytelses-per-watt-systemer.