Groq noemt zijn architectuur Tensor Streaming-processor (TSP). Twee jaar geleden zei dat het acht van de tien mensen had aangeworven die de Tensor-verwerkingseenheid van Google (TPU) heeft ontwikkeld.
Het bedrijf heeft $ 62,3 miljoen aan de financiering opgetreden.
De architectuur van Groq is gelijk aan één kwadriljoen-operaties per seconde, of 1E15 OPS / s en in staat tot maximaal 250 biljoen drijvende-puntbewerkingen per seconde (flops).
"Top GPU-bedrijven hebben klanten verteld dat ze in de komende jaren één Petaop / s-prestaties zouden kunnen leveren; Groq kondigt het vandaag aan ", zegt Groq CEO Jonathan Ross," de Groq-architectuur is veel veelvouden sneller dan al het andere beschikbaar voor gevolgtrekking, in termen van zowel lage latentie als gevolgtrekkingen per seconde. We hadden het eerste silicium terug, de eerste dag Power-on, programma's die in de eerste week draaien, bemonsterd tot partners en klanten in minder dan zes weken, met A0-silicium in productie "
Met een software-eerste mindset, beweert de TSP-architectuur van Groq zowel de computeflexibiliteit als het enorme parallellie te bereiken zonder de synchronisatie overhead van traditionele GPU- en CPU-architecturen.
De architectuur van Groq kan zowel traditionele als nieuwe machineleen-modellen ondersteunen en is momenteel in bedrijf op klantensites in zowel X86 als niet-X86-systemen.
De architectuur is speciaal ontworpen voor de prestatievereisten van Computer Vision, Machine Learning en andere AI-gerelateerde workloads.
Uitvoeringsplanning gebeurt in software, vrijwellen van silicium onroerend goed anders gewijd aan dynamische instructie uitvoering.
De strakke controle van deze architectuur biedt deterministische verwerking die bijzonder waardevol is voor toepassingen waarbij veiligheid en nauwkeurigheid van het grootste belang zijn.
In vergelijking met complexe traditionele architecturen op basis van CPU's, GPUS en FPGA's stroomlijnt de chip van Groq ook kwalificatie en implementatie, waardoor klanten eenvoudig en snel schaalbare, hoge prestatie-per-watt-systemen kunnen implementeren.