GroQ เรียกโปรเซสเซอร์สตรีมมิ่งสถาปัตยกรรมสถาปัตยกรรม (TSP) สองปีที่ผ่านมากล่าวว่าได้รับการคัดเลือกแปดในสิบคนที่พัฒนาหน่วยประมวลผลเทนเซอร์ของ Google (TPU)
บริษัท ได้ระดมทุน 62.3 ล้านดอลลาร์
สถาปัตยกรรมของ Groq นั้นเทียบเท่ากับการดำเนินงาน Quadrillion หนึ่งครั้งต่อวินาทีหรือ 1E15 ops / s และสามารถดำเนินการจุดลอยน้ำได้ถึง 250 ล้านล้านล้านล้านต่อวินาที (FLOPS)
"บริษัท GPU ชั้นนำได้รับการบอกให้ลูกค้าทราบว่าพวกเขาหวังว่าจะสามารถส่งมอบประสิทธิภาพ PETAOP / S ได้หนึ่งในอีกไม่กี่ปีข้างหน้า; Groq กำลังประกาศในวันนี้ "Jonathan Ross ซีอีโอของ Groq กล่าวว่า" สถาปัตยกรรม Groq นั้นมีหลายทวีคูณมากขึ้นกว่าสิ่งอื่นใดสำหรับการอนุมานในแง่ของทั้งเวลาแฝงต่ำและการอนุมานต่อวินาที เรามีซิลิคอนกลับครั้งแรกเปิดเครื่องในวันแรกโปรแกรมที่ทำงานในสัปดาห์แรกตัวอย่างต่อคู่ค้าและลูกค้าภายในหกสัปดาห์โดยมีการผลิตซิลิคอน A0 "
ด้วย Software-First Mindset สถาปัตยกรรม TSP ของ Groq อ้างว่าบรรลุทั้งการคำนวณความยืดหยุ่นและความขนานกันขนาดใหญ่โดยไม่ต้องมีการซิงโครไนซ์เหนือศีรษะของ GPU และสถาปัตยกรรม CPU แบบดั้งเดิม
สถาปัตยกรรมของ Groq สามารถรองรับทั้งแบบจำลองการเรียนรู้เครื่องแบบดั้งเดิมและใหม่และกำลังดำเนินการกับเว็บไซต์ของลูกค้าทั้งในระบบ X86 และ Non-X86
สถาปัตยกรรมได้รับการออกแบบมาโดยเฉพาะสำหรับข้อกำหนดด้านประสิทธิภาพของการมองเห็นคอมพิวเตอร์การเรียนรู้เครื่องและปริมาณงานที่เกี่ยวข้องกับ AI อื่น ๆ
การวางแผนการดำเนินการเกิดขึ้นในซอฟต์แวร์เพิ่มขึ้นอสังหาริมทรัพย์ซิลิคอนเป็นอย่างอื่นทุ่มเทให้กับการดำเนินการคำสั่งแบบไดนามิก
การควบคุมที่แน่นหนาจากสถาปัตยกรรมนี้ให้การประมวลผลที่กำหนดโดยเฉพาะอย่างยิ่งสำหรับการใช้งานที่ความปลอดภัยและความแม่นยำเป็นสิ่งสำคัญยิ่ง
เมื่อเทียบกับสถาปัตยกรรมแบบดั้งเดิมที่ซับซ้อนบนพื้นฐานของ CPUS, GPU และ FPGAS ชิปของ GroQ ยังช่วยให้คุณมีคุณสมบัติและการปรับใช้ทำให้ลูกค้าสามารถใช้ระบบที่ปรับขนาดได้ง่ายและรวดเร็ว