Groq plant eine Finanzierungsrunde in Höhe von 600 Millionen US-Dollar bei einem geschätzten Wert von 6 Milliarden US-Dollar. Das Unternehmen hat die weltweit ersten Language Processing Units (LPUs) entwickelt, die speziell für KI-Sprachmodelle optimiert sind. Im Gegensatz zu herkömmlichen Grafikprozessoren (GPUs), die parallel viele Aufgaben gleichzeitig bearbeiten, führen LPUs sequenzielle Verarbeitung für eine effizientere Sprachverarbeitung durch. Groq’s LPUs erzielen bis zu 814 Tokens pro Sekunde, was mehr als das Zweifache der typischen 300 Tokens pro Sekunde von NVIDIA’s H100 Tensor Core GPUs ist.