Key takeaways
- AI-startup Groq breidt uit naar Europa met een datacenter in Helsinki.
- Groq ontwerpt taalverwerkingseenheden voor AI-inferentie, met als doel te concurreren met Nvidia.
- Groq legt de nadruk op flexibiliteit door snelle implementatie van zijn datacenter en direct beschikbare componenten.
AI-halfgeleider startup Groq, gesteund door Samsung en Cisco, breidt internationaal uit met zijn eerste Europese datacenter in Helsinki, Finland. In samenwerking met Equinix wordt hiermee ingespeeld op de groeiende vraag naar AI-diensten in Europa, met name in de Scandinavische landen, die bekend staan om hun toegang tot hernieuwbare energie en een koel klimaat.
Competitief voordeel
Groq wil zich onderscheiden in de concurrerende markt voor AI-inferentie, waar Nvidia de formatie domineert met zijn GPU’s. Groq ontwerpt taalverwerkingseenheden (LPU’s) speciaal voor inferentie, waarbij live gegevens worden geïnterpreteerd met behulp van vooraf getrainde AI-modellen, vergelijkbaar met chatbots.
CEO Jonathan Ross benadrukt de voordelen van Groq ten opzichte van concurrenten zoals Nvidia. Hij wijst op Groq’s gebruik van gemakkelijker verkrijgbare componenten in vergelijking met Nvidia’s afhankelijkheid van duur geheugen met hoge bandbreedte en beperkte leveranciers. Volgens Ross stelt deze aanpak Groq in staat om de hoge volumes en lage marges van inferentie te beheren, terwijl anderen zich kunnen richten op training, wat hogere marges oplevert.
Partnerschap en flexibiliteit
Ross benadrukte ook de flexibiliteit van Groq en noemde de snelle uitrol van het datacenter in Helsinki, die vier weken geleden begon en nu al draait. Deze snelheid staat volgens Ross in contrast met typische markttijden.
De samenwerking met Equinix sluit aan bij de focus van het Europese beleid op “soevereine AI” door datacenters in de regio te houden en snellere service mogelijk te maken. De onderling verbonden cloud-infrastructuur van Equinix vergemakkelijkt multi-vendor toegang voor bedrijven, waardoor ze gebruik kunnen maken van de inferentiemogelijkheden van Groq via Equinix.
Groq is met zijn technologie al aanwezig in de VS, Canada en Saudi-Arabië.