Key takeaways

• Nvidia verschuift zijn focus strategisch naar CPU’s om agentische AI-toepassingen te ondersteunen, die krachtige verwerkingscapaciteit voor algemene doeleinden vereisen.
• Door de toenemende complexiteit van agentische AI-workflows zijn CPU’s cruciaal voor taken zoals het coördineren van meerdere entiteiten en het beheren van enorme hoeveelheden data.
• De CPU’s van Nvidia zijn specifiek ontworpen om de dataverwerking en single-threaded prestaties te optimaliseren.

De opkomst van agentische AI, die in staat is om complexe taken uit te voeren en op nieuwe manieren met de wereld te communiceren, zorgt voor een belangrijke verschuiving in de computerwereld. Hoewel de grafische verwerkingseenheden (GPU’s) van Nvidia al lang de drijvende kracht achter AI-ontwikkelingen zijn, legt de toenemende complexiteit van agentische AI-toepassingen een nieuwe nadruk op centrale verwerkingseenheden (CPU’s).

Focus van Nvidia op CPU’s

Nvidia staat op het punt om zijn nieuwste CPU-ontwikkelingen te onthullen tijdens zijn jaarlijkse GTC-conferentie. Dat meldt CNBC. Die chips spelen een cruciale rol bij het mogelijk maken van agentische AI-workflows. Dion Harris, hoofd AI-infrastructuur bij Nvidia, verklaart dat CPU’s de bottleneck aan het worden zijn bij het opschalen van AI-toepassingen, wat een unieke kans voor groei biedt.

Nvidia’s intrede op de CPU-markt begon in 2021 met de introductie van Grace, zijn eerste datacenter-CPU. De volgende generatie heet Vera en is momenteel in productie. Beide chips worden doorgaans ingezet naast de gerenommeerde GPU’s van Nvidia.

Strategische verschuiving naar CPU’s

De explosieve vraag naar GPU’s heeft Nvidia tot een begrip gemaakt en tot ’s werelds meest waardevolle beursgenoteerde bedrijf. De recente meerjarige overeenkomst van Nvidia met Meta, waarbij Grace-CPU’s op grote schaal worden ingezet, duidt echter op een strategische verschuiving naar het omarmen van CPU’s als essentiële componenten van het AI-ecosysteem.

Deze heropleving van CPU’s heeft een duidelijke oorzaak. De behoeften van toepassingen voor AI veranderen fundamenteel. Terwijl GPU’s uitblinken in het trainen en uitvoeren van AI-modellen dankzij hun duizenden gespecialiseerde cores, zijn CPU’s beter geschikt voor de algemene taken die agentische AI vereist. Deze agents houden vaak het coördineren van meerdere entiteiten en het verplaatsen van enorme hoeveelheden data in, taken waarvoor CPU’s met hun krachtige cores ideaal zijn.

Uitdagingen voor aanbod

Jensen Huang, CEO van Nvidia, heeft gewezen op de exponentiële groei in het genereren van tokens in verband met agentische AI, waarbij hij de noodzaak van hogere inferentiesnelheden benadrukte. Hij beschouwt prestaties per watt als cruciaal in dit veranderende landschap.

Analist Ben Bajarin beschrijft de situatie als een “stille leveringscrisis” op de CPU-markt. Toonaangevende leveranciers zoals AMD en Intel hebben melding gemaakt van leveringstekorten, met levertijden die oplopen tot zes maanden en prijsstijgingen van meer dan 10 procent.

Harris stelt dat Nvidia deze uitdagingen goed aankan. De robuuste toeleveringsketen van het bedrijf vangt de vraag naar zijn CPU’s effectief op.

Ontwerpfilosofie voor CPU’s bij Nvidia

De CPU’s van Nvidia zijn ontworpen met een specifieke focus op gegevensverwerking en agentische AI-workflows. In tegenstelling tot de meer algemene CPU’s van Intel en AMD, beschikt Nvidia’s Grace-CPU over een lager aantal cores (72) die zijn geoptimaliseerd voor het doorvoeren van gegevens naar de GPU’s.

Harris legt uit dat de aanpak van Nvidia prioriteit geeft aan single-threaded prestaties om ervoor te zorgen dat dure GPU’s niet inactief blijven.

Flexibele strategie

Nvidia’s beslissing om standalone CPU’s te omarmen komt op een moment dat hyperscalers zoals Amazon, Google en Microsoft hun eigen Arm-gebaseerde CPU’s voor datacenters ontwikkelen.

Nvidia heeft op deze trend gereageerd door zijn NVLink-netwerktechnologie open te stellen voor licenties aan derden, waardoor een naadloze integratie van CPU’s met verschillende architecturen met zijn GPU’s mogelijk wordt.

Deze “platformonafhankelijke” strategie stelt Nvidia in staat om concurrerend te blijven, ongeacht het CPU-landschap. Zoals Bajarin het stelt, is de aanpak van Nvidia “van A tot Z”, waarbij een uitgebreide reeks producten wordt aangeboden om aan diverse AI-workloads te voldoen. (uv)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!