Key takeaways

• De volgende generatie AI-chips van Nvidia zullen vijf keer zoveel verwerkingskracht leveren, waardoor chatbots en AI-toepassingen sneller zullen presteren.
• Met het Vera Rubin-platform kunnen “pods” van meer dan 1.000 chips met elkaar worden verbonden om de efficiëntie van het genereren van tokens te vertienvoudigen.
• Nvidia’s overname van Groqs technologie geeft aan dat het bedrijf vastbesloten is om voorop te blijven lopen op het gebied van AI-innovatie.

Nvidia’s volgende generatie AI-chips zijn momenteel in volle productie en beloven een vervijfvoudiging van de AI-verwerkingskracht ten opzichte van hun voorgangers, waardoor chatbots en AI-toepassingen sneller en efficiënter kunnen presteren.

Jensen Huang, CEO van Nvidia, onthulde die vooruitgang op de Consumer Electronics Show in Las Vegas, waarbij hij de nadruk legde op het aankomende Vera Rubin-platform. Dit platform bestaat uit zes Nvidia-chips en beschikt over indrukwekkende mogelijkheden, waaronder een vlaggenschipchip met 72 grafische eenheden en 36 processorkernen.

Prestatieverbeteringen

Huang heeft gedemonstreerd hoe de chips onderling verbonden kunnen worden tot ‘pods’ die meer dan 1000 Rubin-chips bevatten, waardoor de efficiëntie van het genereren van tokens, de bouwstenen van AI-systemen, aanzienlijk verbeterd wordt met een factor tien. Die opmerkelijke prestatieverbetering wordt toegeschreven aan een eigen datatype waarvan Nvidia hoopt dat het een industriestandaard zal worden.

Terwijl Nvidia momenteel de AI-opleidingsmarkt domineert, neemt de concurrentie van rivalen zoals Advanced Micro Devices en zelfs klanten zoals Alphabets Google toe. Huang benadrukte de effectiviteit van de nieuwe chips in het leveren van getrainde AI-modellen aan miljoenen gebruikers via chatbots en andere technologieën. Hij wees ook op het ‘contextgeheugen’, een nieuwe opslaglaag die ontworpen is om de reactietijden van chatbots op complexe vragen en conversaties te versnellen.

Netwerkdoorbraken

Nvidia toonde ook een nieuwe generatie netwerkswitches met co-packaged optics, een cruciale technologie voor het verbinden van duizenden machines in een verenigd systeem, en concurreerde met aanbiedingen van Broadcom en Cisco Systems. CoreWeave zal naar verwachting een van de eerste gebruikers van de Vera Rubin systemen zijn, gevolgd door Microsoft, Oracle, Amazon en Alphabet.

Huang presenteerde onder andere nieuwe software die is ontworpen om autonome auto’s te helpen bij het nemen van beslissingen, waarbij een transparant spoor wordt achtergelaten dat door ingenieurs kan worden geanalyseerd. Hij onthulde ook de uitgebreide versie van de Alpamayo-software, evenals de gebruikte trainingsgegevens, die autofabrikanten in staat zullen stellen om onafhankelijke evaluaties uit te voeren en het vertrouwen in de ontwikkeling van het model te vergroten.

Uitbreiding

Nvidia’s recente overname van talent en chiptechnologie van startup Groq illustreert zijn streven om voorop te blijven lopen in het AI-landschap. De deal brengt leidinggevenden aan boord die betrokken waren bij de ontwikkeling van Googles AI-chips, waardoor Nvidia’s dominante positie direct wordt uitgedaagd.

Huang verzekerde analisten dat de Groq-deal geen invloed zou hebben op de kernactiviteiten van Nvidia, maar wel zou kunnen leiden tot nieuwe productaanbiedingen die het portfolio zouden aanvullen.

Nvidia wil graag de superieure prestaties van zijn nieuwste chips laten zien in vergelijking met oudere modellen, zoals de H200, die is goedgekeurd voor export naar China. De vraag naar de H200 blijft sterk in China, wat Amerikaanse beleidsmakers zorgen baart. Nvidia wacht momenteel op goedkeuring van de Verenigde Staten en andere overheden om deze chips naar China te verschepen. (fc)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!