De nieuwe H200-chip van Nvidia is speciaal ontworpen voor het trainen en implementeren van artificiële intelligentie-modellen die worden gebruikt door OpenAI, het bedrijf achter ChatGPT.
In het nieuws: Maandag onthulde de gigant in computerprocessoren Nvidia zijn nieuwste aanwinst: de H200-chip, voornamelijk ontworpen om in te spelen op de populariteit van artificiële intelligentie (AI) in de hele technologiesector.
Twee keer zo snel
- De H200 is een verbetering van de H100-chip, meldt zakenzender CNBC. Deze chip werd gebruikt door OpenAI om zijn meest geavanceerde taalmodel tot nu toe, GPT-4, te trainen. Deze chips zijn beperkt in aantal en worden opgeëist door grote spelers in zowel de publieke als de private sector.
- Dat is een financiële zegen voor de ontwerpers van microprocessoren, die nu van strategische waarde zijn. Vooral omdat bij de voorganger H100 duizenden chips moeten samenwerken om een AI-model te trainen. Elke processor kost tussen de 25.000 en 40.000 dollar, merkt CNBC op.
- In het streven naar de meest geavanceerde AI is een nieuwe, efficiëntere chip die specifiek is ontworpen voor deze taak zeer welkom. Technisch gezien heeft de H200 141 GB aan geheugen van de nieuwe generatie “HBM3”.
- Dit maakt het mogelijk om ‘inference‘, het combineren van grote hoeveelheden gegevens om relevante inhoud te genereren, efficiënter uit te voeren. Vooral voor afbeeldingen en zelfs audio, niet alleen tekst. Nvidia heeft verklaard dat de H200 bijna twee keer zo snel resultaten zal genereren als zijn voorganger. Beide chips blijven echter compatibel.
Een welvarend bedrijf
Uitgezoomd: De chipgigant doet het goed. Nvidia is onlangs toegetreden tot de zeer exclusieve club van bedrijven met een marktkapitalisatie van 1 biljoen oftewel 1.000 miljard dollar. De wereldwijde omzet steeg met 171 procent op jaarbasis en de nettowinst bedroeg 6,19 miljard dollar. Dat bleek uit resultaten die afgelopen augustus werden gepubliceerd.
- De race is echter begonnen. Het is ongetwijfeld dat chipfabrikanten zullen wedijveren met steeds krachtigere modellen om te profiteren van de groeiende belangstelling voor AI. Het is een gangbare opvatting dat de rekenkracht van chips elke twee jaar verdubbelt.
- Men verwacht dat de H2000 in het tweede kwartaal van 2024 op de markt zal komen. De chip zal dan concurreren met de GPU MI300X, een processor die in juni van dit jaar werd gepresenteerd door de grote concurrent AMD.
(cv)
