Op het hoofdkantoor van Google in Mountain View, Californië, worden tests uitgevoerd op de eigen microchips van het bedrijf, de zogenaamde Tensor Processing Units (TPU’s). Deze aangepaste chips zijn oorspronkelijk ontworpen voor interne werkbelastingen, maar zijn sinds 2018 beschikbaar voor cloudklanten. In juli werd bekend dat Apple de TPU’s van Google gebruikt om zijn AI-modellen te trainen. Google traint en runt er ook zijn Gemini chatbot mee.
De ontwikkeling van deze speciale AI-versnellers is een complex en kostbaar proces. Zelfs de hyperscalers zoals Google kunnen het niet alleen. Ze werken samen met bedrijven als Broadcom, dat meer dan 3 miljard dollar heeft uitgegeven aan deze partnerships. De chipontwikkelaar helpt ook Meta bij het ontwerpen van zijn AI-chips en doet alle randzaken, waaronder I/O en verpakking.
Google’s TPU’s zijn ontworpen om krachtige rekencapaciteiten naar de cloud te brengen. Door samen te werken met Broadcom kan Google zich richten op het leveren van de rekenkracht en het randwerk overlaten aan de chipontwikkelaar. Deze samenwerking is essentieel om deze complexe chips werkelijkheid te laten worden.
Het belang van energie-efficiëntie
Energie-efficiëntie is cruciaal bij de ontwikkeling van AI-versnellers. Volgens het laatste milieurapport van Google is de uitstoot tussen 2019 en 2023 met bijna 50 procent gestegen, deels door de groei van datacenters voor het voeden van AI. Tegen 2027 zullen AI-servers naar verwachting evenveel stroom per jaar verbruiken als een land als Argentinië.
Google is vastbesloten om de CO2-uitstoot van zijn infrastructuur naar nul te brengen. Het bedrijf is begonnen met het gebruik van direct-to-chip koeling in zijn derde generatie TPU, die veel minder water gebruikt dan traditionele koelmethoden. Deze aanpak wordt ook gebruikt door Nvidia.
De rol van hardware
Hardware speelt een cruciale rol in de ontwikkeling van generatieve AI-tools. Het streven van Google om zijn eigen chips te maken is essentieel voor het maken van krachtige en efficiënte AI-versnellers. Het bedrijf heeft aangekondigd dat zijn TPU van de zesde generatie, Trillium genaamd, later dit jaar zal worden uitgebracht.
Google’s samenwerking met Broadcom stelt het bedrijf in staat om zich te richten op het leveren van krachtige rekencapaciteiten, terwijl het het randwerk overlaat aan de chipontwikkelaar. Deze aanpak is cruciaal om complexe chips werkelijkheid te laten worden.
De toekomst van AI
De toekomst van AI ziet er rooskleurig uit. Met de ontwikkeling van krachtige en efficiënte AI-versnellers zijn de mogelijkheden eindeloos. Van het trainen van AI-modellen tot het uitvoeren ervan op apparaten zoals iPhones en Macs, de potentiële toepassingen zijn enorm.
Het streven van Google om de CO2-uitstoot van zijn infrastructuur tot nul te reduceren is een essentiële stap om van AI een duurzamere technologie te maken. Het bedrijf is begonnen met het gebruik van direct-to-chip koeling in zijn derde generatie TPU, dat veel minder water gebruikt dan traditionele koelmethoden.
De toekomst van AI wordt bepaald door de ontwikkeling van krachtige en efficiënte AI-versnellers. Met Google’s inzet om zijn eigen chips te maken, zijn de mogelijkheden eindeloos.
De belangrijkste punten
• Google’s eigen chips zijn een game-changer in de wereld van AI.
• De ontwikkeling van deze speciale AI-versnellers is complex en kostbaar.
• Google werkt samen met bedrijven als Broadcom om zich te richten op rekencapaciteiten en laat het randwerk over aan de chipontwikkelaar.
• Energie-efficiëntie is van cruciaal belang bij de ontwikkeling van AI-versnellers, waarbij Google ernaar streeft de CO2-uitstoot van zijn infrastructuur tot nul te reduceren.
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!