Key takeaways
- Nvidia stopt mogelijk met leveringen aan klanten die gevaarlijke AI ontwikkelen.
- Technische innovatie, en niet restrictieve wetgeving, waarborgt de veiligheid van AI.
- Gespecialiseerde veiligheidsafdelingen houden toezicht op AI-agents om het vertrouwen van gebruikers te winnen.
Tijdens een recent bezoek aan Londen suggereerde Jensen Huang, CEO van Nvidia, dat het bedrijf zou overwegen de leveringen aan klanten die gevaarlijke AI ontwikkelen, stop te zetten. Dat meldt Bloomberg.
Hij verduidelijkte dat dit scenario voorlopig theoretisch is. Een dergelijk besluit zou volgens hem volgen op rechtstreekse gesprekken met de klant. Huang wees er ook op dat Nvidia veelzijdige tools levert, maar geen toezicht houdt op de activiteiten van zijn partners.
Strengere controles op klanten
Deze benadering van regelgeving komt al duidelijk naar voren in de bedrijfsvoering van Nvidia. Vorig jaar voerde het bedrijf een streng verificatieproces in voor kopers in Japan, Maleisië en Singapore, waardoor meer dan 50 procent van de bestaande klanten in die markten niet langer in aanmerking kwam voor aankoop.
Technologische oplossingen voor AI-veiligheid
Ondanks de wijdverbreide bezorgdheid over de risico’s van AI beschouwt Huang deze zorgen als beheersbare hindernissen. Hij is van mening dat de oplossing niet ligt in het opleggen van restrictieve wetten, maar in het verder ontwikkelen van de technologie zelf. Door AI in te zetten om andere AI-systemen te monitoren en in toom te houden, kan de veiligheid worden verbeterd.
Daarom heeft Nvidia een gespecialiseerde veiligheidsafdeling opgericht. Die evalueert AI-agents voordat ze worden gelanceerd. Volgens Huang is vertrouwen een essentiële voorwaarde om het gebruik van deze tools verder te doen toenemen.
Nvidia zet in op AI-groei
Deze strategie sluit aan bij de financiële belangen van Nvidia, aangezien een bredere acceptatie van AI-agents leidt tot een grotere vraag naar de benodigde hardware. Huang heeft zich eerder uitgesproken voor snelle innovatie en suggereerde tijdens een recent Dreamforce-evenement dat bedrijven snel moeten handelen en de vooruitgang alleen moeten stoppen als een specifiek product gevaarlijk blijkt te zijn.
Dit standpunt staat in contrast met dat van Dario Amodei, die heeft gepleit voor een wereldwijde vertraging en het vaststellen van gezamenlijke industrienormen.
Europese investeringen
Nvidia investeert ook in veiligheidsonderzoek binnen Europa en stelt 250 miljoen dollar (222 miljoen euro) aan rekenkracht – in plaats van contant geld – beschikbaar ter ondersteuning van onderzoek naar de controle over AI-agenten. Bij dit initiatief zijn instellingen zoals University College London en Oxford betrokken.
Ondertussen hebben andere marktleiders andere zorgen geuit; een leidinggevende van Anthropic waarschuwde voor de inherente gevaren van open source-modellen, terwijl de financieel directeur van OpenAI waarschuwde voor de cyberbeveiligingskwetsbaarheden die verband houden met Chinese AI. (lv)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
