Key takeaways

• Stuart Russell waarschuwt de Europese Unie voor zwakke regelgeving rond AI-ontwikkeling.
• Russell ziet de druk van de industrie om te dereguleren als gevaarlijk en kortzichtig.
• Verplichte externe tests worden gezien als een cruciale stap in het beperken van de risico’s van AI-systemen.

De AI-gemeenschap maakt zich steeds meer zorgen over de huidige regelgeving rond artificiële intelligentie. Stuart Russell, een AI-expert en professor aan de UC Berkeley, is van mening dat het simpelweg pauzeren of afzwakken van de AI-wetgeving binnen de Europese Unie catastrofale gevolgen zou kunnen hebben.

Aan Euroactiv vertelt hij dat de huidige trend naar soepelere regels onder druk van de industrie gevaarlijk en kortzichtig is. Russell wijst erop dat bedrijven weliswaar beweren dat hun systemen veilig zijn, maar dat er geen echte verantwoording wordt afgelegd bij gebrek aan onafhankelijke audits door derden.

De noodzaak van strengere regelgeving

Ondanks zijn steun voor de AI Act, erkent Russell de beperkingen ervan. Hij stelt dat de wetgeving, zelfs in haar sterkste vorm, de potentiële existentiële risico’s van steeds krachtiger wordende AI-systemen niet aanpakt.

Russells mening over de potentiële gevaren van ongecontroleerde AI-ontwikkeling wordt gedeeld door een groeiend aantal experts, waaronder Nobelprijswinnaars.

Waarschuwingen van experts en belangrijke personen

Ondanks waarschuwingen van prominenten zoals de voorzitter van de Europese Commissie, Ursula von der Leyen, blijft concrete actie om deze risico’s te beperken uit. Russell vreest dat er pas zinvolle regelgeving zal komen na een grote ramp, vergelijkbaar met het kernongeluk in Tsjernobyl.

In een open brief pleit hij voor veiligheidsnormen die vergelijkbaar zijn met die voor kerncentrales, maar met nog hogere drempels gezien de ongekende aard van de potentiële impact van AI. Hij erkent ook dat het moeilijk is om absolute veiligheidsgaranties te krijgen vanwege de complexe en vaak ondoorzichtige aard van AI-systemen. Voorlopig hoopt Russell dat de volgende EU-gedragscode verplichte externe tests zal bevatten, wat een cruciale stap zou zijn om de risico’s te beperken.