Met de clash tussen actrice Scarlett Johansson versus OpenAI, dat haar stem wellicht kloonde zonder toestemming, werd duidelijk dat we als maatschappij nog talloze discussies gaan hebben over de ethische grenzen van artificiële intelligentie. Daarbij is een belangrijke vraag of de techreuzen tot een vorm van zelfregulering kunnen komen, dan wel of de overheden regels moeten opleggen.

In het nieuws: Er waren de voorbije dagen drie grote internationale aankondigingen rond de regulering van artificiële intelligentie.

• Als uitkomst van een Brits-Koreaans initiatief engageerden 16 techbedrijven, waaronder Meta, Microsoft, OpenAI, Google en Amazon zich op een AI-top in het Zuid-Koreaanse Seoel tot een soort wereldstandaard voor veilige AI.
• In de EU keurde de Europese raad van ministers de AI Act goed.
• In de VS bracht een groep senatoren, onder leiding van senaatsleider Chuck Schumer, hun roadmap voor AI-innovatie uit.

Ingezoomd: De EU gaat met harde wetten duidelijk het verst in de regulering, al is het nog afwachten hoe die wetten in de praktijk afgedwongen zullen worden. Maar in elk geval krijgen burgers een wettelijke basis als ze zich unfair zouden voelen door AI-algoritmes, bijvoorbeeld door bewust of onbewust ingebouwde vooroordelen.

• “De AI-wet is cruciaal, omdat we te maken hebben met een technologie waarvan de kracht en het bereik ongekend is”, zegt de Europese consumentenorganisatie BEUC in een reactie.
• “Hoewel AI een opwindende technologie is die echte voordelen kan bieden voor het leven van mensen, zijn er duidelijke gevallen waarin de technologie mensen kan schaden. De consumenten moeten erop kunnen vertrouwen dat de autoriteiten ingrijpen als er iets misgaat.”
• En over de concrete toepassing van de nieuwe regelgeving: “Het is nu tijd voor regeringen om het beste uit de nieuwe wet te halen door snel onafhankelijke toezichthouders aan te stellen die de AI-wet gaan handhaven met de middelen die ze nodig hebben.”

Collectieve zelfregulering of harde wetten?

Vergeleken: Het Amerikaanse raamwerk krijgt felle kritiek van lokale activisten, omdat de regels voor Big Tech te vrijbiljvend zouden zijn. Roan Murphy van de denktank Center for European Policy Analysis betreurt dan weer dat er geen transatlantische aanpak is voor zo’n fundamentele nieuwe technologie.

👉 “Beide partijen kunnen van elkaar leren”, schrijft hij. “Afgezien van recente wetgeving die de verkoop of het verbod van de sociale media-app TikTok verplicht stelt, is de VS er in jaren niet in geslaagd om belangrijke technologiewetgeving aan te nemen. De EU vult de leemte op door de toon aan te geven op het vlak van wereldwijde regulering. Maar de VS pompt geld in onderzoek en ontwikkeling van nieuwe technologieën, terwijl de EU achterblijft in productiviteit en concurrentievermogen.”

Opmerkelijk: Moet de overheid AI in het gareel houden, of doen de techreuzen dat beter zelf? Zelfs binnen de EU lopen de meningen uiteen, zo blijkt uit een bevraging in opdracht van IT-bedrijf Salesforce in België, Nederland en Zweden.

• De helft van de Belgen kijkt naar de overheid voor strengere regels en bescherming rond AI, zo blijkt uit de enquête, tegenover maar 23 procent bij de Zweden.
• Zes op de tien Nederlanders vinden dat het beschermen van data vooral een taak is voor bedrijven die een AI-product verkopen.

Nieuw: de AI Compliance Officer

Ontluikend: Het nieuwe Europese regelgevende kader leidt tot adviseurs en bedrijven die zich daarin gaan specialiseren. Een ervan is het Belgische Reliance, een start-up van drie consultants die onderdeel is van de Cronos Groep.

• “Bedrijven focussen vandaag op technische kant van AI, maar het regelgevende kader wordt steeds belangrijker”, zegt Reliance. “Met de Europese AI Act is nu een eerste stap gezet om af te bakenen welk soort AI-toepassingen wel en niet kunnen. Maar zelfs dan blijft het voor bedrijven onbekend terrein: er is nog geen eigen beleid rond AI, de risico’s zijn nauwelijks in kaart gebracht en men is zich niet voldoende bewust dat er een heleboel regels zijn.”
• Reliance wil vooral toespitsen op sectoren waar het toezicht door een mens cruciaal zal blijven, zoals overheidsdiensten, de zorgsector en human resources. “Als AI-toepassingen onrechtvaardige of inaccurate uitkomsten hebben, kan dat verstrekkende gevolgen hebben voor ons allemaal”, klinkt het.
• De start-up werkt ook mee aan de eerste opleiding tot AI Compliance Officer aan de Hogeschool PXL, wellicht een Europese primeur. Francis Vos, departementshoofd PXL-Business: “Het zal aan de AI Compliance Officer zijn om er nauw op toe te zien dat hun bedrijf AI op een verantwoorde manier gebruikt, en correct omgaat met de juridische, ethische en organisatorische uitdagingen.”