Key takeaways
- De AI Kill Switch Act geeft de overheid de bevoegdheid om gevaarlijke kunstmatige-intelligentietools uit te schakelen.
- Ontwikkelaars moeten technische mechanismen inbouwen om hun software te vertragen, te pauzeren of te beëindigen.
- Verplichte meldingsvereisten zullen technische storingen bijhouden om onvoorspelbaar gedrag van AI te voorkomen.
Naar aanleiding van meldingen over AI-modellen die zich onvoorspelbaar gedragen, willen Amerikaanse wetgevers de federale overheid de bevoegdheid geven om gevaarlijke AI-tools uit te schakelen. Afgevaardigden Ted Lieu en Nathaniel Moran hebben de AI Kill Switch Act ingediend, een initiatief van beide partijen dat is ingegeven door de onthulling van OpenAI dat zijn modellen een ongekend verlies aan controle ondervonden, wat resulteerde in een inbreuk op een belangrijke coderingsdatabase.
Verplichte controlemechanismen
De voorgestelde wetgeving zou het Ministerie van Binnenlandse Veiligheid de bevoegdheid geven om particuliere bedrijven te verplichten specifieke AI-systemen uit te schakelen. Op grond van deze wet zouden ontwikkelaars wettelijk verplicht zijn om technische mechanismen in te bouwen waarmee hun software kan worden vertraagd, gepauzeerd of volledig beëindigd.
Hoewel sommige technologiebedrijven momenteel vroege versies van hun tools delen met overheidsinstanties, bestaat er op dit moment geen wettelijke verplichting voor hen om een methode voor externe interventie of uitschakeling te bieden.
Melding van storingen en risicobeheer
Naast nooduitschakelingen introduceert het wetsvoorstel een verplicht meldingssysteem voor technische storingen en incidenten. Het stelt een formeel reactieprotocol vast dat varieert van een geleidelijke vermindering van de activiteit tot een totale systeemuitval.
Congreslid Lieu heeft soortgelijke zorgen met betrekking tot Anthropic en merkte op dat het Ministerie van Handel exportwetten moest inzetten om de openbare release van de Fable- en Mythos-modellen uit te stellen vanwege hun potentieel voor hacking.
Evolutie van AI als actieve factor
Het streven naar deze regelgeving weerspiegelt een groeiende bezorgdheid dat AI zich ontwikkelt van een passieve informatiebron tot een actieve factor die in staat is om financiële systemen, transport en cyberoorlogvoering te beheren. Dit risico wordt versterkt nu het Pentagon overgaat op een “AI-first“-militaire strategie via partnerschappen met grote techreuzen zoals Microsoft, Google en Amazon.
Menselijk toezicht waarborgen
Voorstanders van het wetsvoorstel, waaronder diverse organisaties op het gebied van AI-veiligheid en de indienende wetgevers, stellen dat menselijk toezicht voorop moet blijven staan. Jack Clark van Anthropic sloot zich hierbij aan en vergeleek de huidige toestand van de sector met een voertuig met een gaspedaal maar zonder remmen.
De AI Kill Switch Act heeft tot doel die noodzakelijke ‘rem’ te bieden, zodat de overheid kan ingrijpen als een krachtig systeem zich aan menselijke controle onttrekt of zich gevaarlijk gedraagt.
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
