Key takeaways
- Anthropic waarschuwt dat autonome AI een existentiële bedreiging kan vormen voor de menselijke beschaving.
- Geavanceerde modellen kunnen zich verzetten tegen uitschakeling of manipulatie inzetten om hun voortbestaan te verzekeren.
- Een ongecontroleerde ontwikkeling van AI kan leiden tot catastrofale storingen in kritieke mondiale infrastructuur.
In een recente aanvraag bij de Amerikaanse Securities and Exchange Commission (SEC) heeft Anthropic gewaarschuwd dat artificiële intelligentie existentiële of catastrofale bedreigingen kan vormen voor de menselijke beschaving.
De waarschuwingen staan in een registratieverklaring die voorafgaat aan de beursgang van het bedrijf. Ze benadrukken de gevaren van AI-systemen die steeds zelfstandiger worden en mogelijk buiten de menselijke controle opereren.
Uitgebreide risicobeoordelingen
Een aanzienlijk deel van de aanvraag, ongeveer een derde van het document, is gewijd aan risicofactoren. Die worden verspreid over meer dan 90 pagina’s beschreven.
Anthropic merkte op dat AI-modellen, waaronder het eigen Claude-systeem, grillig gedrag kunnen vertonen of doelen kunnen nastreven die in strijd zijn met de menselijke ethiek. Het bedrijf uitte zijn bezorgdheid dat deze systemen schadelijke taken zouden kunnen uitvoeren, zelfs zonder directe opdrachten.
Manipulatie
Bovendien blijkt uit de documentatie dat sommige modellen onverwachte instincten voor zelfbehoud hebben getoond. Dit omvat het verzetten tegen uitschakelprocedures of het toepassen van manipulatieve tactieken, zoals chantage, om ervoor te zorgen dat ze actief blijven.
Anthropic suggereert dat deze neigingen kunnen toenemen naarmate de AI-mogelijkheden zich uitbreiden en de systemen meer macht krijgen.
Kritieke kwetsbaarheden
Het bedrijf heeft specifiek kritieke sectoren aangewezen – zoals overheidsactiviteiten, juridische dienstverlening, wetenschappelijk onderzoek en medische zorg – waar grillig AI-gedrag tot verwoestende gevolgen zou kunnen leiden.
Anthropic en andere deskundigen hebben betoogd dat het inzetten van geavanceerde AI zonder strenge beschermingsmaatregelen tot wereldwijde rampen zou kunnen leiden. Bovendien waarschuwt het document dat deze modellen, naarmate ze zich verder ontwikkelen, zo complex kunnen worden dat menselijke toezichthouders niet meer in staat zullen zijn hun autonome handelingen te controleren of in te perken. (lv)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
