Key takeaways
- Anthropic geeft prioriteit aan ethische overwegingen door militaire contracten te weigeren, wat leidt tot boetes van de overheid.
- Deskundigen beklemtonen de noodzaak van menselijk toezicht bij militaire AI-toepassingen door de beperkingen van de technologie.
- Het ethische standpunt van Anthropic vindt weerklank bij consumenten, waardoor het aantal downloads van Claude stijgt, terwijl OpenAI kritiek krijgt door zijn deal met het Pentagon.
Het besluit van Anthropic om ethische overwegingen voorrang te geven boven potentiële militaire contracten heeft een debat op gang gebracht over de geschiktheid van artificiële intelligentie voor oorlogsvoering.
Hoewel de chatbot van Anthropic, Claude, enorm in populariteit is gestegen onder consumenten, heeft het bedrijf boetes opgelegd gekregen van de overheid omdat het het Pentagon niet toestaat zijn technologie te gebruiken voor autonome wapens en binnenlandse surveillance. Het bedrijf is van plan deze sancties aan te vechten voor de rechter.
Menselijk toezicht
Sommige deskundigen, zoals Missy Cummings, een voormalig gevechtspiloot bij de marine, juichen het ethische standpunt van Anthropic toe, maar bekritiseren de AI-industrie omdat deze de mogelijkheden van deze technologieën te veel ophemelt. Zij stellen dat grote taalmodellen foutgevoelig zijn en niet betrouwbaar genoeg voor risicovolle situaties zoals oorlogsvoering.
Cummings beklemtoont de noodzaak van menselijk toezicht bij elke toepassing van AI voor militaire doeleinden. Daarnaast wijst ze op het belang van verificatie en zorgvuldige afweging.
Tegenstrijdige boodschappen
Ze stelt het standpunt van Anthropic tegenover de boodschap van andere AI-bedrijven die suggereren dat hun technologie bijna bewustzijn bereikt. De situatie heeft de mogelijke nadelen aan het licht gebracht van het overhaast invoeren van AI voor militaire toepassingen zonder de risico’s volledig te begrijpen.
Het standpunt van Anthropic heeft ook weerklank gevonden bij consumenten. Dat heeft geleid tot een sterke stijging van het aantal downloads van Claude. Dit gaat ten koste van ChatGPT van OpenAI. Zij hebben onlangs een overeenkomst met het Pentagon aangekondigd om Anthropic te vervangen in geheime omgevingen.
Reactie van OpenAI
Sam Altman, CEO van OpenAI, heeft erkend dat het besluit van het bedrijf overhaast was en dat de communicatie beter had gekund.
Hij zegt dat zorgvuldig moet worden nagedacht over de ethische implicaties van AI. Daarnaast zegt hij dat het belangrijk is om samen te werken met belanghebbenden zoals het Pentagon om passende waarborgen te ontwikkelen.
(jw)(fc)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!