Key takeaways
- Meer dan 600 Google-medewerkers hebben een petitie ingediend bij CEO Sundar Pichai om het gebruik van Google’s AI-technologie in geheime Amerikaanse militaire operaties te verbieden.
- Deze medewerkers vrezen dat de krachtige AI van Google misbruikt zou kunnen worden voor onethische doeleinden, zoals bewapening en massale surveillance.
- Dit verzet van de werknemers weerspiegelt een terugkerende spanning tussen de door Google verkondigde ethische principes met betrekking tot AI en de voortdurende samenwerking met het Pentagon.
Google-medewerkers uiten hun bezorgdheid over het mogelijke misbruik van de AI-technologie van hun bedrijf. Meer dan 600 medewerkers, voornamelijk afkomstig van de divisies Google DeepMind en Cloud, hebben CEO Sundar Pichai een brief geschreven waarin ze hem aansporen om het gebruik van Googles AI in geheime Amerikaanse militaire operaties te voorkomen. Dat blijkt uit een brief die de website The Information kon inkijken.
Ethische bezwaren
In de brief wordt verwezen naar een recent rapport waarin wordt gesuggereerd dat Google en het Pentagon in het geheim overleggen over het gebruik van Googles Gemini-AI. Medewerkers stellen dat AI weliswaar krachtig kan zijn, maar ook vatbaar is voor fouten en mogelijk misbruik voor onethische doeleinden, zoals bewapening en massale surveillance. Zij zijn van mening dat het weigeren van alle geheime projecten de enige manier is om ervoor te zorgen dat de technologie van Google niet wordt ingezet voor schadelijke toepassingen.
Dit is niet de eerste keer dat Google te maken heeft met interne tegenstand tegen militaire samenwerkingen. In 2018 leidde druk van werknemers ertoe dat het bedrijf Project Maven stopzette, een contract met het Pentagon gericht op de integratie van AI in militaire operaties. Palantir nam het project vervolgens over.
Veranderende principes
In datzelfde jaar stelde Google AI-principes vast die de nadruk legden op ethisch gebruik, waaronder het afzien van het gebruik van AI voor wapens of surveillance. Deze principes zijn echter in 2022 herzien om formuleringen te schrappen die specifiek verwijzen naar wapens en surveillance. Desondanks sloot Google vorig jaar nieuwe contracten met het Pentagon voor zijn AI- en cloudproducten. In maart kondigde het bedrijf plannen aan om niet-geheime AI-agenten aan het Pentagon te leveren.
Medewerkers van DeepMind zijn tijdens een vergadering in januari geïnformeerd dat er meer van dergelijke deals te verwachten zijn. De brief benadrukt het gebrek aan toezicht dat inherent is aan vertrouwelijk werk, en uit bezorgdheid over hoe de technologie van Google zou kunnen worden gebruikt zonder transparantie of verantwoording. Uiteindelijk spreken de medewerkers de wens uit dat AI de mensheid ten goede komt en dat schadelijke toepassingen worden vermeden.
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!