Google-medewerkers vragen CEO om ‘onmenselijk’ gebruik van militaire AI af te wijzen

Google-medewerkers dringen aan bij CEO om ‘onmenselijk’ gebruik van militaire AI te verwerpen

Meer dan 600 medewerkers van Google hebben het bedrijf opgeroepen om een mogelijke deal met het Pentagon te verwerpen, die het gebruik van hun kunstmatige intelligentie in geheime militaire operaties zou toestaan. Dit werd maandag in een verklaring bekendgemaakt.

“Wij willen dat AI ten goede komt aan de mensheid, en niet op onmenselijke of extreem schadelijke manieren wordt gebruikt,” staat in de open brief gericht aan de CEO van Google, Sundar Pichai. “Dit omvat dodelijke autonome wapens en massale surveillance, maar gaat verder dan dat.”

De brief, ondertekend door medewerkers van Google DeepMind, Cloud en andere afdelingen, komt terwijl de techgigant onderhandelt met het Amerikaanse ministerie van Defensie over het mogelijke gebruik van hun Gemini AI-model in geclassificeerde omgevingen. Meer dan 20 directeuren, senior directeuren en vice-presidenten hebben de brief openbaar ondertekend.

“Geclassificeerde werkbelastingen zijn per definitie ondoorzichtig,” zei een organiserende medewerker, die niet bij naam is genoemd. “Op dit moment is er geen manier om ervoor te zorgen dat onze tools niet worden ingezet om verschrikkelijke schade aan te richten of burgerlijke vrijheden buiten het publieke toezicht te ondermijnen. We hebben het over zaken zoals het profileren van individuen of het richten op onschuldige burgers.”

De brief komt op een moment dat technologiebedrijven onder groeiende druk staan om te verduidelijken hoe hun AI-tools kunnen worden gebruikt door het leger en inlichtingendiensten, na een geschil tussen het Pentagon en de AI-startup Anthropic. Anthropic heeft eerder het ministerie van Defensie aangeklaagd na te zijn bestempeld als een “risico voor de toeleveringsketen,” na hun verzoek dat hun systemen niet zouden worden gebruikt voor massale surveillance of autonome oorlogsvoering.

CEO Dario Amodei van Anthropic zei dat hij “niet met een goed geweten kan ingaan op het verzoek van het Pentagon” voor onbeperkte toegang tot de AI-systemen van het bedrijf. “In een beperkte set gevallen geloven wij dat AI democratische waarden kan ondermijnen, in plaats van ze te verdedigen,” schreef Amodei. “Sommige toepassingen vallen ook simpelweg buiten de grenzen van wat de technologie van vandaag veilig en betrouwbaar kan doen.”

In reactie op de beslissing van Amodei, gaf de Amerikaanse president Donald Trump opdracht aan overheidsinstanties om het gebruik van de Claude-chatbot te stoppen. Volgens de organisatoren van de brief heeft Google contractuele taal voorgesteld die zou voorkomen dat Gemini wordt gebruikt voor binnenlandse massale surveillance of autonome wapens zonder de juiste menselijke controle.

Het Pentagon heeft echter aangedrongen op bredere formuleringen zoals “alle wettelijke toepassingen,” en stelt dat dit nodig is om operationele flexibiliteit te behouden. Medewerkers zeggen dat dergelijke waarborgen in de praktijk moeilijk te handhaven zouden zijn, met verwijzing naar bestaande Pentagon-beleid dat externe controle over hun AI-systemen beperkt.

De recente verklaring van het personeel van Google roept herinneringen op aan een eerdere protestactie van medewerkers in 2018, die ertoe leidde dat Google zich terugtrok uit Project Maven, een initiatief van het Pentagon dat AI gebruikte om dronebeelden te analyseren. “Wij geloven dat Google zich niet in de oorlogstechnologie moet begeven,” staat in de brief. “Daarom vragen wij om de annulering van Project Maven en dat Google een duidelijke beleidslijn opstelt, publiceert en handhaaft die stelt dat noch Google, noch haar aannemers ooit oorlogstechnologie zullen ontwikkelen.”