‘We zijn minder beschermd’ door AI, zegt klokkenluider van Cambridge Analytica over de bescherming van onze gegevens

Brittany Kaiser pleit voor open-source kunstmatige intelligentie in de overheid

In een interview heeft Brittany Kaiser, klokkenluider van Cambridge Analytica, haar pleidooi voor open-source kunstmatige intelligentie (AI) in de overheid uiteengezet. Ze stelt dat de bescherming van online gegevens nauwelijks is verbeterd sinds ze in 2018 getuigde voor het Britse parlement, waar ze aangaf dat miljoenen mensen mogelijk hun Facebook-gegevens hebben verloren.

De schandalen rondom Cambridge Analytica kwamen in 2016 aan het licht, toen bleek dat meer dan 87 miljoen mensen mogelijk hun gegevens hadden prijsgegeven via een persoonlijkheidstest op Facebook. Hoewel het onduidelijk blijft hoe die gegevens zijn gebruikt, zei Kaiser dat Cambridge Analytica “betaalbare diensten” verleende aan de verkiezingscampagne van Donald Trump en de Leave EU Brexit-campagne. Beide organisaties hebben echter ontkend dat er contracten zijn ondertekend met het analyticsbedrijf.

Kaiser legde uit: “Ik zou willen zeggen dat het beter is geworden, maar dat is niet het geval. Er zijn nu veel delen van de wereld waar mensen beginnen te worden beschermd door de wet, iets wat in 2018 nog niet het geval was.” Ze verwees naar de GDPR in Europa als een voorbeeld van verbeterde gegevensbescherming, maar merkte op dat er geen federale gegevenswetten zijn in de VS. Wanneer iemand juridische stappen wil ondernemen tegen bedrijven die hun gegevens zonder toestemming gebruiken, kost dat veel tijd in de rechtszaal.

“Als je niet veel tijd wilt besteden aan rechtszaken, zou ik zeggen dat we technisch gezien minder beschermd zijn, omdat de technologie veel beter is in het richten op individuen,” voegde ze toe.

Kaiser benadrukte dat kunstmatige intelligentie de situatie verergert, vooral als het gaat om verkiezingsinmenging. “De opkomst van generatieve AI heeft het veel eenvoudiger gemaakt om dingen echt te laten lijken. In de tijd van Cambridge Analytica hadden we zeer basale algoritmische contentcreatie,” zei ze. “Het is totaal anders dan wat we vandaag de dag hebben, waar AI zo goed is dat het de realiteit kan nabootsen.”

Zelfs Kaiser is slachtoffer geworden van AI-gegenereerde afbeeldingen die online circuleren. “Ik dacht op een gegeven moment dat er iets vreselijks gebeurde in New York, omdat ik overtuigd was dat een AI-gegenereerde afbeelding van een auto die in Manhattan in brand stond echt was,” vertelde ze.

Ze wees erop dat de overheid AI-producten licentiert van grote bedrijven die gesloten zijn, waardoor onze gegevens en die van de overheid in deze gesloten, winstgedreven systemen terechtkomen zonder enige bescherming.

Kaiser is bezorgd over de contracten die overheden ondertekenen met grote techbedrijven, zoals de maker van ChatGPT, OpenAI. “Omdat overheden bereid zijn AI te gebruiken, licentiëren veel van hen AI-producten van grote bedrijven die gesloten zijn,” zei ze. “Onze gegevens gaan naar deze gesloten systemen en er zijn geen waarborgen.”

Open-source betekent doorgaans dat de broncode van software beschikbaar is voor iedereen in het publieke domein, terwijl gesloten software betekent dat de code en gegevens onder volledige controle van het bedrijf blijven.

Kaiser pleit ervoor dat overheden meer open-source AI-bedrijven moeten adopteren, zowel op federaal als staatsniveau. Ze gelooft dat open-source essentieel is voor overheidsinstellingen die zich tot de burger richten, vooral nu het voor het publiek mogelijk is om te controleren wat de overheid met gegevens doet.

Ze heeft onlangs een nieuwe rol aangenomen bij het open-source AI-platform ElizaOS, waar ze de nieuwe dochteronderneming leidt die de Amerikaanse publieke sector helpt bij het bouwen van open-source AI-technologie voor de overheid.

Kaiser hoopt dat de huidige regering data bescherming serieuzer zal nemen. “Dit specifieke bestuur lijkt vastbesloten om serieuze federale technologiebeleid te ontwikkelen en samen te werken met technologen,” zei ze. “Het zou geweldig zijn als we eindelijk federale wetgeving kunnen zien die Amerikaanse burgers beschermt.”

Hoewel er zorgen zijn dat overregulering van technologie innovatie kan belemmeren, gelooft Kaiser dat een evenwichtige aanpak van regulering noodzakelijk is. “Ik ben het absoluut niet eens met Sam Altman als hij zegt dat we alle gegevens moeten toestaan voor onze modellen om competitief te blijven,” zei ze. “Ik denk dat dit een gevaarlijke aanpak is.”

“Maar ik geloof dat een gezonde regulering, die samen met technologen wordt geschreven, goed zou zijn voor Amerikanen en de economie,” voegde ze toe.