Goedkope online nepprofielen creëren een bloeiende ondergrondse markt voor desinformatie, blijkt uit onderzoek
Nieuwe studie onthult bloeiende ondergrondse markt voor nep sociale media-accounts
Een nieuwe index van de Universiteit van Cambridge onthult een bloeiende ondergrondse markt waar nep-verificaties voor sociale media-accounts al te koop zijn voor slechts 8 cent. Dit bevordert online manipulatie en beïnvloeding van verkiezingen wereldwijd.
Onderzoekers hebben in kaart gebracht hoeveel het kost om nep online accounts op te zetten in elk land ter wereld, terwijl regeringen en regelgevers worstelen met online desinformatie en fraude. De Universiteit van Cambridge heeft op donderdag de Cambridge Online Trust and Safety Index (COTSI) gelanceerd, een website die naar eigen zeggen de eerste wereldwijde tool is om real-time prijzen voor het verifiëren van nep-accounts op meer dan 500 platforms bij te houden, waaronder TikTok, Instagram, Amazon, Spotify en Uber.
Deze accounts worden vaak gebruikt om “bot-leger” te creëren, die zijn ontworpen om echte mensen na te bootsen en de online publieke discussie te beïnvloeden. De auteurs van de studie zeggen dat ze kunnen worden ingezet om online gesprekken te overspoelen, oplichting of producten te promoten, of politieke boodschappen op een gecoördineerde manier te pushen.
De studie komt op een kritiek moment voor het vertrouwen in online platforms, aangezien grote sociale media platforms hun inhoudsmoderatie-inspanningen hebben verminderd en zijn begonnen met het betalen van gebruikers voor betrokkenheid, wat mogelijk leidt tot een grotere afhankelijkheid van nep-interacties.
Eerder deze week heeft het Verenigd Koninkrijk Russische en Chinese bedrijven gesanctioneerd die verdacht worden van ‘kwaadaardige activiteiten’ in informatieoorlogen.
De studie ontdekte ook dat de opkomst van generatieve kunstmatige intelligentie (genAI) het probleem verergerd heeft. “We vinden een bloeiende ondergrondse markt waar onauthentieke inhoud, kunstmatige populariteit en politieke beïnvloedingscampagnes vrij en open te koop zijn,” schreef Jon Roozenbeek, een senior auteur van de studie en een computationeel sociaal psycholoog aan de Universiteit van Cambridge, in een verklaring. “Dit kan gedaan worden door online grassroots-steun te simuleren of controverse te genereren om klikken te oogsten en de algoritmes te manipuleren,” voegde hij eraan toe.
Verkopers die duizenden SIM-kaarten en miljoenen kant-en-klare verificaties beheren, kunnen nep-accounts genereren voor slechts enkele centen. Uit gegevens die onderzoekers een jaar lang volgden, blijkt dat verificatie het goedkoopst is in het Verenigd Koninkrijk, de Verenigde Staten en Rusland, en aanzienlijk hoger in Japan en Australië, waar strengere SIM-regels de kosten verhogen.
Volgens de analyse kost SMS-verificatie voor een enkel nep-account gemiddeld $0,08 (€0,06) in Rusland, $0,10 (€0,086) in het VK en $0,26 (€0,22) in de VS, vergeleken met $4,93 (€4,25) in Japan.
Platforms met de laagste wereldwijde prijzen voor nep-accounts zijn onder andere Meta, Shopify, X, Instagram, TikTok, LinkedIn en Amazon. Sommige verkopers bieden klantenservice, bulkdeals en diensten aan om likes, reacties en volgers te verhogen, volgens de studie.
“Generatieve AI betekent dat bots nu berichten kunnen aanpassen om menselijker over te komen en zelfs te koppelen aan andere accounts. Bot-leger worden overtuigender en moeilijker te herkennen,” zei Roozenbeek.
De studie merkte ook sterke connecties op met Russische en Chinese betaalsystemen en merkte op dat de grammatica op veel leverancierswebsites suggereert dat ze van Russische oorsprong zijn.
Verhoogde prijzen rond verkiezingen
De studie vond ook bewijs dat politieke beïnvloedingscampagnes mogelijk stijgingen in de nep-accountmarkt aandrijven, met een toenemende vraag naar “invloedoperaties”. “Desinformatie is onderwerp van onenigheid over het politieke spectrum. Wat de aard van onauthentieke online activiteit ook is, veel ervan wordt via deze manipulatiemarkt gefunnelled, dus we kunnen eenvoudig het geld volgen,” zei Anton Dek, een onderzoeksassistent aan het Cambridge Centre for Alternative Finance.
De prijzen voor nep-accounts op Telegram en WhatsApp stegen scherp in landen die nationale verkiezingen zouden houden, met een stijging van respectievelijk 12 procent en 15 procent in de 30 dagen voordat de stembureaus opengingen. Aangezien deze berichten-apps telefoonnummers tonen, moeten invloedoperators accounts lokaal registreren, wat de vraag verhoogt.
Er werd geen vergelijkbare trend gevonden voor platforms zoals Facebook of Instagram, waar nep-accounts die goedkoop in één land zijn aangemaakt, kunnen worden gebruikt om doelgroepen elders te bereiken.
Het team achter de studie, dat bestaat uit experts op het gebied van desinformatie en cryptocurrency, gelooft dat het reguleren van SIM-kaarten en het handhaven van ID-controles de kosten voor het produceren van nep-accounts zou verhogen en de markt zou helpen inperken.
Ze zeggen dat de nieuwe tool ook kan worden gebruikt om beleidsinterventies in landen over de hele wereld te testen. “De COTSI-index werpt een licht op de schaduw economie van online manipulatie door een verborgen markt om te zetten in meetbare data,” zei Sander van der Linden, coauteur van de studie en professor sociale psychologie aan de Universiteit van Cambridge. “Het begrijpen van de kosten van online manipulatie is de eerste stap naar het ontmantelen van het bedrijfsmodel achter desinformatie.”
Vroeger dit jaar werd het VK het eerste land in Europa dat SIM-farms verbood, en het Cambridge-team zegt dat COTSI nu zal helpen om de impact van dat beleid te meten.
