Duidelijke verbinding tussen social media berichten en geweld tijdens rellen in Southport, ontdekking van Britse toezichthouder

UK-regulator Ofcom heeft een duidelijke verbinding gevonden tussen online social media berichten en verhoogd geweld op straat tijdens de rellen deze zomer.

Een beoordeling van de Britse communicatie-regulator heeft geconcludeerd dat er een “duidelijke verbinding” was tussen online social media berichten en geweld op straat tijdens de rellen in Southport deze zomer. Melanie Dawes, de chief executive van Ofcom, schreef in een open brief dat verkeerde informatie “bijna onmiddellijk” werd verspreid na de moord op drie kinderen in een steekincident bij een dansstudio in Southport, VK, op 29 juli.

De inhoud verspreidde zich ondanks een “ongelijke reactie” van sommige bedrijven om de verspreiding van haatdragende inhoud op hun platforms te beperken, vervolgde Dawes. “Berichten over het Southport-incident en de daaropvolgende gebeurtenissen van invloedrijke accounts bereikten miljoenen gebruikers, wat de rol aantoont die viraliteit en algoritmische aanbevelingen kunnen spelen in het aansteken van verdeeldheid in crisisperiodes,” aldus de brief.

Accounts en groepen verspreiden informatie om geweld uit te lokken

Sommige accounts plaatsten en verspreidden informatie die suggereerde dat de aanvaller een Islamitische asielzoeker was, en deelden beweringen over zijn politieke opvattingen. Axel Rudakubana, geboren in het VK uit Rwandese ouders, werd aangeklaagd in verband met het steekincident. Valse informatie over Rudakubana’s identiteit verspreidde zich, zelfs toen er bewijs was dat de berichten werden gemaakt om “raciale en religieuze haat op te stoken”.

Anderen gebruikten groepen om gewelddadige plannen tegen een lokale moskee te verspreiden binnen enkele uren na de herdenkingen voor de slachtoffers. “Sommige van deze groepen verspreidden materiaal dat raciale en religieuze haat aanmoedigde, en geweld en schade aan mensen en eigendommen provokeerde, inclusief het identificeren van potentiële doelen voor schade of brandstichting,” vervolgde de brief.

Tijdens de rellen hadden platforms te maken met “hoge volumes” van desinformatieberichten, “met in sommige gevallen tienduizenden berichten,” zegt de Ofcom-brief.

Nieuwe bevoegdheden voor de Britse regulator komen eraan

Een week na het steekincident herinnerde Ofcom technologiebedrijven in een open brief eraan dat hun platforms kunnen worden gebruikt om haat op te stoken en geweld te provoceren. De verklaring van de regulator wees er ook op dat sociale mediabedrijven nieuwe veiligheidsvereisten zouden hebben onder de nieuwe Online Safety Act van het VK – maar dat bedrijven niet hoefden te wachten tot de definitieve gedragsregels van de wet werden gepubliceerd om online platforms veilig te maken.

De wet vraagt technologiebedrijven expliciet bekend te maken hoe zij gebruikers beschermen tegen illegale, schadelijke inhoud en om robuuste processen te hebben om deze snel te verwijderen. “Ik ben ervan overtuigd dat, als de conceptcodes op dat moment van kracht waren geweest, ze een stevige basis zouden hebben geboden voor urgente betrokkenheid bij diensten over de stappen die zij ondernamen om Britse gebruikers tegen schade te beschermen,” staat in de brief.

De bevindingen van de rellen in Southport zullen worden gebruikt om hiaten in de huidige regelgeving te identificeren, vervolgde de brief, zoals de noodzaak om meer informatie te vragen over de crisisresponsprotocollen van elk platform.