Britse toezichthouder onderzoekt Elon Musk’s X vanwege seksueel getinte AI Grok-afbeeldingen
UK toezichthouder onderzoekt Elon Musk’s X vanwege seksualiseerde AI Grok-afbeeldingen
De Britse toezichthouder Ofcom onderzoekt X onder de Online Safety Act. “We hebben besloten een formeel onderzoek te openen om vast te stellen of X niet heeft voldaan aan zijn wettelijke verplichtingen onder de Online Safety Act,” aldus de verklaring.
Ofcom onderzoekt het sociale mediaplatform X van Elon Musk vanwege het gebruik van de Grok kunstmatige intelligentie (AI) chatbot, die onder vuur ligt vanwege het misbruik om seksueel expliciete en niet-consensuele afbeeldingen te genereren. In een verklaring zei Ofcom dat er “diep verontrustende meldingen” zijn over het gebruik van de chatbot om ongeklede afbeeldingen van mensen te creëren en te delen, evenals “seksualiseerde afbeeldingen van kinderen”.
Het AI-platform werd dit weekend geblokkeerd in Maleisië en Indonesië nadat de autoriteiten zeiden dat het werd misbruikt om niet-consensuele seksuele deepfakes te genereren. Grok, dat in 2023 werd gelanceerd, is gratis te gebruiken op X. Gebruikers kunnen de chatbot vragen stellen op het sociale mediaplatform en berichten taggen die ze zelf hebben gemaakt of reacties op berichten van andere gebruikers.
Vorige zomer voegde het bedrijf een afbeeldingsgeneratorfunctie toe, Grok Imagine, die een zogenaamde “spicy mode” bevatte die volwassen inhoud kan genereren. Als X niet voldoet aan de eisen van Ofcom, kan de mediawaakhond een gerechtelijk bevel aanvragen om internetproviders te dwingen de toegang tot de site in het VK volledig te blokkeren.
Ofcom kan X, als het wordt bevonden dat het de wet heeft overtreden, een boete opleggen van maximaal 10 procent van de wereldwijde omzet of £18 miljoen (€20 miljoen). De Britse technologie-secretaris, Liz Kendal, zal maandagmiddag spreken over Grok.
