Europese Commissie start onderzoek naar Elon Musk’s X

Europese Commissie opent onderzoek naar Elon Musk’s X

De Europese Commissie zal vandaag een formeel onderzoek starten naar X, nadat er veel kritiek is gekomen op het falen van het platform om de creatie van seksueel expliciete afbeeldingen van echte mensen – waaronder kinderen – te voorkomen.

Volgens een rapport van de Duitse krant Handelsblatt zal de Commissie vandaag een formeel onderzoek instellen naar Grok, de chatbot van X, nadat de functie voor het bewerken van afbeeldingen op grote schaal werd gebruikt om foto’s van echte vrouwen en minderjarige meisjes zonder hun toestemming virtueel uit te kleden.

De zorgen kwamen vorig jaar zomer naar voren nadat het ingebouwde AI-hulpmiddel, Grok, was verbeterd met een betaalde functie genaamd “Spicy Mode”, die gebruikers in staat stelde om expliciete inhoud te genereren. Eerder deze maand, toen de wereldwijde verontwaardiging over deze functie groeide, veroordeelde een woordvoerder van de Commissie deze functionaliteit in de sterkste bewoordingen: “Dit is niet ‘spicy’. Dit is illegaal. Dit is schokkend. Dit is walgelijk. Dit heeft geen plaats in Europa.”

In reactie op de publieke verontwaardiging heeft X uiteindelijk “technologische maatregelen genomen om te voorkomen dat zijn AI-hulpmiddel, Grok, het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikinis toestaat” – met beperkingen die voor alle gebruikers gelden, inclusief betaalde abonnees.

X heeft ook gemeld dat seksuele Grok-bewerkte afbeeldingen van kinderen van het platform zijn verwijderd en dat de betrokken gebruikers zijn verbannen. “We ondernemen actie tegen illegale inhoud op X, waaronder materiaal over seksueel misbruik van kinderen (CSAM), door het te verwijderen, accounts permanent te schorsen en indien nodig samen te werken met lokale overheden en wetshandhaving,” aldus het X Safety-account.

Dit is niet de eerste keer dat Grok onder de loep ligt vanwege vermoedelijke schendingen van de Europese wet. Vorig jaar november genereerde de AI-chatbot ontkenning van de Holocaust. Onderzoeken naar de chatbot van het platform zijn momenteel aan de gang in Frankrijk, het Verenigd Koninkrijk en Duitsland, evenals in Australië. Grok is helemaal verboden in Indonesië en Maleisië.

De Commissie heeft aangegeven dat zij een verzoek om informatie heeft gestuurd onder de EU Digital Services Act (DSA) en dat zij nog steeds de reactie aan het analyseren is. Indien X schuldig wordt bevonden aan schending van de EU-regels voor online platforms onder de Digital Services Act, kan de Commissie het bedrijf een boete opleggen van maximaal 6% van de wereldwijde jaarlijkse omzet.

In december vorig jaar heeft de Europese Commissie Elon Musk’s sociale netwerk een boete van €120 miljoen opgelegd vanwege de verificatiemethodes van accounts en advertentiepraktijken.