X verbiedt seksueel expliciete Grok-deepfakes – Is de strijd met de EU voorbij?
Europa
X verbiedt seksueel expliciete Grok deepfakes – maar is de strijd met de EU voorbij?
Elon Musk’s bedrijf heeft aangekondigd stappen te ondernemen om te voorkomen dat zijn AI-chatbot naaktbeelden van echte mensen genereert, maar de Europese Commissie is nog niet gerustgesteld.
Te midden van toenemende druk in Europa en daarbuiten heeft Musk’s socialemediaplatform aangekondigd dat het “technologische maatregelen implementeert om te voorkomen dat zijn AI-tool, Grok, het bewerken van beelden van echte mensen in onthullende kleding zoals bikini’s mogelijk maakt”. Deze beperking zal voor alle gebruikers gelden, inclusief betalende abonnees.
De afbeeldingsbewerkingsfunctie van Grok was door sommige gebruikers gebruikt om foto’s van echte vrouwen en minderjarigen virtueel uit te kleden. Deze situatie, die door de Europese Commissie als “afschuwelijk” en “walgelijk” werd omschreven, leidde ertoe dat de EU-executieve een verzoek om informatie en een documentbewaarorder aan X heeft gestuurd.
In een verklaring via een van haar woordvoerders heeft de Europese Commissie aangegeven dat zij kennis heeft genomen van de veranderingen in de functionaliteit van Grok, maar waarschuwde dat zij waakzaam zal blijven. “We zullen deze veranderingen zorgvuldig beoordelen om ervoor te zorgen dat ze de burgers in de EU effectief beschermen,” aldus de woordvoerder, die toevoegde: “Als deze veranderingen niet effectief blijken te zijn, zal de Commissie niet aarzelen om het volledige handhavingsinstrumentarium van de Digital Services Act in te zetten.”
Als X schuldig wordt bevonden aan het overtreden van de EU-regels voor online platforms onder de Digital Services Act, kan de Commissie een boete opleggen tot 6% van de wereldwijde jaarlijkse omzet. Vorige maand heeft de Europese Commissie Musk’s sociale netwerk al een boete van €120 miljoen opgelegd vanwege de verificatietiketten en advertentiepraktijken.
Momenteel lopen er onderzoeken naar de platformchatbot in Frankrijk, het Verenigd Koninkrijk en Duitsland, evenals in Australië. Grok is in zijn geheel verboden in Indonesië en Maleisië.
