Britse gegevensautoriteit start onderzoek naar Elon Musk’s X en XAI wegens seksuele AI-deepfakes
Onderzoek naar Elon Musk’s X en XAI over seksuele AI-deepfakes
De Britse gegevensregulator heeft op dinsdag een onderzoek geopend naar X en xAI om te bepalen of de bedrijven van Elon Musk zich aan de wetgeving omtrent persoonsgegevens hebben gehouden, met betrekking tot de generatie van seksuele deepfakes door de AI-chatbot Grok. Dit markeert een breder onderzoek in het VK naar Grok, dat internationale kritiek ondervindt omdat het gebruikers in staat stelt om seksuele afbeeldingen van vrouwen en kinderen te creëren en te delen met eenvoudige tekstcommando’s.
“De berichten over Grok roepen zeer zorgwekkende vragen op over hoe de persoonlijke gegevens van mensen zijn gebruikt om intieme of seksuele beelden te genereren zonder hun kennis of toestemming, en of de noodzakelijke waarborgen zijn getroffen om dit te voorkomen,” aldus William Malcolm, uitvoerend directeur van risico en innovatie bij het Information Commissioner’s Office, in een verklaring. “Het verliezen van controle over persoonlijke gegevens op deze manier kan onmiddellijke en aanzienlijke schade veroorzaken. Dit is vooral het geval wanneer kinderen betrokken zijn.”
Vorige maand opende de onafhankelijke online veiligheidsautoriteit van het VK, Ofcom, een formeel onderzoek naar X om te bepalen of het zich aan de verplichtingen heeft gehouden om mensen te beschermen tegen illegale inhoud. De chatbot, toegankelijk via Musk’s sociale mediaplatform X, kreeg vorige maand kritiek omdat het gebruikers toestond om seksuele deepfakes van vooral vrouwen en minderjarigen te genereren.
Overheden wereldwijd hebben het platform veroordeeld en onderzoeken geopend. Vorige week opende de Europese Commissie een onderzoek naar het sociale mediaplatform om te bekijken of het voldoende heeft gedaan om het risico van het creëren en verspreiden van deze beelden te beperken.
