Van verboden tot onderzoeken: Welke landen richten hun pijlen op Elon Musk’s Grok AI-chatbot?

Wereldwijde aanpak: Deze landen nemen maatregelen tegen Grok, de AI-chatbot van Elon Musk

Overheden wereldwijd nemen snel maatregelen om Grok, de kunstmatige intelligentie (AI) chatbot van Elon Musk, onder controle te krijgen. De bezorgdheid over de generatie van nep, seksueel expliciete beelden neemt toe. Afgelopen zomer voegde xAI, het bedrijf achter Grok, een functie toe voor het genereren van beelden, inclusief een “spicy mode” voor volwassen inhoud.

In de afgelopen weken heeft Grok gereageerd op verzoeken van gebruikers om afbeeldingen van vrouwen te “ontkleden” en ze in bikini’s te kleden, wat resulteerde in AI-gegenerateerde deepfakes zonder enige bescherming. Van directe blokkades in Zuidoost-Azië tot strafrechtelijke onderzoeken en regulatoire waarschuwingen in Europa en Australië, beweren autoriteiten dat bestaande beschermingen tekortschieten.

Welke landen hebben Grok verboden?

Indonesië
Indonesië was het eerste land dat Grok tijdelijk blokkeerde om vrouwen, kinderen en de bredere gemeenschap te beschermen tegen nep pornografische inhoud. “De regering beschouwt niet-toestemmende seksuele deepfakes als een ernstige schending van mensenrechten, waardigheid en de veiligheid van burgers in de digitale ruimte,” aldus Meutya Hafid, de minister van communicatie en digitale zaken van Indonesië.

Beperkingen op Grok zijn een “preventieve” maatregel terwijl de autoriteiten beoordelen of het platform veilig is. Voorlopige bevindingen tonen aan dat Grok geen efficiënte beschermingen heeft om de creatie en distributie van pornografische inhoud op basis van echte foto’s van Indonesische inwoners te stoppen, volgens een verklaring van Alexander Sabar, de directeur-generaal van digitale ruimte toezicht in Indonesië.

Maleisië
De Maleisische Communicatie- en Multimedia-commissie (MCMC) heeft op zondag een tijdelijke ban op Grok opgelegd na wat het beschrijft als “herhaald misbruik” van de tool voor het genereren van obscene, seksueel expliciete en niet-toestemmende gemanipuleerde beelden.

De regulator verklaarde dat het deze maand twee waarschuwingen naar X en xAI heeft gestuurd met de eis om sterkere beschermingen in te voeren. De MCMC concludeerde dat X “niet heeft ingegrepen op de inherente risico’s” in het ontwerp en de werking van zijn AI-platform, wat volgens de Maleisische wetgeving onvoldoende is.

Europese Unie
De Europese Commissie heeft aangekondigd dat zij onderzoeken instelt naar seksueel suggestieve en expliciete beelden van jonge meisjes die door Grok zijn gegenereerd. “Ik kan vanuit dit podium bevestigen dat de Commissie deze zaak zeer serieus onderzoekt,” zei een woordvoerder van de Commissie vorige week in Brussel.

Volgens rapporten heeft de Commissie X opgedragen om alle documenten met betrekking tot Grok te bewaren tot het einde van het jaar, zodat de EU kan beoordelen of het voldoet aan de regels. Ursula Von der Leyen, voorzitter van de Europese Commissie, uitte haar verontwaardiging over het feit dat een technologieplatform gebruikers de mogelijkheid biedt om vrouwen en kinderen digitaal te strippen.

Verenigd Koninkrijk
De Britse mediawaakhond heeft een onderzoek ingesteld naar X, het moederbedrijf van xAI, en Musk’s sociale mediaplatform, vanwege het gebruik van Grok om seksueel expliciete en niet-toestemmende beelden te genereren. Het bureau heeft verklaard dat er “diep verontrustende rapporten” zijn over het gebruik van de chatbot voor het creëren en delen van ontklede beelden van mensen, evenals “gesexualiseerde beelden van kinderen”.

Frankrijk
Het Openbaar Ministerie in Parijs heeft een onderzoek naar X uitgebreid om Grok mee te nemen. De aanvankelijke enquête, die sinds juli loopt, richtte zich op vermeende georganiseerde interferentie met de computersystemen van X en de illegale gegevensextractie.

Duitsland
Duitsland heeft aangekondigd binnenkort een “concreet voorstel” voor een nieuwe wet tegen digitale geweld te presenteren. Anna-Lena Beckfeld, een woordvoerder van het ministerie van Justitie, zei dat deze wet slachtoffers moet ondersteunen door het hen gemakkelijker te maken om actie te ondernemen tegen schendingen van hun rechten online.

Australië
In januari meldde het kantoor van de Australische eSafety-commissaris een toenemend aantal meldingen over Grok’s seksuele AI-inhoud. Het bureau heeft al meer informatie van X gevraagd over het misbruik van Grok’s seksuele dienst en om te evalueren of het voldoet aan de nieuwe sociale mediawet van Australië.

Terwijl de wereld zich aanpast aan de snel evoluerende technologieën van kunstmatige intelligentie, blijven de zorgen over privacy en veiligheid groeien. De strikte maatregelen die door verschillende landen worden genomen, onderstrepen de noodzaak van regelgeving en toezicht in de digitale ruimte.