Australië neemt maatregelen tegen ‘nudify’ en stalker-apps
Australië kondigt plannen aan om apps voor stalking en het creëren van deepfake-naaktfoto’s te verbannen
Australië heeft plannen aangekondigd om apps te verbannen die worden gebruikt voor stalking en het maken van deepfake-naaktfoto’s. Tech-platforms zullen verantwoordelijk zijn voor het voorkomen van toegang tot online stalkingtools die moeilijk te detecteren zijn, onder de hervormingen die dinsdag door de Australische regering zijn aangekondigd.
De minister voor Communicatie, Anika Wells, zei dat Australië zou samenwerken met bedrijven om “afschuwelijke technologieën” uit te bannen, terwijl ervoor gezorgd wordt dat “legitieme en op toestemming gebaseerde” kunstmatige intelligentie (AI) en online trackingdiensten niet negatief worden beïnvloed.
“Misbruikstechnologieën zijn wijdverspreid en gemakkelijk toegankelijk en veroorzaken nu al echte en onomkeerbare schade,” aldus Wells in een verklaring. “Deze nieuwe, evoluerende technologieën vereisen een nieuwe, proactieve aanpak voor het voorkomen van schade – en we zullen nauw samenwerken met de industrie om dit te bereiken.”
“Hoewel deze stap het probleem van misbruikstechnologie niet in één keer zal oplossen, zal het, samen met bestaande wetten en onze wereldleidende hervormingen op het gebied van online veiligheid, een echt verschil maken in het beschermen van Australiërs,” voegde ze eraan toe.
Het gebruik van AI om seksueel expliciete beelden van mensen zonder hun toestemming te creëren, is een groeiende zorg, te midden van de opkomst van platforms die in staat zijn om foto-realistisch materiaal met een muisklik te maken. In een enquête van 1.200 jongeren, uitgevoerd door de in de Verenigde Staten gevestigde belangenorganisatie Thorn, meldde 10 procent van de respondenten persoonlijk iemand te kennen van wie deepfake-naaktbeelden waren gemaakt, terwijl 6 procent aangaf een direct slachtoffer van dergelijk misbruik te zijn geweest.
Australië heeft in de afgelopen jaren een reeks ingrijpende juridische hervormingen doorgevoerd die gericht zijn op het beperken van online schade, waaronder het werelds eerste verbod op het gebruik van sociale media door minderjarigen. Onder het verbod, dat voor het einde van het jaar van kracht zal worden, zullen sociale mediaplatforms boetes van maximaal 49,5 miljoen Australische dollar (32 miljoen dollar) krijgen als ze er niet in slagen “redelijke stappen” te ondernemen om te voorkomen dat jongeren onder de 16 jaar een account aanmaken of behouden.
