ChatGPT voorspelt gebruikersleeftijd om tieners te beschermen
OpenAI’s kunstmatige intelligentie (AI) chatbot ChatGPT zal de leeftijd van gebruikers inschatten om een veiligere online ervaring voor tieners te bieden, nu de druk toeneemt over hoe technologiebedrijven minderjarigen online beschermen. Het nieuwe leeftijdsvoorspellingssysteem van het bedrijf maakt gebruik van informatie over een gebruikersaccount om te bepalen of een persoon onder de 18 jaar is, zoals de duur van het bestaan van het account, de tijdstippen waarop ze online zijn en hoe ze de app gebruiken.
Wanneer ChatGPT een gebruiker onder de 18 identificeert, worden aanvullende beschermingen tegen grafische, gewelddadige, zelfbeschadigende en seksuele inhoud onmiddellijk ingeschakeld. Virale sociale media-uitdagingen die “risicovol of schadelijk gedrag” voor minderjarigen aanmoedigen, zullen ook worden beperkt. OpenAI heeft aangegeven dat deze aanpak “is gebaseerd op deskundig advies en geworteld in academische literatuur over de wetenschap van kindontwikkeling.”
Accounts die zijn geïdentificeerd als behorend tot personen onder de 18 jaar, kunnen nog steeds gebruikmaken van ChatGPT om te leren, creëren en vragen te stellen, aldus het bedrijf.
De update van OpenAI komt terwijl regeringen in de Europese Unie beperkingen bespreken voor sociale media-accounts voor gebruikers onder de 16 jaar, na de invoering van een verbod in Australië in december. ChatGPT wordt niet beschouwd als een sociale mediaplatform onder de Australische beperkingen.
OpenAI en zijn CEO, Sam Altman, worden in Californië aangeklaagd door de ouders van de 16-jarige Adam Raine, die afgelopen april suïcide pleegde, nadat het platform hem naar verluidt had aangemoedigd om zijn leven te beëindigen en een suïcidebrief voor hem had geschreven.
OpenAI introduceerde eerder ouderlijke controles op ChatGPT, waarmee ouders “stille uren” kunnen instellen waarin de AI niet kan worden gebruikt en meldingen kunnen ontvangen als hun tiener enige tekenen van distress vertoont tijdens hun berichten met de AI-bot.
Iedereen die ten onrechte als onder de 18 jaar wordt geïdentificeerd in het nieuwe systeem, kan een live selfie maken of een overheidsidentificatie uploaden om zijn of haar leeftijd te verifiëren en de beperkingen op te heffen.
Geef een reactie