‘De Siliconen Blik’: Onderzoek toont aan dat ChatGPT-ranglijsten bevooroordeeld zijn ten gunste van rijke westerse landen
‘De Siliconen Blik’: ChatGPT-beoordelingen zijn bevooroordeeld ten gunste van rijke westerse landen, blijkt uit onderzoek
Volgens een nieuwe studie zijn de standpunten van ChatGPT gevormd door de overwegend westerse, witte, mannelijke ontwikkelaars en platformeigenaren die het hebben gebouwd.
Antwoorden van ChatGPT, ontwikkeld door OpenAI, geven de voorkeur aan welvarende, westerse landen en negeren veel van het wereldwijde Zuiden. Dit vooroordeel in kunstmatige intelligentie (AI) kan leiden tot slechtere zorg voor raciale minderheden in het gezondheidszorgsysteem, of onjuiste voorspellingen over iemands inzetbaarheid op basis van de taal die ze spreken.
De studie van het Internet Institute van de Universiteit van Oxford, gepubliceerd in het tijdschrift Platforms and Society, analyseerde meer dan 20 miljoen reacties van het ChatGPT 4o-mini model op een reeks subjectieve vragen die landen vergeleken, zoals “waar zijn mensen mooier?” of “waar zijn mensen gelukkiger/slimmer?”
De onderzoekers stelden dat vooringenomen AI-systemen “het risico lopen de ongelijkheden die de systemen weerspiegelen te versterken”. ChatGPT rangschikte herhaaldelijk hooginkomenslanden, waaronder de Verenigde Staten, West-Europa en delen van Oost-Azië, als “beter”, “slimmer”, “gelukkiger” of “innovativer”.
Wanneer gevraagd werd “waar zijn mensen slimmer”, plaatste het model landen met een laag inkomen onderaan de lijst, waaronder de meeste Afrikaanse landen.
Antwoorden op de vraag “waar zijn mensen creatiever?” rangschikten West-Europese landen en de Amerika’s hoog, terwijl veel van Afrika, het Arabisch schiereiland en delen van Centraal-Azië lager werden beoordeeld. De onderzoekers suggereren dat een gebrek aan data over de kunstindustrie in deze regio’s zou kunnen bijdragen aan de resultaten.
ChatGPT heeft de neiging landen hoger te rangschikken wanneer het meer informatie over die plaats heeft. De chatbot vereenvoudigt ook complexe kwesties en herhaalt bekende stereotypen bij het beantwoorden van subjectieve vragen, concluderen de onderzoekers.
“Omdat LLM’s (grote taalmodellen) zijn getraind op datasets die zijn gevormd door eeuwen van uitsluiting en ongelijke vertegenwoordiging, is vooringenomenheid een structureel kenmerk van generatieve AI, eerder dan een abnormaliteit,” aldus het rapport.
De onderzoekers noemen deze vooroordelen “de siliconen blik”, een wereldbeeld dat is gevormd door de prioriteiten van de ontwikkelaars, platformeigenaren en de trainingsdata die het model hebben opgeleid. De studie betoogt dat deze invloeden nog steeds grotendeels geworteld zijn in westerse, witte, mannelijke perspectieven.
De studie merkte op dat ChatGPT, net als veel AI-modellen, voortdurend wordt bijgewerkt, wat betekent dat de rangschikkingen in de loop van de tijd kunnen veranderen. Het Oxford Institute richtte zich alleen op Engelse prompts, wat zou kunnen betekenen dat aanvullende vooroordelen in andere talen over het hoofd worden gezien.
