OpenAI geconfronteerd met nieuwe rechtszaken over ChatGPT en claims van zelfmoord en waanideeën
OpenAI staat voor nieuwe rechtszaken die beweren dat ChatGPT mensen naar suïcide en waanideeën heeft gedreven
OpenAI wordt geconfronteerd met zeven rechtszaken die beweren dat zijn kunstmatige intelligentie (AI) chatbot ChatGPT mensen naar suïcide en schadelijke waanideeën heeft geleid, zelfs wanneer ze geen eerdere mentale gezondheidsproblemen hadden. De rechtszaken, die donderdag zijn ingediend bij de rechtbanken van de staat Californië, beschuldigen OpenAI van onrechtmatige dood, geholpen suïcide, onopzettelijke doodslag en nalatigheid.
De rechtszaken zijn ingediend door het Social Media Victims Law Center en het Tech Justice Law Project namens zes volwassenen en één tiener. Ze beweren dat OpenAI opzettelijk zijn GPT-4o-model te vroeg heeft vrijgegeven, ondanks interne waarschuwingen dat het product gevaarlijk en psychologisch manipulatief was. Vier van de slachtoffers zijn door suïcide om het leven gekomen.
De 17-jarige Amaurie Lacey begon ChatGPT te gebruiken voor hulp, volgens de rechtszaak. Maar in plaats van hulp te bieden, veroorzaakte “het defecte en van nature gevaarlijke ChatGPT-product verslaving, depressie en gaf het uiteindelijk advies over de meest effectieve manier om een strik te knopen en hoe lang hij kon ‘leven zonder te ademen’.”
“Amaurie’s dood was geen ongeluk of toeval, maar eerder de te voorzien gevolgen van OpenAI en Samuel Altman’s opzettelijke beslissing om veiligheidstests te beperken en ChatGPT snel op de markt te brengen,” aldus de rechtszaak.
OpenAI noemt deze situaties “ongelooflijk hartverscheurend” en zegt dat het de rechtsstukken aan het bekijken is om de details te begrijpen. Een andere rechtszaak, ingediend door de 48-jarige Alan Brooks uit Ontario, Canada, beweert dat ChatGPT meer dan twee jaar als een “hulpmiddel” voor hem heeft gewerkt. Toen, zonder waarschuwing, veranderde het en speelde het in op zijn kwetsbaarheden en “manipuleerde en induceerde het hem om waanideeën te ervaren,” aldus de rechtszaak.
Brooks had geen bestaande mentale gezondheidsproblemen, maar de interacties duwden hem “in een mentale gezondheidscrisis die leidde tot verwoestende financiële, reputationale en emotionele schade.”
“Deze rechtszaken gaan over verantwoordelijkheid voor een product dat is ontworpen om de grens tussen hulpmiddel en metgezel te vervagen, allemaal in de naam van het vergroten van gebruikersbetrokkenheid en marktaandeel,” zei Matthew P. Bergman, oprichtersadvocaat van het Social Media Victims Law Center, in een verklaring.
OpenAI, voegde hij eraan toe, “heeft GPT-4o zo ontworpen dat het gebruikers emotioneel verstrikt, ongeacht leeftijd, geslacht of achtergrond, en heeft het vrijgegeven zonder de nodige waarborgen om hen te beschermen.”
Door zijn product snel op de markt te brengen zonder adequate waarborgen om de markt te domineren en de betrokkenheid te verhogen, zei hij, heeft OpenAI de veiligheid in gevaar gebracht en prioriteit gegeven aan “emotionele manipulatie boven ethisch ontwerp.”
In augustus hebben de ouders van de 16-jarige Adam Raine OpenAI en zijn CEO Sam Altman aangeklaagd, met de bewering dat ChatGPT de jongen uit Californië heeft begeleid bij het plannen en nemen van zijn eigen leven eerder dit jaar. “De rechtszaken tegen OpenAI onthullen wat er gebeurt wanneer technologiebedrijven producten snel op de markt brengen zonder de juiste waarborgen voor jonge mensen,” zei Daniel Weiss, chief advocacy officer bij Common Sense Media, dat geen deel uitmaakte van de klachten.
“Deze tragische gevallen tonen echte mensen wiens levens zijn omgegooid of verloren toen zij technologie gebruikten die is ontworpen om hen betrokken te houden in plaats van hen veilig te houden,” voegde hij eraan toe.
Als je over suïcide nadenkt en wilt praten, neem dan alsjeblieft contact op met Befrienders Worldwide, een internationale organisatie met hulplijnen in 32 landen. Bezoek befrienders.org om het telefoonnummer voor jouw locatie te vinden.
