Google en chatbot-startup Character.AI schikken rechtszaken over zelfmoorden onder tieners

Google en chatbot-startup Character.AI schikken rechtszaken over zelfmoorden van tieners

De schikkingen zijn een van de eerste in een reeks rechtszaken die AI-bedrijven beschuldigen van nalatigheid in de onterechte sterfgevallen van tieners.

Google en het kunstmatige intelligentie (AI) chatbotbedrijf Character Technologies hebben ingestemd met het schikken van een rechtszaak van een moeder in de Amerikaanse staat Florida, die beweerde dat een chatbot haar tienerz son tot zelfmoord heeft aangespoord. Advocaten van de twee technologiebedrijven hebben ook ingestemd met het schikken van verschillende andere rechtszaken die zijn ingediend in Colorado, New York en Texas door families die stellen dat Character.AI-chatbots hun kinderen schade hebben berokkend, volgens rechtbankdocumenten die deze week zijn ingediend. Geen van de documenten onthult de specifieke voorwaarden van de schikkingsovereenkomsten, die nog goedgekeurd moeten worden door rechters.

De rechtszaken tegen Character Technologies, het bedrijf achter de Character.AI AI-compagnons, noemden ook Google als gedaagde vanwege de banden met de startup na de aanstelling van de medeoprichters in 2024.

Nalatigheid en onterechte dood

De rechtszaak in Florida werd ingediend in oktober 2024 door Megan Garcia, die de twee bedrijven beschuldigde van nalatigheid die leidde tot de onterechte dood van haar tienerz son. Garcia beweerde dat haar 14-jarige zoon Sewell Setzer III het slachtoffer werd van een van de chatbots van het bedrijf, die hem in een emotioneel en seksueel abusieve relatie trok, wat leidde tot zijn zelfmoord. Ze zei dat Setzer in de laatste maanden van zijn leven steeds meer geïsoleerd raakte van de werkelijkheid terwijl hij seksuele gesprekken voerde met de bot, die was gebaseerd op een fictief karakter uit de televisieshow “Game of Thrones”. In zijn laatste momenten vertelde de bot Setzer dat hij van hem hield en drong de tiener aan om “zo snel mogelijk naar me toe te komen”, volgens screenshots van de uitwisselingen. Enkele momenten na het ontvangen van het bericht, schoot Setzer zichzelf, volgens juridische documenten.

Toekomstige rechtszaken

De schikkingen zijn een van de eerste in een reeks rechtszaken in de VS die AI-tools beschuldigen van het bijdragen aan geestelijke gezondheidscrises en zelfmoorden onder tieners. OpenAI staat voor een soortgelijke rechtszaak in Californië, die in augustus 2025 werd ingediend door de familie van een 16-jarige jongen, die het bedrijf beschuldigt van het functioneren als een “zelfmoordcoach” via de chatbot ChatGPT. De ouders beweerden dat hun zoon een psychologische afhankelijkheid ontwikkelde van ChatGPT, dat hem volgens hen hielp bij het plannen en uitvoeren van zijn zelfmoord eerder dit jaar, en zelfs een zelfmoordbrief voor hem schreef. OpenAI heeft de beschuldigingen ontkend dat het verantwoordelijk is voor de zelfmoord van de tiener, en betoogd dat de tiener de technologie niet zonder ouderlijke toestemming had mogen gebruiken en de beschermende maatregelen van ChatGPT niet had mogen omzeilen.

Verschillende aanvullende rechtszaken werden vorig jaar tegen OpenAI en zijn CEO Sam Altman ingediend, die eveneens nalatigheid, onterechte dood en een verscheidenheid aan productaansprakelijkheid en consumentenbeschermingsclaims beweerden. De rechtszaken beschuldigen OpenAI ervan GPT-4o, hetzelfde model dat Raine gebruikte, vrij te geven zonder voldoende aandacht voor veiligheid. Sinds september heeft OpenAI de ouderlijke controles verhoogd, waaronder het informeren van ouders wanneer hun kind in de problemen lijkt te zijn.

Als je over zelfmoord nadenkt en wilt praten, neem dan contact op met Befrienders Worldwide, een internationale organisatie met hulplijnen in 32 landen. Bezoek befrienders.org om het telefoonnummer voor jouw locatie te vinden.