Google Verwijdert Gezondheidsvragen uit AI Overzichten om Nauwkeurigheidszorgen

Google verwijdert gezondheidsgerelateerde AI-overzichten na zorgen over nauwkeurigheid

Een onderzoek heeft aangetoond dat de AI-gegenerateerde samenvattingen van Google onjuiste gezondheidsinformatie verstrekten. Naar verluidt heeft Google enkele AI-overzichten voor gezondheidsgerelateerde vragen verwijderd, omdat bleek dat sommige informatie misleidend was.

AI-overzichten zijn samenvattingen die door kunstmatige intelligentie worden gegenereerd en informatie bieden als antwoord op een onderwerp of vraag bovenaan de zoekresultaten. Het onderzoek heeft aangetoond dat sommige samenvattingen onnauwkeurige gezondheidsinformatie bevatten, wat mensen in gevaar kan brengen.

Het onderzoek ontdekte dat AI-overzichten een overvloed aan cijfers presenteerden met weinig context in reactie op vragen zoals “wat is het normale bereik voor leverbloedtesten?” en “wat is het normale bereik voor leverfunctietesten?” De antwoorden hielden ook geen rekening met variaties op basis van nationaliteit, geslacht, etniciteit of leeftijd.

Een Google-zoekresultaat voor beide vragen toonde een uitgelicht fragment, een alinea die is geëxtraheerd uit de meest relevante website voor de vraag van de gebruiker bovenaan de zoekresultaten. Voor beide vragen koos Google ervoor om het bereik van gezonde niveaus van verschillende stoffen in de lever in zijn fragment te extraheren, zoals alanine-aminotransferase (ALT), dat de energieproductie reguleert, aspartaat-aminotransferase (AST), dat beschadigde bloedcellen detecteert, en alkalische fosfatase (ALP), dat helpt bij het afbreken van eiwitten. Google haalde de cijfers van Max Healthcare, een commerciële ziekenhuisgroep in New Delhi, zoals het onderzoek vaststelde.

Uitgelichte fragmenten verschillen van AI-overzichten omdat de tekst in het fragment niet door AI is gegenereerd. Het onderzoek vond ook dat variaties op deze vragen, zoals “[leverfunctietest] lft referentiebereik” of “lft test referentiebereik”, nog steeds AI-samenvattingen genereerden. Leverfunctietests zijn bloedtesten die eiwitten en enzymen meten om te controleren hoe goed de lever functioneert.

Naar verluidt heeft Google mensen met alvleesklierkanker geadviseerd om vetrijke voeding te vermijden, wat experts vertelden dat dit geen goede aanbeveling is, omdat het het risico kan verhogen dat patiënten aan de ziekte overlijden. Het onderzoek komt op een moment dat experts de alarmbel luiden over hoe AI-chatbots “hallucineren”, wat betekent dat ze valse antwoorden uitvinden wanneer ze niet over de juiste informatie beschikken.

Google heeft aangekondigd dat het deze weekend AI-overzichten toevoegt aan zijn e-mailservice, Gmail. De nieuwe functie stelt gebruikers in staat om vragen te stellen en antwoorden te ontvangen over hun e-mails in plaats van door hen te zoeken met een zoekwoord.