Kan je medische vragen stellen aan ChatGPT? ‘Het is linke soep’

Uitleg woorden

Simpele tekst

“Een heleboel dingen kunnen die chatbots heel goed, maar op een aantal punten gaat het mis”, zegt Schaake. Bijvoorbeeld als mensen medische vragen stellen aan een AI-chatbot. “Mensen nemen de medische informatie voor waar aan en gaan niet naar een arts. Of ze nemen allerlei maatregelen die niet passen bij de ziekte die ze in werkelijkheid hebben.” En daarachter zit nog een ander risico, want al die gevoelige data worden opgeslagen op buitenlandse servers.

Presentator David Boogerd vertelt dat hij zelf een chatbot om medische informatie heeft gevraagd, toen zijn zoontje opeens blauwe plekken kreeg. Ze konden terecht bij de spoedeisende hulp in het ziekenhuis, maar moesten nog een paar uur wachten. “Ik wilde als vader snel meer duidelijkheid. Je denkt gelijk dat het ernstig is”, zegt Boogerd.

Marietje Schaake

AI-expert

“Er is veel mis met de medische informatie die een chatbot deelt.”

Hij deelde een foto met Gemini, de chatbot van Google, gaf een korte omschrijving en vroeg wat het kon zijn. Gemini gaf “een kraakheldere analyse” en zei dat het niet levensbedreigend was. Na een controle in het ziekenhuis bleek dat de chatbot het goed had gezien: “Het was een ziekte die maar 150 tot 200 Nederlandse kinderen per jaar hebben. Dat vond ik best knap en indrukwekkend. Je kunt niet altijd een arts bellen, dus ik was hier heel positief over. Gemini zei ook: ik ben geen arts, je moet nog naar een arts gaan.”

Dat Boogerd nu een positieve ervaring heeft is fijn, zegt Schaake. “Maar er zijn ook mensen met negatieve ervaringen.” Wereldwijd gebruiken mensen chatbots voor medische informatie, maar het probleem is dat veel mensen daarna niet voor een extra controle naar het ziekenhuis kunnen. “Sommige mensen hebben geen geld om naar een arts te gaan. In Amerika zijn veel mensen onverzekerd en kost een bezoek aan het ziekenhuis bijna altijd veel geld.”

Schaake vertelt dat de Universiteit van Oxford naar de medische informatie die chatbots delen. “Daaruit bleek dat er best veel mis is met de informatie die wordt gedeeld. En het kan ook gevaarlijk zijn.” Onderzoekers deden een experiment om de chatbot te testen. Ze verzonnen een niet-bestaande huidaandoening: “Die aandoening werd zo, hup, opgenomen in de resultaten van de chatbot. Het is linke soep.”

In De Ongelooflijke Podcast (EO) gaat David Boogerd samen met vaste gast theoloog Stefan Paas, verder over dit onderwerp in gesprek met AI-expert Marietje Schaake. Beluister de uitzending hieronder als podcast. 

De Ongelooflijke Podcast (EO) is ook te bekijken via en . Bekijk de volledige uitzending hieronder.