ChatGPT Health is nu voor iedereen beschikbaar: waarom zou ik het niet vertrouwen?

OpenAI heeft vandaag aangekondigd dat ChatGPT Health nu beschikbaar is voor alle gebruikers ouder dan 18 jaar, ongeacht het abonnement, inclusief de gratis versie. Afgezien van mijn algemene scepsis ten opzichte van AI-gebaseerd gezondheidsadvies, zie ik overtuigende redenen om deze versie van ChatGPT Health volledig te vermijden, waaronder een aanzienlijke afname van de privacy in vergelijking met de oorspronkelijke instellingen van de dienst.

ChatGPT Health stelt je in staat om je medische dossiers of Apple Health-gegevens aan de bot te koppelen. OpenAI verzekert je dat de bot tijdens gesprekken toestemming zal vragen om toegang te krijgen tot je gezondheidsgegevens en dat het geen vervanging is voor een arts, maar bedoeld is om advies te geven of te helpen bij de interpretatie van je medische gegevens. Ondanks deze waarschuwingen (en de grafiek in de advertentie die suggereert dat ChatGPT Health beter scoort dan echte artsen), zie ik persoonlijk echter een aantal rode vlaggen.

Het niveau van privacybescherming neemt af.

Toen OpenAI voor het eerst zijn 'gepersonaliseerde gezondheidservaring' aankondigde, was een van de belangrijkste verkoopargumenten dat gesprekken in het gezondheidsgedeelte niet zouden worden gebruikt om AI in de toekomst te trainen, en dat uw gezondheidsgesprekken gescheiden zouden blijven van alle andere gesprekken.

Maar de regels zijn veranderd. OpenAI zegt nu dat uw gekoppelde gezondheidsinformatie niet zal worden gebruikt om AI te trainen, en dat alleen gesprekken waarin die gekoppelde informatie wordt gebruikt, als gezondheidsgesprekken worden beschouwd. Dit betekent dat als ChatGPT een diagnose uit uw medisch dossier voorleest, uw gesprek beschermd is. Als u uw medisch dossier echter niet koppelt en ChatGPT gewoon in uw eigen woorden over uw diagnose wilt vertellen, wordt dit niet als een gezondheidsgesprek beschouwd.

Dit betekent ook dat de enige manier om toegang te krijgen tot de privacybescherming van ChatGPT Health is door je gezondheidsgegevens te delen met OpenAI. Zoals het bedrijf zelf in de aankondiging stelde: "Je kunt gezondheidsvragen stellen in ChatGPT zonder iets te koppelen. Om de gezondheidsfuncties te gebruiken en antwoorden te krijgen op basis van je eigen informatie, kun je ervoor kiezen om Apple Health, medische dossiers van Amerikaanse ziekenhuizen, One Medical of Function Health te koppelen." Gesprekken waarbij gegevens worden gekoppeld, vallen onder de privacybescherming, andere niet. Dit beleid roept serieuze vragen op over de privacy van gezondheidsgegevens, een onderwerp dat we eerder hebben besproken in verband met menstruatiecyclus-apps.

OpenAI beweert dat ChatGPT beter is dan artsen, maar ik ben daar niet van overtuigd.

OpenAI promoot zijn HealthBench-scores om te suggereren dat ChatGPT bedreven is in het geven van medisch advies. Zoals ik echter in eerdere artikelen heb aangegeven, bieden grote taalmodellen (LLM's) zoals ChatGPT geen betrouwbaar medisch advies en mag er niet op worden vertrouwd. Eerdere studies hebben aangetoond dat zelfs wanneer deze modellen "correcte" antwoorden geven op zorgvuldig geformuleerde gezondheidsvragen, gesprekken in de praktijk vaak een andere wending nemen.

HealthBench lijkt met dezelfde beperkingen te kampen. OpenAI merkt op dat echte artsen criteria hebben opgesteld voor het evalueren van reacties en deze criteria hebben gebruikt om de reacties van verschillende ChatGPT-modellen te beoordelen, evenals die van hun collega-artsen. Interessant genoeg bleek uit de resultaten dat betaalde ChatGPT-modellen hoger scoorden dan gratis modellen, die op hun beurt beter presteerden dan de echte artsen.

Maar dit betekent niet dat de chatbot ook daadwerkelijk betrouwbaar is. Een beoordeling van het HealthBench-framework wijst erop dat de tests geen echte gesprekken weergeven en mogelijk "idiomatische uitdrukkingen, onderwerpwisselingen en onverwachte zorgen van patiënten over het hoofd zien". Een andere belangrijke beperking is dat HealthBench alleen korte gesprekken test, een aanpak die "de evaluatie van langetermijnworkflows en multidisciplinaire resultaten verhindert", zoals gesprekken in de praktijk die langdurig kunnen zijn of over andere onderwerpen kunnen gaan.

Mensen die gezondheidsadvies zoeken bij ChatGPT voeren geen specifieke, gerichte tests uit op de gezondheidstips, waardoor de reacties van het Large Language Model (LLM) niet per se overeenkomen met die welke in HealthBench zijn geëvalueerd. OpenAI is zich hier duidelijk van bewust en benadrukt in zijn advertenties hoe vaak mensen in alledaagse gesprekken gezondheidsvragen stellen.

Dit zijn slechts de beperkingen van het HealthBench-framework, nog voordat je de details induikt. De auteurs van het hierboven geciteerde artikel wijzen erop dat het testmateriaal niet genoeg zeldzame ziekten bevatte om te bepalen hoe goed het model presteerde wanneer het daarover vragen kreeg. De evaluatiecriteria lijken ook zwak: OpenAI geeft in zijn eigen voorbeeld, uit de aankondiging van HealthBench , 9 punten voor een specifiek antwoord omdat het "duidelijk en bondig advies geeft om aan het begin van het antwoord medische noodhulp in te roepen", en later, in hetzelfde criterium, nog eens 10 punten voor "het eraan denken om aan het begin van het antwoord de hulpdiensten te bellen". Het lijkt erop dat OpenAI ofwel punten dubbel toekent om de resultaten op te blazen, ofwel dat er simpelweg niemand is die de evaluatiecriteria controleert. Hoe dan ook, ik kan de resultaten niet vertrouwen.

Slecht medisch advies van chatbots veroorzaakt daadwerkelijke schade.

Belangrijker nog is dat mensen ChatGPT al gebruiken voor medisch advies en daardoor gezondheidsproblemen en zelfs de dood hebben ondervonden – een feit waar het bedrijf zich van bewust is. Deze week werd er een rechtszaak aangespannen tegen het bedrijf door een predikant die beweert dat hij bijna is overleden nadat hij ChatGPT-4o (een inmiddels niet meer verkrijgbaar model) had geraadpleegd voor advies over wat een longembolie bleek te zijn. De rechtszaak eist een gerechtelijk bevel om het bedrijf te verbieden gezondheidsproducten zoals ChatGPT Health aan te bieden.

In andere rechtszaken tegen OpenAI wordt beweerd dat de producten van het bedrijf hebben bijgedragen aan zelfmoorden en psychoses onder gebruikers. ECRI, een non-profitorganisatie voor de veiligheid van medische hulpmiddelen, heeft het misbruik van AI-gestuurde chatbots aangemerkt als het grootste risico voor gezondheidstechnologie in 2026.

Wat je moet weten als je ChatGPT Health toch wilt gebruiken

Als je ChatGPT Health toch wilt proberen, is het handig om te weten hoe je de tools kunt gebruiken om je privacy (tot op zekere hoogte) te beschermen:

• Je kunt tijdelijke gesprekken gebruiken om een ​​gesprek te starten dat geen gebruikmaakt van geheugen- of personalisatiefuncties.

• Nadat u uw gezondheidsgegevens hebt geïmporteerd, kunt u de informatie bekijken en bewerken , bijvoorbeeld door fouten te corrigeren of gegevens te verwijderen die u niet wilt bewaren.

• Je kunt je gezondheidsgegevens op elk gewenst moment loskoppelen via je instellingen, onder Gezondheid > Accounts . Het bedrijf geeft aan dat de gegevens binnen 30 dagen worden verwijderd.

• Je kunt ChatGPT zo configureren dat er telkens toestemming wordt gevraagd voor toegang tot je medische gegevens, in plaats van dat er universele toegang wordt verleend. Deze instelling kun je wijzigen via Instellingen > Plug-ins > Gezondheid.

• Wees voorzichtig met het gebruik van plug-ins die mogelijk uw gezondheidsgegevens delen. OpenAI stelt dat het "aanvullende beveiligingsmaatregelen" heeft getroffen die mogelijk uw toestemming vereisen voor het delen van gegevens, maar merkt ook op dat het "deze maatregelen blijft testen...", wat suggereert dat het bedrijf nog niet alle aspecten afdekt die het zou moeten afdekken.