OpenAI introduceert ChatGPT Health, een nieuwe functie die is ontworpen om medische vragen te centraliseren binnen de populaire AI-chatbot. Deze stap weerspiegelt de groeiende vraag naar gezondheidsgerelateerde informatie van AI, waarbij OpenAI meldt dat “honderden miljoenen” gebruikers al wekelijks welzijnsadvies zoeken. Op het tabblad Gezondheid, momenteel in bèta, kunnen gebruikers gegevens van apps als Apple Health en MyFitnessPal integreren, waardoor een uitgebreider, maar potentieel riskant, digitaal gezondheidsprofiel ontstaat.
Het privacydilemma
De uitbreiding naar de gezondheidszorg roept onmiddellijke zorgen op over gegevensbeveiliging en privacy. In tegenstelling tot gereguleerde zorgaanbieders is OpenAI niet gebonden aan HIPAA of enige uitgebreide Amerikaanse privacywetgeving. Dit betekent dat persoonlijke gezondheidsgegevens verzameld door ChatGPT Health onderworpen zijn aan het beleid van OpenAI, dat mogelijk niet dezelfde bescherming biedt als traditionele medische instellingen. Volgens Andrew Crawford van het Center for Democracy and Technology zou dit gevoelige gezondheidsinformatie kwetsbaar kunnen maken voor inbreuken en misbruik.
OpenAI beweert dat het nieuwe tabblad een afzonderlijke chatgeschiedenis, codering en multifactor-authenticatie zal bevatten. Er staat ook dat gezondheidsgesprekken niet zullen worden gebruikt voor modeltraining. Het gebrek aan streng juridisch toezicht blijft echter een aanzienlijk risico.
Nauwkeurigheid en het risico van verkeerde informatie
Naast privacy is de betrouwbaarheid van door AI gegenereerde gezondheidsadviezen een groeiend probleem. Er zijn gevallen naar voren gekomen waarin gebruikers gevaarlijke aanbevelingen kregen, zoals het vervangen van zout door natriumbromide, wat tot ziekenhuisopname leidde. OpenAI erkent dit gevaar en stelt dat ChatGPT Health niet bedoeld is voor diagnose of behandeling. Ondanks verbeteringen in het GPT-5-model (dat minder vaak hallucineert), blijft de kans op onnauwkeurig of schadelijk advies bestaan.
Overwegingen op het gebied van de geestelijke gezondheid
Het bedrijf heeft meer dan 170 deskundigen op het gebied van de geestelijke gezondheidszorg ingeschakeld om de reacties op gevoelige gesprekken te verbeteren. ChatGPT is getraind om gebruikers die hulp zoeken op het gebied van de geestelijke gezondheidszorg naar crisishulpbronnen te leiden. Hoewel OpenAI beweert dat zijn AI nu noodlijdende gesprekken effectiever kan de-escaleren, is de effectiviteit van deze vangrails nog steeds onzeker.
Toegang en toekomstperspectief
ChatGPT Health is momenteel beschikbaar via een wachtlijst. OpenAI omlijst het tabblad als een hulpmiddel voor fitness-, voeding- en algemene medische informatie, waarbij expliciet wordt gesteld dat het de professionele gezondheidszorg niet zal vervangen. De uitbreiding naar dit domein introduceert echter nieuwe risico’s die een zorgvuldige afweging vereisen.
Het gebrek aan alomvattende privacywetten en het inherente risico van door AI gegenereerde desinformatie betekent dat gebruikers voorzichtig te werk moeten gaan. ChatGPT Health biedt misschien gemak, maar vervangt niet de expertise en wettelijke bescherming van traditionele gezondheidszorgsystemen.
