Technologiebedrijven streven er agressief naar om chatbots voor kunstmatige intelligentie (AI) te integreren met uw meest persoonlijke gegevens: uw medische dossiers. Deze trend, die snel aan kracht wint, roept serieuze vragen op over privacy, nauwkeurigheid en mogelijke schade.
De drang naar gegevenstoegang
Jarenlang heeft de technologie-industrie erop aangedrongen dat AI verbetert met meer data. Nu zijn bedrijven als Microsoft, Amazon, OpenAI en Anthropic actief bezig met het testen van tools waarmee gebruikers hun volledige medische geschiedenis kunnen uploaden, gecombineerd met gegevens van draagbare apparaten (Apple Watch, Fitbit, enz.). Het doel? Om door AI gegenereerde gezondheidsoverzichten te bieden.
Copilot van Microsoft is het nieuwste voorbeeld, waarmee gebruikers gezondheidsdossiers van meerdere providers kunnen verbinden. Soortgelijke initiatieven (Amazon’s Health AI, OpenAI’s ChatGPT Health en Anthropic’s Claude for Healthcare) worden al getest. Dit vertegenwoordigt een aanzienlijke escalatie in de gegevensverzameling, vooral gezien het feit dat dezelfde chatbots bij sommige gebruikers in verband zijn gebracht met negatieve psychologische effecten.
De voordelen en de ernstige nadelen
Sommige artsen zien potentiële voordelen, zoals het toegankelijk maken van gezondheidsinzichten voor mensen die worstelen met stijgende zorgkosten. Deskundigen waarschuwen echter dat het delen van gevoelige gezondheidsgegevens met technologiebedrijven grote privacyrisico’s met zich meebrengt. Naast mogelijke datalekken kunnen deze chatbots de angst voor de gezondheid verergeren of tot onnodige medische bezoeken leiden, wat een weerspiegeling is van de problemen die zich bij eerdere zelfdiagnosetechnologieën hebben voorgedaan.
Hoe het werkt: een stapsgewijze analyse
Met het Copilot-platform van Microsoft kunnen gebruikers een gezondheidsprofiel aanmaken door demografische basisgegevens (leeftijd, geslacht) in te voeren en vervolgens te kiezen voor het delen van gegevens. Het systeem haalt gegevens uit verbonden apparaten, zoals fitnesstrackers, en biedt AI-gestuurde samenvattingen. Andere platforms zullen een soortgelijk model volgen.
Waarom dit ertoe doet: het grotere geheel
De stap om AI te integreren met medische gegevens gaat niet alleen over gemak. Het maakt deel uit van een bredere trend waarbij technologiebedrijven diepere controle over persoonlijke informatie zoeken. Gezien de recente rechtszaken tegen OpenAI en Microsoft wegens vermeende inbreuk op het auteursrecht (inclusief nieuwsinhoud die wordt gebruikt om AI-systemen te trainen), is de prikkel om inkomsten te genereren met gebruikersgegevens duidelijk.
De langetermijngevolgen van het overhandigen van medische dossiers aan technologiebedrijven met winstoogmerk zijn onbekend, maar de kans op misbruik is groot. Ga uiterst voorzichtig te werk.
Dit is een snelle ontwikkeling met aanzienlijke gevolgen voor de gezondheidszorg, privacy en de relatie tussen individu en technologie.
