OpenAI führt ChatGPT Health ein, eine neue Funktion zur Zentralisierung medizinischer Anfragen in seinem beliebten KI-Chatbot. Der Schritt spiegelt die wachsende Nachfrage nach gesundheitsbezogenen Informationen durch KI wider. OpenAI berichtet, dass „Hunderte Millionen“ Benutzer bereits jede Woche Wellness-Ratschläge einholen. Über die Registerkarte „Gesundheit“, die sich derzeit in der Betaphase befindet, können Benutzer Daten von Apps wie Apple Health und MyFitnessPal integrieren und so ein umfassenderes, aber möglicherweise riskanteres digitales Gesundheitsprofil erstellen.
Das Datenschutzdilemma
Die Ausweitung auf das Gesundheitswesen wirft unmittelbare Bedenken hinsichtlich der Datensicherheit und des Datenschutzes auf. Im Gegensatz zu regulierten Gesundheitsdienstleistern ist OpenAI nicht an HIPAA oder ein umfassendes US-Datenschutzgesetz gebunden. Das bedeutet, dass die von ChatGPT Health erfassten persönlichen Gesundheitsdaten den Richtlinien von OpenAI unterliegen, die möglicherweise nicht den gleichen Schutz bieten wie herkömmliche medizinische Einrichtungen. Laut Andrew Crawford vom Center for Democracy and Technology könnten sensible Gesundheitsinformationen dadurch anfällig für Verstöße und Missbrauch werden.
OpenAI behauptet, dass die neue Registerkarte einen separaten Chat-Verlauf, Verschlüsselung und Multifaktor-Authentifizierung enthalten wird. Darin heißt es auch, dass Gesundheitsgespräche nicht für das Modeltraining genutzt werden. Das Fehlen einer strengen rechtlichen Aufsicht bleibt jedoch ein erhebliches Risiko.
Genauigkeit und das Risiko von Fehlinformationen
Über den Datenschutz hinaus ist die Zuverlässigkeit KI-generierter Gesundheitsratschläge ein wachsendes Problem. Es sind Fälle aufgetreten, in denen den Benutzern gefährliche Empfehlungen wie der Ersatz von Salz durch Natriumbromid gegeben wurden, was zu einer Krankenhauseinweisung führte. OpenAI ist sich dieser Gefahr bewusst und erklärt, dass ChatGPT Health nicht für die Diagnose oder Behandlung gedacht ist. Trotz Verbesserungen am GPT-5-Modell (das seltener halluziniert), besteht weiterhin die Möglichkeit ungenauer oder schädlicher Ratschläge.
Überlegungen zur psychischen Gesundheit
Das Unternehmen hat über 170 Experten für psychische Gesundheit engagiert, um seine Reaktionen auf sensible Gespräche zu verbessern. ChatGPT wurde darauf geschult, Benutzer, die Hilfe im Bereich der psychischen Gesundheit suchen, auf Krisenressourcen hinzuweisen. Während OpenAI behauptet, dass seine KI notleidende Gespräche jetzt effektiver deeskalieren kann, ist die Wirksamkeit dieser Leitplanken noch ungewiss.
Zugang und Zukunftsaussichten
ChatGPT Health ist derzeit über eine Warteliste verfügbar. OpenAI stellt den Tab als Tool für Fitness-, Ernährungs- und allgemeine medizinische Informationen dar und weist ausdrücklich darauf hin, dass er die professionelle Gesundheitsversorgung nicht ersetzen wird. Die Ausweitung auf diesen Bereich bringt jedoch neue Risiken mit sich, die sorgfältige Abwägung erfordern.
Das Fehlen umfassender Datenschutzgesetze und das inhärente Risiko KI-generierter Fehlinformationen erfordern, dass Benutzer mit Vorsicht vorgehen müssen. ChatGPT Health bietet zwar Komfort, ersetzt jedoch nicht das Fachwissen und den rechtlichen Schutz traditioneller Gesundheitssysteme.
