OpenAI představuje ChatGPT Health, novou funkci navrženou pro centralizaci dotazů na zdraví v rámci svého oblíbeného chatbota AI. Tento krok odráží rostoucí poptávku po zdravotních informacích ze strany umělé inteligence, přičemž OpenAI hlásí „stovky milionů“ uživatelů, kteří každý týden hledají rady ohledně zdraví. Karta Zdraví, která je aktuálně ve verzi beta, umožní uživatelům integrovat data z aplikací jako Apple Health a MyFitnessPal, a vytvořit tak komplexnější, ale potenciálně riskantní profil digitálního zdraví.
Dilema soukromí
Expanze do zdravotnictví okamžitě vyvolává obavy o bezpečnost dat a soukromí. Na rozdíl od regulovaných poskytovatelů zdravotní péče není OpenAI vázána HIPAA ani žádným komplexním zákonem na ochranu soukromí ve Spojených státech. To znamená, že osobní zdravotní údaje shromážděné službou ChatGPT Health budou podléhat zásadám OpenAI, které nemusí poskytovat stejnou ochranu jako tradiční poskytovatelé zdravotní péče. Podle Andrewa Crawforda z Centra pro demokracii a technologie by to mohlo způsobit, že citlivé zdravotní informace budou vystaveny hackerům a zneužití.
OpenAI říká, že nová karta bude obsahovat samostatnou historii chatu, šifrování a vícefaktorové ověřování. Společnost také říká, že rozhovory o zdraví nebudou použity k výcviku modelky. Vážným rizikem však zůstává nedostatek přísných právních norem.
Přesnost a riziko dezinformací
Kromě ochrany soukromí je stále větším problémem spolehlivost lékařských doporučení generovaných umělou inteligencí. Vyskytly se případy, kdy uživatelé dostali nebezpečná doporučení, jako je nahrazení soli bromidem sodným, což vedlo k hospitalizaci. OpenAI uznává toto nebezpečí prohlášením, že ChatGPT Health není určen pro diagnostiku ani léčbu. Navzdory vylepšení jeho modelu GPT-5 (u kterého je méně pravděpodobné, že způsobí halucinace), zůstává potenciál pro nepřesné nebo škodlivé informace.
Problémy s duševním zdravím
Společnost přijala více než 170 odborníků na duševní zdraví, aby zlepšila své reakce na citlivé rozhovory. ChatGPT byl vyškolen k tomu, aby nasměroval uživatele hledající pomoc v oblasti duševního zdraví ke zdrojům krizových služeb. Zatímco OpenAI tvrdí, že jeho umělá inteligence nyní dokáže účinněji deeskalovat znepokojivé konverzace, účinnost těchto opatření je stále nejistá.
Přístup a vyhlídky do budoucna
ChatGPT Health je aktuálně k dispozici prostřednictvím čekací listiny. OpenAI popisuje kartu jako nástroj pro informace o kondici, výživě a obecném zdravotním stavu, přičemž výslovně uvádí, že nenahradí profesionální zdravotní péči. Expanze do této oblasti však přináší nová rizika, která vyžadují pečlivé zvážení.
Nedostatek komplexních zákonů na ochranu soukromí a inherentní riziko dezinformací generovaných umělou inteligencí znamená, že uživatelé by měli postupovat opatrně. ChatGPT Health může nabídnout pohodlí, ale nenahrazuje odborné znalosti a právní ochranu tradičních zdravotnických systémů.
