OpenAI представляє ChatGPT Health, нову функцію, призначену для централізації запитів про стан здоров’я в своєму популярному чат-боті AI. Цей крок відображає зростаючий попит на інформацію про здоров’я від штучного інтелекту, при цьому OpenAI повідомляє про «сотні мільйонів» користувачів, які щотижня звертаються за порадою щодо здоров’я. Вкладка «Здоров’я», яка зараз перебуває в бета-версії, дозволить користувачам інтегрувати дані з таких програм, як Apple Health і MyFitnessPal, створюючи більш повний, але потенційно ризикований цифровий профіль здоров’я.
Дилема конфіденційності
Розширення сфери охорони здоров’я негайно викликає занепокоєння щодо безпеки даних і конфіденційності. На відміну від регульованих постачальників медичних послуг, OpenAI не зв’язаний HIPAA або будь-яким комплексним законом про конфіденційність у Сполучених Штатах. Це означає, що інформація про особисте здоров’я, зібрана ChatGPT Health, підпадає під дію політики OpenAI, яка може не забезпечувати такий самий захист, як традиційні постачальники медичних послуг. За словами Ендрю Кроуфорда з Центру демократії та технологій, це може зробити конфіденційну інформацію про здоров’я вразливою для злому та неправильного використання.
OpenAI каже, що нова вкладка включатиме окрему історію чатів, шифрування та багатофакторну автентифікацію. У компанії також кажуть, що бесіди про здоров’я не будуть використовуватися для навчання моделі. Однак відсутність суворих правових стандартів залишається серйозним ризиком.
Точність і ризик дезінформації
Окрім конфіденційності, все більше занепокоєння викликає надійність медичних рекомендацій, створених ШІ. Були випадки, коли користувачі отримували небезпечні рекомендації, наприклад, замінити сіль бромістим натрієм, що призводило до госпіталізації. OpenAI визнає цю небезпеку, заявляючи, що ChatGPT Health не призначений для діагностики чи лікування. Незважаючи на вдосконалення моделі GPT-5 (яка з меншою ймовірністю викликає галюцинації), потенціал для неточної або шкідливої інформації залишається.
Проблеми з психічним здоров’ям
Компанія найняла понад 170 експертів із психічного здоров’я, щоб покращити реакцію на делікатні розмови. ChatGPT навчено направляти користувачів, які шукають психіатричну допомогу, до ресурсів кризових служб. Хоча OpenAI стверджує, що його штучний інтелект тепер може ефективніше деескалувати тривожні розмови, ефективність цих запобіжних заходів досі невідома.
Доступ і майбутні перспективи
ChatGPT Health наразі доступний через список очікування. OpenAI описує вкладку як інструмент для фітнесу, харчування та загальної інформації про здоров’я, прямо зазначаючи, що вона не замінить професійну медичну допомогу. Однак експансія в цю сферу несе нові ризики, які потребують ретельного розгляду.
Відсутність комплексних законів про конфіденційність і невід’ємний ризик дезінформації, створеної ШІ, означає, що користувачам слід бути обережними. ChatGPT Health може запропонувати зручність, але вона не замінить досвід і правовий захист традиційних систем охорони здоров’я.
