OpenAI внедряет ChatGPT Health, новую функцию, предназначенную для централизации медицинских запросов в своем популярном AI-чат-боте. Этот шаг отражает растущий спрос на информацию о здоровье от ИИ, при этом OpenAI сообщает, что «сотни миллионов» пользователей еженедельно обращаются за советами по оздоровлению. Вкладка Health, находящаяся в настоящее время в бета-версии, позволит пользователям интегрировать данные из таких приложений, как Apple Health и MyFitnessPal, создавая более полный, но потенциально рискованный цифровой профиль здоровья.
Дилемма конфиденциальности
Расширение в сферу здравоохранения немедленно вызывает опасения по поводу безопасности и конфиденциальности данных. В отличие от регулируемых поставщиков медицинских услуг, OpenAI не связан HIPAA или каким-либо комплексным законом о конфиденциальности в США. Это означает, что личные медицинские данные, собранные ChatGPT Health, будут подчиняться политике OpenAI, которая может не обеспечивать такую же защиту, как традиционные медицинские учреждения. По словам Эндрю Кроуфорда из Центра демократии и технологий, это может сделать конфиденциальную информацию о здоровье уязвимой для взломов и неправомерного использования.
OpenAI утверждает, что новая вкладка будет включать отдельную историю чатов, шифрование и многофакторную аутентификацию. Компания также заявляет, что разговоры о здоровье не будут использоваться для обучения модели. Однако отсутствие строгих юридических норм остается серьезным риском.
Точность и риск дезинформации
Помимо конфиденциальности, надежность медицинских рекомендаций, генерируемых ИИ, становится все большей проблемой. Появлялись случаи, когда пользователи получали опасные рекомендации, например, замену соли бромидом натрия, что приводило к госпитализации. OpenAI признает эту опасность, заявляя, что ChatGPT Health не предназначен для диагностики или лечения. Несмотря на улучшения в своей модели GPT-5 (которая реже выдает галлюцинации), потенциал неточной или вредоносной информации сохраняется.
Вопросы психического здоровья
Компания привлекла более 170 экспертов в области психического здоровья для улучшения своих ответов на деликатные разговоры. ChatGPT был обучен направлять пользователей, обращающихся за помощью в области психического здоровья, к ресурсам кризисных служб. В то время как OpenAI утверждает, что его ИИ теперь может более эффективно деэскалировать тревожные разговоры, эффективность этих мер предосторожности все еще остается неопределенной.
Доступ и перспективы на будущее
ChatGPT Health в настоящее время доступен через список ожидания. OpenAI описывает вкладку как инструмент для фитнеса, питания и общей медицинской информации, прямо заявляя, что она не заменит профессиональное здравоохранение. Однако расширение в эту область влечет за собой новые риски, которые требуют тщательного рассмотрения.
Отсутствие комплексных законов о конфиденциальности и неотъемлемый риск дезинформации, генерируемой ИИ, означают, что пользователи должны действовать с осторожностью. ChatGPT Health может предложить удобство, но он не заменяет опыт и юридическую защиту традиционных систем здравоохранения.
