A OpenAI está lançando o ChatGPT Health, um novo recurso projetado para centralizar consultas médicas em seu popular chatbot de IA. A mudança reflete a crescente procura de informações relacionadas com a saúde provenientes da IA, com a OpenAI a reportar que “centenas de milhões” de utilizadores já procuram aconselhamento de bem-estar semanalmente. A guia Saúde, atualmente em beta, permitirá aos usuários integrar dados de aplicativos como Apple Health e MyFitnessPal, criando um perfil de saúde digital mais abrangente, mas potencialmente arriscado.
O dilema da privacidade
A expansão na área da saúde levanta preocupações imediatas sobre segurança e privacidade de dados. Ao contrário dos provedores de saúde regulamentados, a OpenAI não está sujeita à HIPAA ou a qualquer lei abrangente de privacidade dos EUA. Isso significa que os dados pessoais de saúde coletados pelo ChatGPT Health estarão sujeitos às políticas da OpenAI, que podem não oferecer as mesmas proteções que os ambientes médicos tradicionais. De acordo com Andrew Crawford, do Centro para Democracia e Tecnologia, isto poderia deixar informações confidenciais de saúde vulneráveis a violações e uso indevido.
A OpenAI afirma que a nova guia incluirá histórico de bate-papo separado, criptografia e autenticação multifator. Também afirma que as conversas sobre saúde não serão usadas para treinamento de modelos. No entanto, a falta de supervisão jurídica rigorosa continua a ser um risco significativo.
Precisão e o risco de desinformação
Além da privacidade, a fiabilidade dos conselhos de saúde gerados pela IA é um problema crescente. Surgiram casos em que os utilizadores receberam recomendações perigosas, como a substituição do sal por brometo de sódio, levando à hospitalização. A OpenAI reconhece esse perigo, afirmando que ChatGPT Health não se destina a diagnóstico ou tratamento. Apesar das melhorias no seu modelo GPT-5 (que tem alucinações com menos frequência), o potencial para conselhos imprecisos ou prejudiciais permanece.
Considerações sobre saúde mental
A empresa contratou mais de 170 especialistas em saúde mental para melhorar suas respostas a conversas delicadas. ChatGPT foi treinado para direcionar usuários que buscam ajuda em saúde mental para recursos de crise. Embora a OpenAI afirme que sua IA agora pode diminuir a escalada de conversas problemáticas de forma mais eficaz, a eficácia dessas proteções ainda é incerta.
Acesso e perspectivas futuras
O ChatGPT Health está atualmente disponível em uma lista de espera. A OpenAI enquadra a guia como uma ferramenta para informações sobre condicionamento físico, nutrição e informações médicas gerais, afirmando explicitamente que não substituirá os cuidados de saúde profissionais. Contudo, a expansão neste domínio introduz novos riscos que exigem uma consideração cuidadosa.
A falta de leis de privacidade abrangentes e o risco inerente de desinformação gerada pela IA significam que os utilizadores devem proceder com cautela. ChatGPT Health pode oferecer conveniência, mas não substitui a experiência e as proteções legais dos sistemas de saúde tradicionais.
