As empresas de tecnologia estão pressionando agressivamente para integrar chatbots de inteligência artificial (IA) com seus dados mais privados: seus registros de saúde. Esta tendência, que ganha rapidamente impulso, levanta sérias questões sobre privacidade, precisão e danos potenciais.
O impulso para acesso a dados
Durante anos, a indústria tecnológica insistiu que a IA melhorasse com mais dados. Agora, empresas como Microsoft, Amazon, OpenAI e Anthropic estão testando ativamente ferramentas que permitem aos usuários fazer upload de seus históricos médicos completos, combinados com dados de dispositivos vestíveis (Apple Watch, Fitbit, etc.). O objetivo? Para fornecer visões gerais de saúde geradas por IA.
O Copilot da Microsoft é o exemplo mais recente, permitindo aos usuários conectar registros de saúde de vários provedores. Iniciativas semelhantes – Health AI da Amazon, ChatGPT Health da OpenAI e Claude for Healthcare da Anthropic – já estão em testes. Isto representa um aumento significativo na recolha de dados, especialmente considerando que estes mesmos chatbots têm sido associados a efeitos psicológicos negativos em alguns utilizadores.
As vantagens e as sérias desvantagens
Alguns médicos veem benefícios potenciais, como tornar os conhecimentos de saúde acessíveis àqueles que lutam com o aumento dos custos dos cuidados de saúde. No entanto, os especialistas alertam que a partilha de dados sensíveis de saúde com empresas tecnológicas introduz grandes riscos de privacidade. Para além de potenciais violações de dados, estes chatbots podem exacerbar a ansiedade relativamente à saúde ou levar a consultas médicas desnecessárias, espelhando os problemas observados com tecnologias anteriores de autodiagnóstico.
Como funciona: uma análise passo a passo
A plataforma Copilot da Microsoft permitirá aos usuários criar um perfil de saúde inserindo informações demográficas básicas (idade, sexo) e depois optando por compartilhar registros. O sistema extrai dados de dispositivos conectados, como rastreadores de condicionamento físico, e fornece resumos baseados em IA. Outras plataformas seguirão um modelo semelhante.
Por que isso é importante: o panorama geral
A mudança para integrar a IA com dados médicos não é apenas uma questão de conveniência. Faz parte de uma tendência mais ampla em que as empresas de tecnologia buscam um controle mais profundo sobre as informações pessoais. Dados os recentes processos judiciais contra a OpenAI e a Microsoft por alegada violação de direitos de autor (incluindo conteúdo de notícias utilizado para treinar sistemas de IA), o incentivo para rentabilizar os dados dos utilizadores é claro.
As consequências a longo prazo da entrega de registos médicos a empresas tecnológicas com fins lucrativos são desconhecidas, mas o potencial de utilização indevida é elevado. Proceda com extremo cuidado.
Este é um desenvolvimento rápido com implicações significativas para os cuidados de saúde, a privacidade e a relação entre os indivíduos e a tecnologia.
