OpenAI sta lanciando ChatGPT Health, una nuova funzionalità progettata per centralizzare le richieste mediche all’interno del suo popolare chatbot AI. La mossa riflette la crescente domanda di informazioni relative alla salute da parte dell’intelligenza artificiale, con OpenAI che segnala che “centinaia di milioni” di utenti già cercano consigli sul benessere settimanalmente. La scheda Salute, attualmente in versione beta, consentirà agli utenti di integrare i dati di app come Apple Health e MyFitnessPal, creando un profilo sanitario digitale più completo, ma potenzialmente rischioso.
Il dilemma della privacy
L’espansione nel settore sanitario solleva preoccupazioni immediate sulla sicurezza dei dati e sulla privacy. A differenza dei fornitori di servizi sanitari regolamentati, OpenAI non è vincolato dall’HIPAA o da qualsiasi legge statunitense sulla privacy completa. Ciò significa che i dati sanitari personali raccolti da ChatGPT Health saranno soggetti alle politiche di OpenAI, che potrebbero non offrire le stesse protezioni delle impostazioni mediche tradizionali. Secondo Andrew Crawford del Center for Democracy and Technology, ciò potrebbe rendere le informazioni sanitarie sensibili vulnerabili a violazioni e abusi.
OpenAI afferma che la nuova scheda includerà cronologia chat separata, crittografia e autenticazione a più fattori. Si afferma inoltre che le conversazioni sulla salute non verranno utilizzate per la formazione dei modelli. Tuttavia, la mancanza di un rigoroso controllo legale rimane un rischio significativo.
Accuratezza e rischio di disinformazione
Al di là della privacy, l’affidabilità dei consigli sanitari generati dall’intelligenza artificiale è un problema crescente. Sono emersi casi in cui gli utenti hanno ricevuto raccomandazioni pericolose, come la sostituzione del sale con bromuro di sodio, che hanno portato al ricovero in ospedale. OpenAI riconosce questo pericolo, affermando che ChatGPT Health non è destinato alla diagnosi o al trattamento. Nonostante i miglioramenti apportati al modello GPT-5 (che ha allucinazioni meno frequentemente), rimane il rischio di consigli imprecisi o dannosi.
Considerazioni sulla salute mentale
L’azienda ha coinvolto oltre 170 esperti di salute mentale per migliorare le proprie risposte a conversazioni delicate. ChatGPT è stato addestrato per indirizzare gli utenti che cercano aiuto per la salute mentale verso risorse di crisi. Sebbene OpenAI affermi che la sua intelligenza artificiale ora può ridurre le conversazioni in difficoltà in modo più efficace, l’efficacia di questi guardrail è ancora incerta.
Accesso e prospettive future
ChatGPT Health è attualmente disponibile tramite una lista d’attesa. OpenAI inquadra la scheda come uno strumento per informazioni su fitness, alimentazione e medicina generale, affermando esplicitamente che non sostituirà l’assistenza sanitaria professionale. Tuttavia, l’espansione in questo ambito introduce nuovi rischi che richiedono un’attenta considerazione.
La mancanza di leggi esaustive sulla privacy e il rischio intrinseco di disinformazione generata dall’intelligenza artificiale impongono agli utenti di procedere con cautela. ChatGPT Health può offrire comodità, ma non sostituisce le competenze e le tutele legali dei sistemi sanitari tradizionali.
