OpenAI meluncurkan ChatGPT Health, sebuah fitur baru yang dirancang untuk memusatkan pertanyaan medis dalam chatbot AI yang populer. Langkah ini mencerminkan meningkatnya permintaan akan informasi terkait kesehatan dari AI, dengan OpenAI melaporkan bahwa “ratusan juta” pengguna telah mencari nasihat kesehatan setiap minggunya. Tab Kesehatan, yang saat ini masih dalam versi beta, akan memungkinkan pengguna untuk mengintegrasikan data dari aplikasi seperti Apple Health dan MyFitnessPal, sehingga menciptakan profil kesehatan digital yang lebih komprehensif namun berpotensi berisiko.
Dilema Privasi
Ekspansi ke layanan kesehatan segera menimbulkan kekhawatiran mengenai keamanan data dan privasi. Berbeda dengan penyedia layanan kesehatan teregulasi, OpenAI tidak terikat oleh HIPAA atau undang-undang privasi AS yang komprehensif. Artinya, data kesehatan pribadi yang dikumpulkan oleh ChatGPT Health akan tunduk pada kebijakan OpenAI, yang mungkin tidak menawarkan perlindungan yang sama seperti pengaturan medis tradisional. Menurut Andrew Crawford dari Pusat Demokrasi dan Teknologi, hal ini dapat membuat informasi kesehatan sensitif rentan terhadap pelanggaran dan penyalahgunaan.
OpenAI mengklaim tab baru tersebut akan menyertakan riwayat obrolan terpisah, enkripsi, dan otentikasi multifaktor. Dinyatakan juga bahwa percakapan kesehatan tidak akan digunakan untuk pelatihan model. Namun, kurangnya pengawasan hukum yang ketat masih merupakan risiko yang signifikan.
Akurasi dan Risiko Misinformasi
Selain privasi, keandalan saran kesehatan yang dihasilkan oleh AI juga menjadi masalah yang semakin besar. Kasus telah muncul di mana pengguna menerima rekomendasi berbahaya, seperti mengganti garam dengan natrium bromida, yang menyebabkan rawat inap. OpenAI mengakui bahaya ini, dengan menyatakan bahwa ChatGPT Health tidak dimaksudkan untuk diagnosis atau pengobatan. Meskipun ada perbaikan pada model GPT-5 (yang lebih jarang berhalusinasi), potensi nasihat yang tidak akurat atau berbahaya tetap ada.
Pertimbangan Kesehatan Mental
Perusahaan ini telah melibatkan lebih dari 170 pakar kesehatan mental untuk meningkatkan responsnya terhadap percakapan sensitif. ChatGPT telah dilatih untuk mengarahkan pengguna yang mencari bantuan kesehatan mental ke sumber daya krisis. Meskipun OpenAI mengklaim bahwa AI-nya kini dapat meredakan percakapan yang tertekan dengan lebih efektif, efektivitas pagar pembatas ini masih belum pasti.
Akses dan Pandangan Masa Depan
ChatGPT Health saat ini tersedia melalui daftar tunggu. OpenAI membingkai tab sebagai alat untuk kebugaran, nutrisi, dan informasi medis umum, dan secara eksplisit menyatakan bahwa tab tersebut tidak akan menggantikan layanan kesehatan profesional. Namun, perluasan ke dalam domain ini menimbulkan risiko baru yang memerlukan pertimbangan cermat.
Kurangnya undang-undang privasi yang komprehensif dan risiko misinformasi yang disebabkan oleh AI membuat pengguna harus berhati-hati. ChatGPT Health mungkin menawarkan kemudahan, namun tidak menggantikan keahlian dan perlindungan hukum sistem layanan kesehatan tradisional.
