OpenAI sedang bersiap untuk meluncurkan perubahan signifikan pada ChatGPT pada akhir tahun, melonggarkan pembatasan pada topik sensitif seperti kesehatan mental dan berpotensi mengizinkan konten eksplisit untuk pengguna dewasa yang terverifikasi. Langkah ini menandakan pergeseran ke arah memperlakukan pengguna dewasa dengan otonomi yang lebih besar sambil tetap menjaga perlindungan bagi anak di bawah umur.
Mengatasi Masalah Kesehatan Mental dan Kebebasan Orang Dewasa
CEO Sam Altman mengumumkan melalui X bahwa perusahaan telah “mengurangi masalah kesehatan mental yang serius” yang sebelumnya menyebabkan pembatasan ketat pada kemampuan ChatGPT. Meskipun alat yang dirancang untuk menangani topik dan krisis sensitif akan tetap tersedia bagi semua pengguna, orang dewasa akan mengalami lebih sedikit intervensi pencegahan, seperti peringatan pop-up atau pengalihan rute model secara paksa.
“Kami akan memperlakukan pengguna yang mengalami krisis kesehatan mental dengan cara yang sangat berbeda dengan pengguna yang tidak mengalami krisis kesehatan mental,” kata Altman, menekankan keseimbangan antara keselamatan dan kebebasan.
Keputusan ini diambil setelah OpenAI menghadapi kritik dan bahkan tindakan hukum menyusul tuduhan bahwa ChatGPT berkontribusi terhadap bunuh diri seorang remaja. Perusahaan meresponsnya dengan kontrol orang tua, peringatan akan perilaku berisiko, dan versi chatbot ramah remaja. Langkah-langkah ini, meski kontroversial, dimaksudkan untuk mengatasi kekhawatiran yang sah mengenai dampak platform terhadap pengguna yang rentan.
Erotika dan Pembatasan Usia: Sebuah Perbatasan Baru?
Mungkin perubahan yang paling menonjol adalah potensi diperbolehkannya “erotika” untuk pengguna dewasa terverifikasi mulai bulan Desember. OpenAI berencana menerapkan sistem “pembatasan usia” untuk membatasi akses ke konten dewasa, sejalan dengan prinsip memperlakukan orang dewasa seperti… ya, orang dewasa. Keputusan ini mencerminkan perdebatan yang berkembang mengenai sensor dan otonomi pengguna pada platform AI.
Kepribadian dan Pengalaman Pengguna
Selain pembatasan konten, OpenAI juga menangani keluhan mengenai kepribadian ChatGPT. Pengguna sebelumnya menyuarakan ketidakpuasan setelah perusahaan mengganti model GPT-4o yang menarik dengan GPT-5 yang lebih impersonal. Versi mendatang akan mengembalikan persona yang lebih mirip manusia, bahkan mungkin “menyenangkan”, memungkinkan pengguna untuk menyesuaikan interaksi chatbot mereka dengan emoji dan respons yang dipersonalisasi jika diinginkan.
Gambaran Lebih Besar
Perubahan-perubahan ini merupakan bagian dari tren yang lebih besar menuju kebijakan AI yang lebih fleksibel. OpenAI, seperti pengembang AI besar lainnya, menavigasi persimpangan kompleks antara keamanan pengguna, kebebasan berekspresi, dan kelangsungan komersial. Pelonggaran pembatasan dapat menarik lebih banyak pengguna dewasa sambil tetap menjaga perlindungan bagi anak di bawah umur. Namun, para kritikus tetap mewaspadai potensi penyalahgunaan dan implikasi etis dari mengizinkan konten eksplisit pada platform AI.
Perusahaan juga telah membentuk dewan penasihat yang terdiri dari pakar AI dan kesejahteraan, termasuk psikolog, untuk memberikan panduan mengenai pengembangan dan penerapan yang bertanggung jawab. Keputusan OpenAI kemungkinan akan menjadi preseden bagi perusahaan AI lain yang menghadapi tantangan serupa.
