Para peneliti di Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) telah memperkenalkan metode terobosan yang disebut DP-Fusion, yang dirancang untuk mengatasi kerentanan kritis dalam kecerdasan buatan: kebocoran informasi sensitif yang tidak disengaja selama interaksi langsung.
Dipresentasikan pada konferensi bergengsi ICLR 2026 di Rio de Janeiro, DP-Fusion mengatasi meningkatnya risiko keamanan yang dihadapi oleh industri yang mengandalkan Model Bahasa Besar (LLM) untuk memproses data yang diatur secara ketat.
Masalah: “Kesenjangan Inferensi” dalam Privasi AI
Meskipun sebagian besar komunitas ilmiah berfokus pada perlindungan data selama fase pelatihan AI, kesenjangan keamanan yang signifikan masih tetap ada selama inferensi —tahap di mana pengguna benar-benar berinteraksi dengan model langsung.
Seiring dengan peralihan AI Generatif dari alat eksperimental ke infrastruktur penting, AI Generatif diterapkan di lingkungan berisiko tinggi, termasuk:
– Layanan Kesehatan: Menganalisis rekam medis pasien.
– Keuangan: Memproses transaksi dan data klien pribadi.
– Pemerintah: Menangani dokumentasi rahasia atau sensitif.
Dalam situasi ini, suatu model mungkin secara tidak sengaja “membocorkan” detail pribadi melalui respons yang dihasilkannya. Metode yang ada saat ini untuk mencegah hal ini, seperti scrubbing atau parafrase teks, tidak memiliki bukti keamanan matematis formal, sehingga membuat organisasi rentan terhadap ekstraksi data yang canggih.
Cara Kerja DP-Fusion: Perisai Matematika
DP-Fusion membedakan dirinya dengan menawarkan jaminan privasi yang dapat dibuktikan secara matematis pada “tingkat token”. Daripada sekadar mencoba menyembunyikan kata-kata, ia menggunakan proses empat langkah yang canggih untuk memastikan privasi tanpa mengorbankan kecerdasan AI:
- Identifikasi: Token sensitif (sedikit informasi) dalam masukan diberi label.
- Penetapan Dasar: Model berjalan tanpa token sensitif tersebut untuk membuat dasar “netral”.
- Pemrosesan Kontekstual: Model berjalan kembali dengan menyertakan token sensitif.
- Pencampuran Distribusi: Sistem memadukan dua keluaran sehingga respons akhir tetap dibatasi secara matematis oleh garis dasar.
Hal ini memastikan bahwa informasi sensitif disembunyikan secara efektif dalam keluaran, sementara kemampuan AI untuk memberikan jawaban yang koheren dan berguna tetap utuh.
Performa dan Keserbagunaan Unggul
Salah satu pencapaian paling signifikan dari DP-Fusion adalah kemampuannya untuk memecahkan “pertukaran privasi-utilitas.” Biasanya, peningkatan privasi membuat AI menjadi kurang koheren (sebuah konsep yang dikenal sebagai kebingungan ).
DP-Fusion mencapai tingkat kebingungan enam kali lebih rendah dibandingkan metode privasi pesaingnya, yang berarti metode ini menghasilkan teks yang jauh lebih berguna dan mudah dibaca dengan tetap menjaga keamanan yang lebih kuat.
Selain itu, teknologi ini menawarkan dua keunggulan berbeda:
– Kontrol yang Dapat Disesuaikan: Operator dapat menggunakan satu parameter untuk menyeimbangkan perlindungan. Menyetelnya ke nol memberikan privasi maksimum (menyembunyikan token sepenuhnya), sementara nilai yang lebih tinggi memungkinkan lebih banyak “utilitas” atau akurasi tergantung pada kasus penggunaan.
– Pertahanan Tujuan Ganda: Dengan memperlakukan data dari sumber eksternal yang tidak tepercaya sebagai data “sensitif”, DP-Fusion juga bertindak sebagai pertahanan terhadap injeksi cepat dan serangan jailbreak, sehingga melindungi model dari manipulasi permusuhan.
Konteks Ekonomi dan Operasional
Urgensi penelitian ini ditegaskan oleh besarnya skala pasar AI. Menurut McKinsey, inferensi AI akan mencakup lebih dari 40% total permintaan pusat data, dan tumbuh pada tingkat tahunan sebesar 35%.
Dengan perkiraan pasar inferensi AI global yang mencapai antara $250 miliar dan $350 miliar pada tahun 2030, “serangan permukaan”—jumlah momen ketika model langsung menyentuh data dunia nyata—berkembang secara eksponensial. Karena inferensi mewakili hingga 90% dari total biaya seumur hidup sistem AI, mengamankan fase ini bukan hanya masalah privasi, namun juga kelangsungan operasional jangka panjang untuk ekonomi digital global.
Kesimpulan
Dengan menyediakan cara yang ketat secara matematis untuk melindungi data selama interaksi AI langsung, DP-Fusion membuka jalan bagi penerapan AI Generatif yang aman di sektor yang diatur dengan ketat seperti kedokteran dan keuangan. Penelitian ini menandai pergeseran penting dari privasi “probabilistik” ke keamanan “dapat dibuktikan” di era penerapan AI berskala besar.
