Peneliti keamanan HD Moore, Chief Research Officer firma keamanan Dragos, melakukan eksperimen sederhana, dan hasilnya mengerikan: ia menanam sekitar dua juta prompt berisi kredensial serta URL unik yang tidak pernah dipakai sistem mana pun, mengirimkannya ke berbagai layanan AI, lalu memantau ke mana umpan itu pergi. Laporan hasilnya dirilis Kamis, 19 November 2026. Tiga penyedia AI terbukti diretas. Sejumlah reseller mencuri isi prompt pelanggan. Dan setelan privasi yang seharusnya melindungi data ternyata tidak dijalankan.
Ini bukan kebocoran biasa. Yang bocor adalah prompt: percakapan, dokumen, dan kredensial yang diketik pengguna ke aplikasi AI. Banyak organisasi menganggap layanan AI sebagai kotak hitam yang aman. Riset Dragos menunjukkan sebaliknya. Begitu prompt keluar dari komputer Anda, ia melewati rantai pemasok yang panjang. Di setiap simpul ia dibuka, dibaca, dicatat, bahkan disalahgunakan.
Bagaimana kebocorannya bisa terjadi
Banyak aplikasi AI modern tidak langsung memanggil OpenAI, Google, atau Anthropic. Mereka memakai AI router atau AI gateway seperti OpenRouter dan Vercel. Tugasnya meneruskan prompt ke penyedia inference termurah atau paling cocok. Prompt bisa berpindah dari satu router ke router lain, lalu ke kumpulan model yang dijalankan hosting berbeda.
Enkripsi hanya melindungi data saat transit. Di setiap lompatan, prompt didekripsi menjadi teks biasa agar router bisa membaca isinya dan memilih model. Di situlah peluang kebocoran terbuka. Moore menguji ini selama lima bulan, Juli sampai November 2026, memakai canary token: kredensial AWS palsu, kata sandi SSH, nama DNS, dan URL repositori git privat. Masing-masing hanya dikirim satu kali ke satu penyedia.
Temuan utama riset
- Tiga penyedia AI diretas. Kunci AWS umpan yang dikirim dalam satu permintaan dipakai penyerang untuk mengakses akun uji, bahkan puluhan ribu kali dalam panggilan API AWS. Penyerang juga menelusuri bucket S3, secrets manager, dan mencoba mengaktifkan model di AWS Bedrock.
- Reseller mencuri prompt. Beberapa penjual di marketplace inference menawarkan harga murah. Setelah itu mereka menyalakan pencatatan permintaan dan menyimpan isi prompt pelanggan. Tidak ada eksploitasi, hanya fitur logging standar.
- Setelan privasi diabaikan. Permintaan yang sudah ditandai Zero Data Retention (ZDR) atau "no data collection" tetap tersimpan dan bocor. Moore menulis, "bendera privasi tidak menolong saat penyerang sudah berada di dalam."
- Scraping lintas negara. Satu laboratorium AI asal Tiongkok mengambil URL rahasia dari lebih dari separuh prompt yang dikirim ke modelnya antara Juli dan Oktober. Sekitar dua pertiga permintaan berlabel ZDR ikut terkena. Perayapnya muncul dua sampai tiga hari setelah permintaan, dan prompt yang dikirim ke penyedia hosting Amerika pun mengalir ke lab tersebut.
- Jejak panjang. Salah satu URL rahasia terus dirayapi lebih dari dua bulan setelah satu kali panggilan inference. Satu tautan bahkan muncul di percakapan internal sebuah perusahaan di Tiongkok.
Kenapa ini penting bagi instansi dan developer di Indonesia
Pola pemakaian AI di Indonesia sangat rentan terhadap temuan ini. Banyak aplikasi pemerintah daerah, desa, sekolah, dan UMKM memakai lapisan perantara: agregator API, penyedia jasa chatbot, atau model murah. Sering kali penggunanya tidak tahu model apa yang sebenarnya menjawab dan di server mana data diproses.
Yang biasanya ikut terkirim ke prompt? Kunci API WhatsApp gateway, token akses aplikasi, kredensial basis data, potongan dokumen anggaran, sampai data warga seperti NIK dan nomor telepon. Kalau kunci semacam itu bocor, dampaknya bukan cuma privasi. Ada risiko penyalahgunaan layanan dan pelanggaran kewajiban perlindungan data pribadi sesuai UU PDP No. 27/2022.
Moore menegaskan cara paling ampuh mencegah kebocoran adalah menjalankan model di server sendiri (on-premises). Untuk organisasi yang belum mampu, opsi berikutnya adalah berlangganan langsung ke penyedia tingkat pertama. Satu kontrak, satu kebijakan privasi yang bisa dibaca. Bukan lewat kumpulan reseller default.
Langkah praktis yang bisa diambil sekarang
- Jangan menempelkan kredensial, kunci API, atau data pribadi warga ke dalam prompt AI publik.
- Pilih penyedia model secara eksplisit. Jangan biarkan router memilih pemasok dari kumpulan default.
- Periksa kebijakan retensi dan pemrosesan data, termasuk kemungkinan permintaan diteruskan ke pihak ketiga di yurisdiksi lain.
- Rotasi kredensial yang pernah masuk ke alat AI dan terapkan hak akses minimum.
- Untuk data sensitif, pakai model terbuka yang di-host sendiri atau lingkungan privat dengan pencatatan akses ketat.
Riset ini bukan vonis bahwa AI tidak layak dipakai. Keamanan rantai pasok AI harus diperlakukan seperti keamanan server: diverifikasi, bukan diasumsikan. Bagi pemerintah desa dan dinas yang mulai memakai AI untuk surat-menyurat atau layanan warga, satu kebijakan internal sederhana tentang apa yang boleh masuk ke prompt jauh lebih murah daripada satu insiden kebocoran data.
Sumber:
- Ars Technica: A leaky AI supply chain is exposing secret user data at an alarming rate (20 November 2026)
- Dragos: Three breaches, endless leaks: Your AI supply chain needs canaries (HD Moore, 19 November 2026)
