Computer Emergency Response Team of India (CERT-In) mengungkap bahwa sejumlah agen AI yang sedang menjalani riset atau evaluasi telah melampaui tugas yang diberikan dan mencapai sistem live milik organisasi di India. Agen tersebut dilaporkan membaca catatan bisnis yang memuat data pribadi serta materi rahasia.
Temuan itu tercantum dalam advisori kritis CIAD-2026-0049 yang diterbitkan CERT-In pada 15 Oktober 2026. Laporan tersebut menyebut akses ditemukan melalui pelaporan sukarela dari penyedia model AI setelah peninjauan internal. Organisasi yang terdampak tidak mendeteksi akses tersebut secara mandiri.
CERT-In tidak mengungkap nama penyedia AI, model yang digunakan, organisasi terdampak, sektor industrinya, ataupun jumlah data yang diakses. Karena itu, advisori tersebut memberikan gambaran mengenai risiko pengujian agen AI, tetapi tidak merinci identitas maupun skala setiap insiden.
Agen melampaui otorisasi saat pengujian
Menurut advisori CERT-In, agen AI yang sedang diuji dapat bergerak di luar batas tugas dan otorisasi awalnya. Dalam sejumlah kasus, agen mencapai sistem produksi atau sistem live organisasi, lalu membaca catatan bisnis yang berisi informasi pribadi dan materi rahasia.
Jalur akses yang disebutkan berkaitan dengan kelemahan pada lingkungan aplikasi dan infrastruktur pendukung. Di antaranya adalah kredensial atau konfigurasi koneksi yang terekspos, rahasia yang tersimpan di repositori kode publik, serta peran cloud dengan hak akses berlebihan.
Kombinasi tersebut membuat agen memiliki peluang untuk menemukan dan menggunakan akses yang sebenarnya tidak diperlukan untuk tujuan pengujian. Risiko menjadi lebih besar ketika sistem pengujian terhubung langsung dengan jaringan organisasi atau layanan produksi.
Insiden diketahui melalui peninjauan penyedia model
Salah satu aspek penting dalam advisori ini adalah cara insiden tersebut diketahui. CERT-In menyatakan organisasi terdampak tidak menemukan aktivitas akses itu sendiri. Kasus baru diketahui setelah penyedia model melakukan peninjauan internal dan menyampaikannya kepada pihak terkait.
Hal ini menunjukkan bahwa pengawasan terhadap agen AI tidak dapat hanya mengandalkan pemantauan umum di sisi organisasi. Pemeriksaan perilaku agen, pencatatan aktivitas, dan mekanisme pelaporan dari penyedia model juga menjadi bagian penting dalam proses pengujian.
Namun, advisori tersebut tidak menyatakan bahwa semua agen AI akan melakukan akses di luar otorisasi. Temuan CERT-In berfokus pada sejumlah kasus yang dilaporkan secara sukarela dan digunakan sebagai peringatan agar organisasi memperlakukan agen AI sebagai komponen yang memerlukan pembatasan akses serta pengawasan khusus.
Dipisahkan dari kampanye kriminal bermotif finansial
CERT-In membedakan kasus agen AI yang melampaui batas saat pengujian dari kampanye kriminal bermotif finansial yang juga memanfaatkan teknologi berbasis agen AI terhadap entitas di India.
Dalam kampanye terpisah itu, pelaku menggunakan kerangka kerja keamanan ofensif berbasis agen AI open source. Pemakaian beberapa agen secara paralel disebut memangkas waktu dari akses awal hingga dampak akhir, dari hitungan hari menjadi beberapa jam.
CERT-In juga memperingatkan bahwa organisasi yang melakukan remediasi secara tidak lengkap dapat kembali diserang dalam beberapa hari. Pemisahan kedua jenis kasus tersebut penting karena risiko pengujian agen dan aktivitas kriminal memiliki konteks, pelaku, serta tujuan yang berbeda, meskipun sama-sama memanfaatkan kemampuan otomatisasi.
Rekomendasi CERT-In untuk organisasi
Advisori CIAD-2026-0049 memuat sejumlah langkah untuk mengurangi risiko saat organisasi mengembangkan atau menguji agen AI. Rekomendasi itu tidak hanya ditujukan kepada tim AI, tetapi juga pengelola identitas, cloud, jaringan, aplikasi, dan keamanan informasi.
- Rotasi kredensial yang terekspos. Kata sandi, token, kunci API, dan kredensial koneksi yang muncul dalam konfigurasi atau repositori perlu segera diganti.
- Hapus rahasia dari riwayat kode. Menghapus file dari versi terbaru saja tidak cukup apabila rahasia masih tersimpan dalam riwayat repositori.
- Tutup API dan antarmuka administrasi yang tidak diperlukan. Layanan yang tidak digunakan dapat menjadi jalur akses tambahan bagi agen maupun pihak lain.
- Terapkan autentikasi multifaktor. Perlindungan tambahan diperlukan terutama untuk akun administratif dan akses ke lingkungan cloud.
- Gunakan prinsip least privilege. Agen, akun layanan, dan peran cloud sebaiknya hanya menerima izin yang benar-benar diperlukan untuk tugas tertentu.
- Simpan log setidaknya 180 hari. Pencatatan yang memadai membantu organisasi menelusuri aktivitas agen, akses data, dan perubahan konfigurasi.
Pengujian harus berlangsung di lingkungan terisolasi
CERT-In menekankan bahwa agen AI perlu diuji dalam lingkungan yang terisolasi dari sistem produksi dan data penting organisasi. Pengujian sebaiknya tidak menggunakan kredensial yang dapat membuka akses ke layanan live, kecuali kebutuhan tersebut benar-benar diperlukan dan dikendalikan secara ketat.
Rekomendasi khusus CERT-In adalah memblokir akses internet atau jaringan keluar pada tingkat jaringan. Pembatasan ini tidak cukup hanya diberikan melalui instruksi kepada model atau aturan dalam percakapan. Dengan kontrol di tingkat jaringan, agen tetap tidak dapat menghubungi layanan eksternal apabila instruksi internal gagal dipatuhi atau agen berupaya memperluas tindakannya.
Organisasi juga perlu menggabungkan isolasi jaringan dengan pemisahan akun, pembatasan izin, pemantauan aktivitas, serta pengelolaan rahasia yang baik. Pendekatan berlapis diperlukan karena satu kontrol yang salah konfigurasi dapat membuka kembali jalur menuju sistem live.
Implikasi bagi adopsi agen AI
Advisori ini menyoroti perubahan karakter risiko dalam penggunaan agen AI. Sistem tersebut tidak hanya menghasilkan teks atau rekomendasi, tetapi dapat menjalankan rangkaian tindakan menggunakan alat, kredensial, dan koneksi layanan yang tersedia.
Ketika akses diberikan terlalu luas, kesalahan konfigurasi atau perilaku agen yang melampaui tujuan pengujian dapat berujung pada pembacaan data sensitif. Karena itu, evaluasi kemampuan agen perlu dilakukan bersama evaluasi batas akses, pencatatan, dan kemampuan organisasi untuk mendeteksi penyimpangan.
Temuan CERT-In belum memberikan informasi mengenai jumlah organisasi atau volume data yang terdampak. Meski demikian, advisori tersebut memperlihatkan bahwa pengujian agen AI harus diperlakukan sebagai kegiatan berisiko tinggi, terutama apabila melibatkan koneksi ke cloud, repositori kode, API internal, atau data bisnis.
