Microsoft pada 19 Oktober 2026 mengumumkan perluasan Project Perception untuk meningkatkan keamanan agen AI yang digunakan di lingkungan perusahaan. Perluasan ini memperkenalkan pengelolaan izin berbasis tugas, penilaian risiko yang terus diperbarui, serta mekanisme pembatasan otomatis ketika perilaku atau dampak potensial agen berubah.
Microsoft mendorong organisasi untuk memperlakukan agen AI sebagai potensi risiko orang dalam. Alasannya, agen tidak hanya menghasilkan jawaban, tetapi juga dapat mengakses data, aplikasi, alat, dan sistem bisnis. Dalam kondisi tertentu, agen dapat mengambil keputusan atau menjalankan tindakan atas nama pengguna yang tidak sepenuhnya sesuai dengan maksud awal.
Melalui pendekatan tersebut, Microsoft ingin menggeser pengamanan agen AI dari model statis menuju pengawasan berkelanjutan. Fokusnya mencakup identitas agen, kewenangan yang diberikan, sumber daya yang bisa dijangkau, perilaku selama beroperasi, dan dampak dari setiap tindakan.
Tiga lapisan kontrol dinamis untuk agen AI
Perluasan Project Perception mencakup tiga kemampuan utama yang saling berhubungan. Ketiganya dirancang agar organisasi dapat menyesuaikan akses agen berdasarkan konteks, bukan memberikan izin luas sejak awal.
Dynamic Permissions membatasi akses berdasarkan tugas
Dynamic Permissions memberikan identitas dan kewenangan yang terpisah dari pengguna yang menjalankan atau memicu agen. Dengan pemisahan ini, agen tidak otomatis mewarisi seluruh akses milik pengguna.
Kewenangan agen dapat dibatasi berdasarkan tugas, durasi, dan batas akses yang ditentukan organisasi. Agen yang hanya ditugaskan untuk membaca laporan, misalnya, tidak semestinya memiliki kewenangan yang sama dengan agen yang diminta memperbarui sistem bisnis. Izin juga dapat dibuat sementara sehingga berakhir ketika tugas selesai atau periode akses berakhir.
Pendekatan berbasis tugas tersebut dimaksudkan untuk mengurangi dampak apabila agen salah memahami instruksi, mengalami perubahan perilaku, atau digunakan dalam alur kerja yang tidak sesuai rancangan.
Dynamic Agent Risk memperbarui penilaian secara berkelanjutan
Komponen kedua, Dynamic Agent Risk, menilai ulang risiko agen selama agen tersebut beroperasi. Penilaian tidak hanya bergantung pada konfigurasi awal, tetapi juga memperhitungkan aktivitas dan konteks yang berubah.
Faktor yang dipertimbangkan mencakup konfigurasi keamanan, sumber daya yang dapat dijangkau, potensi dampak dari tindakan, serta penyimpangan perilaku dari tujuan awal. Dengan demikian, tingkat risiko agen dapat meningkat ketika agen mulai berinteraksi dengan sistem yang lebih sensitif atau melakukan tindakan di luar pola yang diharapkan.
Penilaian dinamis ini penting karena risiko agen tidak selalu terlihat ketika agen pertama kali diberi akses. Sebuah agen dapat tampak aman dalam tugas sederhana, tetapi menghadirkan risiko lebih besar ketika memperoleh jalur ke data, aplikasi, atau sistem tambahan.
Dynamic Conditional Access memungkinkan pembatasan segera
Dynamic Conditional Access menyediakan respons terhadap perubahan tingkat risiko. Ketika risiko meningkat, organisasi dapat menerapkan pembatasan yang sesuai dengan kebijakan keamanan.
- Mengurangi izin agen yang sedang aktif.
- Memblokir tindakan tulis agar agen hanya dapat membaca informasi.
- Membatasi jalur akses jaringan ke sumber daya tertentu.
- Meminta persetujuan manusia sebelum tindakan berisiko dijalankan.
- Mengisolasi lingkungan runtime agen.
- Menghentikan agen sepenuhnya jika kondisi dianggap tidak aman.
Rangkaian respons tersebut menunjukkan bahwa pengamanan tidak harus berhenti pada keputusan mengizinkan atau menolak akses. Kontrol dapat disesuaikan secara bertahap, mulai dari pengurangan kewenangan hingga penghentian agen, berdasarkan tingkat risiko dan dampak yang mungkin terjadi.
Guardian Agents membantu pengawasan pada skala perusahaan
Microsoft juga memperkenalkan Guardian Agents sebagai bagian dari Project Perception. Agen penjaga ini dirancang untuk membantu memantau aktivitas agen lain, menyelidiki perubahan risiko, dan menjalankan respons pembatasan secara otomatis dalam batas kebijakan yang telah ditetapkan manusia.
Guardian Agents tidak dimaksudkan untuk menggantikan tata kelola manusia. Perannya adalah membantu organisasi menangani jumlah agen dan aktivitas yang dapat berkembang dengan cepat. Pada lingkungan perusahaan, pemantauan manual terhadap setiap tindakan agen akan sulit dilakukan jika tidak didukung otomatisasi.
Dengan pengawasan tersebut, organisasi dapat memperoleh mekanisme untuk mendeteksi perubahan perilaku, menilai konsekuensinya, lalu menerapkan pembatasan tanpa menunggu pemeriksaan manual untuk setiap kejadian. Namun, tindakan yang boleh dilakukan secara otomatis tetap harus ditentukan melalui kebijakan manusia.
Model AI bukan satu-satunya batas keamanan
Microsoft menekankan bahwa model AI tidak boleh menjadi satu-satunya lapisan keamanan. Model dapat membantu memahami instruksi dan mengambil keputusan, tetapi kontrol independen tetap diperlukan untuk mengamati serta membatasi tindakan agen.
Pemisahan ini menjadi penting karena agen memiliki kemampuan untuk menghubungkan model dengan alat dan sistem bisnis. Risiko tidak hanya berasal dari keluaran model, tetapi juga dari izin yang tersedia, urutan tindakan, data yang diakses, dan konsekuensi ketika tindakan tersebut dijalankan.
Dengan identitas terpisah, izin sementara, evaluasi risiko berkelanjutan, dan akses bersyarat, organisasi dapat menempatkan batas di luar model. Batas tersebut tetap dapat bekerja ketika agen berubah konteks atau ketika hasil tindakannya mulai menyimpang dari tujuan yang telah ditetapkan.
Pergeseran pendekatan dalam keamanan agen AI
Perluasan Project Perception menandai pergeseran dari perlindungan aplikasi atau model secara statis menuju tata kelola agen yang adaptif. Dalam pendekatan lama, akses sering kali ditetapkan di awal dan dipertahankan selama sesi atau proses berlangsung.
Pendekatan Microsoft menjadikan identitas, izin, perilaku, dan dampak sebagai bagian dari evaluasi yang berjalan terus-menerus. Agen dapat memperoleh kewenangan yang lebih sempit untuk tugas tertentu, lalu menghadapi pemeriksaan tambahan ketika mencoba menjangkau sumber daya atau melakukan tindakan yang lebih sensitif.
Laporan independen SecurityWeek pada 20 Oktober 2026 mengonfirmasi bahwa pengumuman Microsoft berfokus pada izin berbasis tugas dan penilaian risiko dinamis untuk agen AI perusahaan. Fokus tersebut memperlihatkan bahwa tantangan keamanan agen tidak hanya berkaitan dengan kemampuan model, tetapi juga dengan cara agen beroperasi di dalam sistem organisasi.
Bagi perusahaan, pengembangan ini menegaskan kebutuhan untuk mendefinisikan batas kewenangan sejak awal, memisahkan identitas agen dari identitas pengguna, serta menentukan tindakan yang memerlukan persetujuan manusia. Organisasi juga perlu memiliki kebijakan yang jelas tentang kapan akses dikurangi, runtime diisolasi, atau agen dihentikan.
Project Perception belum mengubah prinsip bahwa manusia tetap memegang kendali atas kebijakan keamanan. Namun, dengan kontrol dinamis dan Guardian Agents, Microsoft menawarkan kerangka untuk mengawasi agen AI secara lebih berkelanjutan ketika jumlah, kemampuan, dan cakupan penggunaan agen terus bertambah di lingkungan perusahaan.
