NVIDIA mengumumkan Open Agent Safety Platform pada 28 September 2026, sebuah platform terbuka yang dirancang untuk membantu organisasi mengamankan agen AI sejak tahap pengujian hingga penerapan. Platform ini menggabungkan runtime open source OpenShell dengan NVIDIA Sentry, komponen pemantauan yang dirancang untuk mendeteksi perilaku agen di luar batas kebijakan.
Pengumuman tersebut hadir ketika agen AI mulai dirancang untuk menjalankan tugas secara lebih mandiri, termasuk mengakses internet, sistem internal, kredensial, dan layanan komputasi. Kemampuan itu dapat membantu otomatisasi, tetapi juga memperluas konsekuensi apabila agen salah mengambil keputusan atau menjalankan tindakan yang tidak diizinkan.
NVIDIA tidak memosisikan platform ini sebagai jaminan bahwa seluruh serangan atau perilaku berbahaya dapat dicegah. Open Agent Safety Platform lebih tepat dipahami sebagai perangkat lunak terbuka dan rancangan referensi untuk membangun lapisan pengamanan pada sistem yang menjalankan agen AI.
Dua komponen utama Open Agent Safety Platform
Platform keamanan agen AI NVIDIA terdiri dari dua komponen utama, yaitu OpenShell dan NVIDIA Sentry. Keduanya dirancang untuk menangani aspek pengamanan yang berbeda dalam siklus kerja agen.
OpenShell menjalankan agen dalam sandbox
OpenShell merupakan runtime open source yang menjalankan agen AI di lingkungan sandbox. Lingkungan ini memberikan pembatasan terhadap sumber daya yang dapat digunakan agen, termasuk sistem berkas, proses, jaringan, kredensial, dan akses inferensi.
Pendekatan sandbox bertujuan memisahkan ruang kerja agen dari bagian sistem yang tidak perlu diaksesnya. Dengan pembatasan tersebut, organisasi dapat menetapkan sumber daya mana yang boleh digunakan oleh agen dan mana yang harus tetap tertutup.
OpenShell menerapkan prinsip deny by default, atau akses ditolak secara default. Artinya, agen tidak memperoleh akses hanya karena sebuah sumber daya tersedia di lingkungan eksekusinya. Akses harus diberikan berdasarkan kebijakan yang ditentukan sebelumnya.
Runtime tersebut juga mencatat keputusan izin dan penolakan. Pencatatan ini dapat membantu organisasi meninjau tindakan agen, memahami permintaan akses yang muncul, serta memeriksa apakah kebijakan yang diterapkan sudah sesuai dengan kebutuhan operasional.
Selain pembatasan dan pencatatan, OpenShell disebut menyediakan verifikasi kebijakan. Fungsi ini berkaitan dengan pemeriksaan terhadap aturan akses sebelum kebijakan digunakan untuk mengendalikan perilaku agen.
NVIDIA Sentry memantau perilaku dari luar jalur utama
Komponen kedua adalah NVIDIA Sentry. NVIDIA merancangnya sebagai watchdog yang bekerja di luar jalur utama agen. Posisi ini dimaksudkan untuk memberikan lapisan pemantauan yang tidak sepenuhnya bergantung pada proses agen yang sedang diamati.
Sentry memantau perilaku agen untuk melihat apakah tindakan yang dilakukan masih berada dalam batas kebijakan. Jika agen mencoba keluar dari batas tersebut, Sentry dapat mengarantina agen. Dalam konteks ini, karantina menjadi mekanisme untuk mengisolasi agen ketika perilakunya dinilai melanggar aturan yang telah ditetapkan.
Rancangan watchdog di luar jalur utama penting karena agen yang memiliki akses luas dapat menjalankan serangkaian tindakan dalam waktu lama. Pemantauan terpisah dapat menjadi lapisan pemeriksaan tambahan, meskipun efektivitasnya tetap bergantung pada kebijakan, implementasi, dan konfigurasi sistem yang digunakan organisasi.
Memadukan perangkat lunak dan perangkat keras
NVIDIA menyatakan arsitektur platform tersebut memadukan kontrol perangkat lunak dengan penegakan keamanan berbasis perangkat keras. Dalam rancangan yang diumumkan, OpenShell berjalan pada NVIDIA Vera CPU, sedangkan Sentry ditempatkan pada NVIDIA BlueField-4 DPU.
Pemisahan komponen ini menempatkan runtime agen dan mekanisme pengawasan pada bagian arsitektur yang berbeda. OpenShell menangani lingkungan eksekusi serta kebijakan akses agen, sementara Sentry berperan sebagai pengawas perilaku di luar jalur utama.
Penempatan pada CPU dan DPU tersebut merupakan bagian dari rancangan referensi NVIDIA. Organisasi yang mempertimbangkan platform ini tetap perlu menilai kesesuaian arsitektur dengan infrastruktur, model operasional, jenis agen, dan sumber daya yang akan diakses.
Mengapa pengamanan agen AI menjadi perhatian
Agen AI berbeda dari sistem yang hanya menghasilkan jawaban berdasarkan satu permintaan. Agen dapat diberi tugas untuk merencanakan langkah, menggunakan alat, mengakses sumber daya, dan melanjutkan pekerjaan selama periode tertentu. Tingkat otonomi itu membuat batas akses menjadi bagian penting dari desain sistem.
Risiko dapat meningkat ketika agen terhubung ke internet, sistem internal, kredensial, atau proses yang memiliki dampak langsung terhadap layanan. Kesalahan dalam interpretasi instruksi, kebijakan yang terlalu longgar, atau tindakan yang tidak sesuai konteks dapat menyebabkan agen melakukan operasi di luar tujuan awal.
Dalam situasi tersebut, pengamanan tidak hanya bergantung pada model AI. Lingkungan eksekusi, aturan izin, pemantauan perilaku, dan kemampuan mengisolasi agen juga menjadi elemen penting. Open Agent Safety Platform berupaya menggabungkan elemen-elemen tersebut dalam satu rancangan.
Platform terbuka bukan jaminan keamanan mutlak
Status Open Agent Safety Platform sebagai perangkat lunak terbuka dan rancangan referensi perlu diperhatikan. Ketersediaan komponen secara terbuka dapat membantu organisasi mengevaluasi pendekatan pengamanan dan menyesuaikannya dengan kebutuhan. Namun, hal itu tidak otomatis menghilangkan seluruh risiko.
Keamanan akhir tetap dipengaruhi oleh cara organisasi menulis kebijakan, menentukan izin, mengatur kredensial, mengawasi log, serta menanggapi pelanggaran. Kebijakan yang terlalu luas dapat membuat prinsip pembatasan kehilangan manfaat. Sebaliknya, kebijakan yang terlalu ketat dapat menghambat tugas yang memang perlu dijalankan agen.
Pencatatan keputusan allow dan deny juga akan berguna apabila organisasi memiliki proses untuk meninjau catatan tersebut. Tanpa pemantauan dan evaluasi, log hanya menjadi rekaman aktivitas tanpa tindak lanjut yang memadai.
Karena itu, klaim mengenai platform ini perlu disampaikan secara proporsional. OpenShell dan NVIDIA Sentry menyediakan mekanisme pembatasan, pengawasan, dan karantina, tetapi mekanisme tersebut bukan bukti bahwa semua serangan atau perilaku berbahaya pasti dapat dihentikan.
Posisi platform dalam penerapan agen AI
NVIDIA menyebut platform tersebut ditujukan untuk membantu pengamanan agen AI dari tahap pengujian sampai penerapan. Pendekatan ini menempatkan keamanan sebagai bagian dari siklus pengembangan, bukan hanya pemeriksaan setelah agen digunakan di lingkungan produksi.
Pada tahap pengujian, organisasi dapat menilai jenis akses yang diminta agen dan melihat keputusan kebijakan yang tercatat. Menjelang penerapan, organisasi dapat menggunakan pembatasan sandbox dan pemantauan perilaku sebagai bagian dari rancangan pengendalian operasional.
Namun, penerapan tetap membutuhkan penilaian risiko yang spesifik. Agen yang hanya memproses data terbatas memiliki kebutuhan pengamanan berbeda dari agen yang dapat mengakses sistem internal, menjalankan proses, atau menggunakan kredensial. Open Agent Safety Platform menyediakan kerangka pengamanan, sementara keputusan mengenai izin dan pengawasan tetap berada pada organisasi yang mengoperasikannya.
