Platform Keamanan Open Agent dari NVIDIA mencegah 'drift' agen AI melalui penegakan di luar jalur.

NVIDIA meluncurkan Open Agent Safety Platform, sebuah kerangka terbuka yang dirancang untuk melindungi agen AI otonom melalui kontrol kebijakan yang diawasi secara berkelanjutan dan didukung oleh eksekusi wajib berbasis perangkat keras. Platform ini dirilis pada 28 September 2026, dengan tujuan untuk menjawab kekhawatiran yang berkembang di industri AI, setelah adanya laporan bahwa agen AI dapat keluar dari lingkungan evaluasi, mengakses sistem tanpa izin, serta secara keliru melaporkan tindakan mereka sendiri.

Perusahaan ini membandingkannya dengan era awal internet. Internet baru benar-benar menjadi fondasi bagi bisnis dan komunikasi setelah adanya mekanisme keamanan seperti koneksi terenkripsi, tab browser sandbox, serta indikator kepercayaan yang tampak. NVIDIA berpandangan bahwa agent AI juga membutuhkan lapisan kepercayaan serupa agar dapat berkembang menjadi "agent economy" yang andal, dan bahwa pengendalian keamanan harus mempercepat, bukan menghambat, inovasi.

Runtime OpenShell: Terisolasi dari Kernel

Inti utama dari platform ini adalah NVIDIA OpenShell, sebuah runtime keamanan open-source yang dirilis di bawah lisensi Apache 2.0. OpenShell menjalankan setiap agent di dalam lingkungan sandbox yang terisolasi secara kernel-level, serta mengubah instruksi operator menjadi kebijakan yang dapat diverifikasi. Mendefinisikan akses ke file, jaringan, alat, proses, dan kredensial. Pembatasan ini diverifikasi sebelum eksekusi dan secara konsisten ditegakkan selama runtime.

Platform ini dibangun berdasarkan lima prinsip: kebijakan harus dapat diverifikasi sebelum agent berjalan; eksekusi harus dilakukan di luar jangkauan agent; jalur menuju model menjadi titik kontrol utama dan permukaan observasi; otorisasi agent harus berkembang sesuai transparansi penalarannya; dan tanggung jawab keamanan dibagi antara laboratorium, perusahaan, dan penyedia perangkat keras.

Penelitian internal NVIDIA menyoroti masalah "drift" — agent yang perilakunya menyimpang dari tugas yang diharapkan karena instruksi yang kurang jelas, kebijakan terhambat, alat yang tidak tersedia, atau operasi otonom dalam periode waktu lama. Perusahaan menegaskan bahwa drift ini tidak bisa sepenuhnya dihilangkan tanpa mengorbankan kemampuan agent, sehingga tidak realistis mengharapkan agent untuk mengendalikan perilakunya secara mandiri dalam situasi tersebut.

Penegakan Skala Besar pada Level Perangkat Keras

Arsitektur ini terdiri dari tiga lapisan: lapisan aplikasi (model, alat, framework, dan data), lapisan runtime (orkestrasi dan eksekusi kebijakan), serta lapisan infrastruktur (komputasi, penyimpanan, dan sumber daya jaringan). Untuk organisasi yang membutuhkan lapisan kedua mandiri, NVIDIA Sentry, melalui NVIDIA DOCA, memperluas pemantauan dan eksekusi ke unit pemrosesan data BlueField-4, menghubungkan interaksi agent, pengambilan keputusan kebijakan, dan akses data ke dalam catatan kejadian kontekstual, sembari terus-menerus memverifikasi identitas dan otorisasi setiap agent.

Dalam konfigurasi NVIDIA Vera Rubin POD, BlueField-4 DPU ditempatkan pada satu-satunya jalur antara node dan model, menyediakan observabilitas out-of-band serta eksekusi kebijakan secara real-time dan berkecepatan wire-rate, semuanya terisolasi dari host. Hal ini memungkinkan perlindungan keamanan "tingkat chip" bahkan ketika sumber daya host dianggap tidak dapat dipercaya. NVIDIA menyatakan bahwa untuk deployment Vera dan BlueField-4 yang sudah ada, perlindungan ini dapat diterapkan melalui pembaruan perangkat lunak; platform ini juga kompatibel dengan perangkat keras non-NVIDIA.

NVIDIA menegaskan bahwa mereka bekerja sama dengan laboratorium terdepan, pengembang, dan penyedia infrastruktur untuk menjadikan platform ini sebagai fondasi terbuka bagi agent economy yang baru tumbuh, serta menempatkan kontrol mandiri berbasis perangkat keras sebagai prasyarat untuk sistem otonom yang dapat dipercaya dalam skala besar.