Nvidia, produsen kartu grafis terkemuka, memperkenalkan tiga layanan inovatif bernama Nvidia Inference Microservices (NIM). Layanan ini dirancang untuk menjadi “pengaman” teknologi kecerdasan buatan (AI) guna mencegah agen AI berperilaku tidak semestinya. Agen AI, yang mampu menggantikan manusia dalam berbagai tugas, sering kali dikritisi karena potensi menghasilkan keputusan yang kurang tepat atau bahkan membahayakan keamanan, terutama jika pengguna mencoba memodifikasinya.
NIM hadir sebagai solusi yang dioptimalkan untuk mempercepat implementasi model AI pada infrastruktur cloud maupun data center. Layanan ini juga menjadi bagian integral dari Nvidia NeMo Guardrails, rangkaian software yang dirancang untuk mengatur kerja agen AI agar tetap terkendali.
Tiga Layanan Inti NIM
Untuk memastikan agen AI bekerja sesuai aturan, Nvidia menyematkan tiga layanan utama pada NIM, yakni:
- Keamanan Konten
Layanan ini dirancang untuk memastikan output AI bebas dari bias atau konten berbahaya. Nvidia menerapkan standar etika tertentu guna menjaga agar respons yang diberikan oleh AI tetap aman dan dapat diterima. - Pengendalian Topik
Fitur ini membantu agen AI tetap fokus pada topik yang telah ditentukan. Dengan demikian, potensi munculnya respons yang tidak relevan atau konten yang tidak layak dapat diminimalisasi. - Deteksi Jailbreak
Nvidia juga menambahkan kemampuan mendeteksi upaya jailbreak, yaitu usaha pengguna untuk menghapus batasan yang telah ditetapkan pada perangkat. Fitur ini menjaga agar agen AI tetap beroperasi dalam batasan yang telah dirancang sebelumnya.
Dataset Khusus untuk Melatih AI
Dalam mengembangkan layanan NIM, Nvidia menggunakan Aegis Content Safety Dataset, yaitu kumpulan data yang mencakup lebih dari 35.000 sampel. Dataset ini telah melalui proses anotasi manual oleh manusia dan dirancang khusus untuk mendukung keamanan AI.
“Dengan menerapkan berbagai model pembatas, pengembang dapat mengatasi celah yang sering kali muncul ketika hanya menggunakan kebijakan global. Pendekatan ini memastikan pengendalian yang lebih akurat dalam alur kerja agen AI yang kompleks,” tulis Nvidia dalam blog resminya.
Solusi Tanpa Mengorbankan Performa
Layanan NIM ini tidak hanya mengutamakan keamanan, tetapi juga menjaga performa. Pengguna tetap dapat berinteraksi dengan agen AI tanpa mengalami keterlambatan waktu respons. Hal ini memberikan pengalaman yang lebih optimal bagi para pengguna, sekaligus menjaga integritas agen AI.
Layanan terbaru dari Nvidia ini diharapkan mampu membantu mitra perusahaan dalam meningkatkan keamanan, akurasi, serta skalabilitas aplikasi berbasis AI generatif.