IBM (09/11) memperkenalkan Praxis Policy Engine, sebuah lapisan kebijakan terprogram yang dirancang untuk mengawasi perilaku agen AI dari tahap inferensi, gateway, hingga kontrol kebijakan internal. Dalam tulisan di blog risetnya, IBM menyebut komponen ini sebagai “penjaga keamanan yang dapat diprogram” untuk agen AI, dengan tujuan memastikan setiap tindakan agen tetap berada dalam koridor aturan yang ditetapkan organisasi.

Secara umum, agen AI adalah sistem yang tidak hanya menjawab pertanyaan, tetapi juga dapat menjalankan tugas secara mandiri, seperti memanggil API, menulis kode, atau berinteraksi dengan layanan lain. Karena sifat otonomnya, risiko keluar dari kebijakan yang ditetapkan, misalnya mengakses data sensitif atau melakukan tindakan yang tidak diinginkan, menjadi perhatian tersendiri bagi tim keamanan dan kepatuhan. Praxis Policy Engine mencoba menjawab itu dengan menyisipkan titik pemeriksaan kebijakan di setiap lapisan tumpukan AI, bukan hanya di satu titik akhir.

IBM menjelaskan bahwa mesin kebijakan ini dapat diprogram sesuai kebutuhan organisasi, sehingga aturan dapat diperbarui tanpa harus mengubah keseluruhan sistem. Pendekatan ini memungkinkan tim teknis menyesuaikan kebijakan seiring berkembangnya kasus penggunaan dan regulasi yang berlaku. Dengan posisi yang membentang dari inferensi hingga gateway, Praxis diharapkan memberi visibilitas dan kontrol yang lebih seragam terhadap keputusan yang diambil agen.

Lapisan kebijakan di tumpukan AI merujuk pada komponen yang berfungsi menegakkan aturan akses, privasi, dan kepatuhan sebelum, selama, atau setelah model memproses permintaan. Keberadaan lapisan semacam ini umum dalam arsitektur keamanan siber, dan penerapannya pada agen AI menjadi semakin relevan seiring bertambahnya kemampuan otonom yang dimiliki sistem tersebut.