Berdasarkan tulisan di blog developer NVIDIA (04/11), perusahaan merilis kerangka kerja AI Factory Operations Agent, sebuah sistem berbasis agen AI yang dirancang untuk membantu tim Site Reliability Engineer (SRE) internal mengelola operasional klaster GPU berskala besar seperti NVIDIA DGX SuperPOD. Sistem ini dibangun di atas cetak biru NVIDIA NemoClaw dan dijalankan sepenuhnya secara on-premises dengan model terbuka NVIDIA Nemotron yang disajikan secara lokal di klaster produksi DGX H100, DGX B200, dan DGX GB300.
Bagi tim SRE yang sehari-hari harus berpindah-pindah dasbor untuk mencari penyebab penurunan performa pelatihan, kerangka kerja ini menyatukan pemeriksaan tersebut dalam satu antarmuka percakapan. Alih-alih memeriksa lapisan komputasi, jaringan, perangkat keras, dan penjadwalan secara terpisah, agen utama mengorkestrasi sub-agen khusus yang masing-masing menangani domain tertentu: Job Recovery, Hardware, Observability, Research, Kubernetes, dan Cluster Management. Sub-agen berkomunikasi lewat Model Context Protocol (MCP), standar terbuka yang memungkinkan setiap organisasi mengadopsi pola serupa untuk menjaga waktu aktif dan performa pabrik AI mereka.
Kerangka kerja ini menekankan batas tanggung jawab yang jelas antar-agen, investigasi bersifat baca-saja untuk membangun kepercayaan, korelasi lintas-lapisan untuk menemukan akar masalah yang terlewat oleh alat terpisah, serta penalaran yang transparan agar SRE dapat menelusuri bukti sebelum mengambil tindakan. Untuk lingkungan multi-tenant, agen, alat, dan sandbox dipisahkan sesuai cakupan agar data dan operasi tiap tenant tetap terisolasi, sementara tim operasi pusat tetap memiliki visibilitas klaster yang lebih luas melalui pembatasan tingkat kernel dari NVIDIA OpenShell.
Secara umum, Model Context Protocol (MCP) adalah standar yang memungkinkan model AI memanggil alat dan sumber data eksternal secara terstruktur, sementara Kubernetes adalah orkestrator kontainer yang banyak dipakai untuk menjalankan layanan secara terdistribusi. NVIDIA juga menyediakan contoh kode dan repositori terbuka di GitHub bagi pihak yang ingin mengevaluasi atau mengimplementasikan kerangka kerja serupa di lingkungan mereka sendiri.