Berdasarkan rilis resmi OpenAI (23/10), perusahaan menjelaskan serangkaian langkah teknis untuk memperkuat keamanan lingkungan pelatihan dan evaluasi model frontier. Langkah ini mencakup pemisahan lingkungan kerja secara offline serta pembentukan tim red-teaming dengan akses komputasi tinggi yang bertugas menguji model dari dalam.
Secara umum, red-teaming adalah praktik menguji sistem AI dengan sengaja mencoba menemukan celah, kelemahan, atau perilaku berbahaya sebelum model tersebut digunakan secara luas. Tim red-teaming berperan sebagai pihak yang menyerang model dengan berbagai skenario untuk melihat apakah model merespons dengan cara yang aman atau justru menunjukkan perilaku yang tidak diinginkan.
OpenAI menjelaskan bahwa lingkungan pelatihan model frontier kini dijalankan secara lebih terisolasi dari jaringan eksternal. Pemisahan ini bertujuan mengurangi permukaan serangan siber yang bisa dieksploitasi pihak tidak bertanggung jawab, termasuk potensi pencurian bobot model atau penyisipan kode berbahaya ke dalam proses pelatihan. Dengan lingkungan offline, data dan parameter model tidak mudah diakses dari luar selama proses berlangsung.
Selain itu, OpenAI menyiapkan tim red-teaming internal yang dilengkapi kapasitas komputasi tinggi. Tim ini tidak hanya menguji model dari sisi percakapan biasa, tetapi juga diberi kemampuan untuk menjalankan eksperimen yang membutuhkan sumber daya besar, seperti simulasi serangan adversarial atau pengujian batas kemampuan model dalam kondisi ekstrem. Tujuannya agar potensi risiko dapat teridentifikasi sebelum model dirilis.
OpenAI juga memaparkan peningkatan pada proses evaluasi internal, termasuk pencatatan jejak audit yang lebih ketat dan kontrol akses berlapis bagi peneliti yang terlibat dalam pelatihan model frontier. Langkah-langkah ini dirancang agar setiap perubahan pada model dan data pelatihannya dapat ditelusuri kembali.
Secara umum, istilah model frontier merujuk pada model AI berskala terbesar dan paling mampu yang sedang dikembangkan, biasanya dengan kebutuhan komputasi yang sangat besar. Karena bobot dan kemampuan model ini bernilai tinggi serta berpotensi disalahgunakan, lingkungan pelatihannya menjadi target yang menarik bagi pihak yang ingin mencuri kekayaan intelektual atau mengganggu proses pengembangan. Pendekatan keamanan berlapis, mulai dari isolasi jaringan, audit, hingga pengujian adversarial, merupakan praktik yang umum diterapkan pada sistem bernilai tinggi di industri teknologi.