OpenAI dan NASK Polandia mengumumkan kerja sama baru di bidang keselamatan dan keamanan kecerdasan buatan. Berdasarkan rilis resmi OpenAI (23/10), kolaborasi ini berfokus pada riset teknis, pertukaran informasi soal ancaman, dan edukasi publik agar sistem AI lebih aman dipakai di tengah meningkatnya risiko penyalahgunaan.

NASK adalah lembaga riset dan pusat keamanan siber di bawah Kementerian Digital Polandia yang selama ini menangani respons insiden dan perlindungan infrastruktur digital. Dalam kerja sama ini, kedua pihak akan berbagi temuan tentang cara aktor jahat mencoba memanipulasi model AI, mulai dari upaya membuat model menghasilkan informasi berbahaya hingga serangan yang menyalahgunakan API untuk tujuan penipuan. OpenAI menjelaskan bahwa pertukaran semacam ini membantu tim keamanan mereka memahami pola serangan lebih cepat dan menyesuaikan pertahanan yang sesuai.

Salah satu fokus utama adalah riset tentang jailbreak dan prompt injection, yaitu teknik yang dipakai orang untuk mengelabui model agar mengabaikan aturan keselamatan. OpenAI dan NASK akan menelusuri bagaimana serangan ini berkembang, lalu bekerja sama merancang mitigasi. Kerja sama juga mencakup dukungan terhadap inisiatif keamanan siber Polandia, termasuk program-program yang sudah dijalankan NASK untuk melindungi masyarakat dari penipuan daring dan disinformasi.

Lewat kolaborasi ini, OpenAI juga akan mendukung program literasi digital NASK, termasuk materi tentang cara menggunakan AI secara bertanggung jawab. Tujuannya agar pengguna awam, pelajar, dan tenaga profesional punya pemahaman yang sama tentang risiko serta cara aman berinteraksi dengan model bahasa besar.

Secara umum, kemitraan antara perusahaan AI dan lembaga keamanan nasional semakin lazim seiring model bahasa besar dipakai di berbagai lini, dari layanan pelanggan hingga alat bantu riset. Model AI bekerja dengan menebak kata atau token berikutnya berdasarkan pola dari data latihan, sehingga lapisan keselamatan seperti filter keluaran dan kebijakan penggunaan menjadi penting untuk mencegah respons yang berbahaya. Kerja sama seperti ini biasanya menghasilkan panduan teknis bersama, latihan bersama, dan kadang berbagi indikator ancaman agar pertahanan satu pihak bisa melindungi pihak lain. Rilis tidak merinci jadwal rilis hasil riset atau produk turunan dari kerja sama ini.