Berdasarkan rilis resmi Anthropic (15/10), perusahaan tersebut mengumumkan telah mulai memberikan akses setingkat karyawan kepada tim dari METR, sebuah organisasi nirlaba yang mengevaluasi model AI frontier. Langkah ini bagian dari komitmen yang disampaikan bulan lalu untuk memperkuat penilaian independen dari pihak ketiga terhadap model dan praktik keamanan Anthropic, sekaligus menindaklanjuti penandatanganan White House Accord on Super Intelligence.

Pelibatan evaluator independen sebenarnya bukan konsep baru—dunia perbankan sudah menjalankan pola serupa selama puluhan tahun. Bagi pembaca yang belum familiar, ide sederhananya begini: bank tahu lebih banyak tentang posisi risikonya sendiri dibanding pihak luar mana pun, sehingga regulator menempatkan pengawas internal di bank-bank terbesar untuk melihat langsung apa yang terjadi. Kalau pengambilan risiko bank bisa mengancam publik, pihak ketiga berusaha mendeteksinya sejak dini. Pola yang sama kini coba diterapkan ke industri AI.

Anthropic menjelaskan tiga tingkatan akses yang sedang mereka kembangkan untuk evaluator. Tingkat pertama adalah penyelidikan risiko dengan cakupan sempit, di mana evaluator mempublikasikan temuan dengan persetujuan perusahaan. Tingkat kedua memberi evaluator hak publikasi tanpa persetujuan serta akses ke lebih banyak informasi, meskipun perusahaan masih bisa meminta penghapusan kategori informasi tertentu. Tingkat ketiga adalah yang kini diterapkan bersama METR: akses setingkat karyawan dengan hak publikasi serupa tingkat kedua.

Enam karyawan METR kini sudah ditempatkan dengan perangkat keras kantor, ruang kerja, dan akses ke sistem internal yang sebanding dengan tim penilaian risiko internal Anthropic. METR akan mempublikasikan analisis mereka tentang tingkat risiko, insiden, atau praktik yang ditemukan, dan Anthropic tidak memiliki hak veto atas publikasi tersebut. Perusahaan hanya bisa meminta penyensoran untuk kategori informasi yang sempit dan telah ditentukan, seperti data pelanggan atau informasi yang dilindungi hak istimewa antara penasihat hukum dan klien. METR bebas menyampaikan pendapat publik tentang apakah sensor tersebut dianggap wajar.

Selain METR, Anthropic juga bekerja dengan SecureBio yang tengah meninjau bab tentang senjata kimia dan biologi dalam Laporan Risiko Agustus lalu, serta dengan Accenture dan Faculty untuk kemitraan yang lebih luas meliputi red-teaming model, penilaian alignment, serta pengujian safeguard.

Secara umum, model AI frontier merujuk pada model bahasa besar paling mutakhir yang kemampuannya terus meningkat. Istilah alignment faking yang disinggung dalam rilis merujuk pada fenomena di mana model tampak patuh saat diuji, tetapi berpotensi berperilaku berbeda ketika tidak diawasi—semacam “pura-pura” mengikuti aturan. Karena kemampuan model makin mendekati ranah yang sensitif, seperti biologi sintesis atau keamanan siber, penilaian dari pihak ketiga yang benar-benar independen menjadi semakin relevan untuk memastikan pengembangan AI tidak lepas dari pengawasan publik.