OpenAI (05/10) mempublikasikan penjelasan resmi mengenai pendekatannya terhadap aturan provenance teks Uni Eropa yang mulai mengatur penandaan pada konten buatan AI. Dokumen tersebut merinci di mana watermark diterapkan pada teks keluaran model, bagaimana mekanisme pendeteksiannya bekerja, dan alasan kenapa tahap awal akses hanya diperuntukkan bagi kalangan peneliti.
Watermark pada teks bekerja dengan prinsip yang mirip tanda air pada dokumen cetak: tidak mengubah tampilan luar tulisan, tetapi menyisipkan sidik yang bisa dikenali kemudian. Dalam konteks model bahasa, sidik itu berupa pola pada pilihan kata yang sengaja diarahkan saat teks dihasilkan. Setiap kali model menulis satu unit kata atau token, pilihannya sedikit dimiringkan ke kumpulan kata tertentu yang sudah ditandai. Pembaca tidak melihat perbedaannya, tetapi alat pendeteksi yang mengenali pola itu bisa menilai apakah sebuah paragraf kemungkinan besar ditulis manusia atau model.
Menurut OpenAI, penerapan dilakukan secara bertahap. Akses terhadap teknologi watermark pada tahap pertama hanya dibuka untuk komunitas peneliti lewat program yang sudah berjalan, dengan tujuan mengumpulkan data tentang akurasi, keandalan, dan dampak sebelum diperluas ke publik umum serta pelanggan API. Akses yang lebih luas akan dipertimbangkan setelah hasil dari pemakaian terbatas tersebut selesai dievaluasi.
Secara umum, provenance dalam konteks AI merujuk pada jejak asal-usul sebuah konten, yaitu informasi yang menunjukkan siapa atau apa yang memproduksinya. Aturan tentang penandaan ini merupakan bagian dari AI Act Uni Eropa, regulasi kecerdasan buatan yang mulai berlaku bertahap sejak 2024 dan menjadikan Eropa sebagai wilayah pertama yang secara eksplisit mewajibkan platform AI memberi label pada output mereka. Untuk teks, watermark adalah salah satu mekanisme yang dipertimbangkan karena tidak mengubah pengalaman baca, berbeda dari label visual yang sering dipandang mengganggu alur tulisan.