Berdasarkan rilis resmi OpenAI (30/10), perusahaan untuk pertama kalinya memublikasikan Community Safety Report, sebuah laporan berkala yang merangkum upaya pencegahan kekerasan di dalam ChatGPT. Peluncuran laporan ini disertai dengan pembaruan sistem perlindungan, terutama bagi pengguna berusia di bawah 18 tahun.

Pembaruan tersebut mencakup beberapa lapisan baru. OpenAI menyebut akan menambahkan sistem deteksi yang lebih sensitif terhadap percakapan bernuansa kekerasan atau rencana menyakiti diri sendiri, sehingga intervensi bisa dilakukan lebih awal sebelum percakapan berlanjut ke arah yang lebih berbahaya. Ketika sistem menandai percakapan semacam itu, ChatGPT akan menampilkan pesan yang mendorong pengguna mencari bantuan profesional dan, dalam situasi tertentu, menghubungkan mereka dengan layanan darurat atau orang dewasa yang dipercaya.

Selain itu, OpenAI memperkenalkan kebijakan verifikasi usia yang lebih ketat. Akun yang terdeteksi milik pengguna di bawah umur akan otomatis mendapat perlakuan berbeda dari akun pengguna dewasa, termasuk pembatasan konten dan penyaringan yang lebih agresif. Perusahaan juga menyiapkan jalur pelaporan internal yang lebih jelas bagi pengguna yang menemukan konten atau perilaku mencurigakan.

Laporan keselamatan komunitas sendiri dirancang sebagai dokumen publik yang akan diperbarui secara berkala. OpenAI menjelaskan bahwa transparansi ini dimaksudkan agar pihak luar, termasuk peneliti, pembuat kebijakan, dan masyarakat umum, dapat melihat bagaimana platform menangani isu-isu sensitif seperti kekerasan, eksploitasi anak, serta rencana serangan massal. Format ini mirip dengan laporan transparansi yang sudah lebih dulu dipakai oleh perusahaan media sosial besar.

Secara umum, istilah large language model merujuk pada sistem kecerdasan buatan yang menghasilkan teks berdasarkan pola dari data pelatihan dalam jumlah besar. Karena sistem ini dapat membahas hampir semua topik, termasuk topik berbahaya, penyedia layanan seperti OpenAI umumnya menambahkan lapisan pengaman tambahan untuk membatasi keluaran yang berisiko. Perlindungan khusus bagi remaja menjadi perhatian tersendiri karena kelompok usia ini dianggap lebih rentan terhadap konten manipulatif atau pengaruh negatif dari interaksi daring.