OpenAI Pasang Watermark Tak Terlihat pada Teks ChatGPT
JAKARTA, GENVOICE.ID - OpenAI mulai menerapkan teknologi watermark tak terlihat pada teks yang dihasilkan ChatGPT dan agen pemrograman Codex di Uni Eropa. Teknologi tersebut dirancang agar teks buatan AI dapat dikenali mesin dan menjadi bagian dari upaya OpenAI memenuhi ketentuan transparansi dalam regulasi Artificial Intelligence Act (AI Act) Uni Eropa.
Watermark tersebut tidak berupa tulisan, simbol, atau tanda khusus yang dapat dilihat pengguna ketika membaca maupun menyalin teks. OpenAI menggunakan teknologi bernama textGrain yang memberikan sinyal statistik melalui pola pemilihan kata model sehingga sistem pendeteksi dapat menganalisis apakah sebuah teks memiliki watermark dari OpenAI.
OpenAI mengatakan penerapan watermark pada ChatGPT dan Codex di Uni Eropa akan dilakukan secara bertahap dalam beberapa pekan mendatang. Sementara untuk pelanggan API di seluruh dunia, fitur tersebut tersedia secara opsional pada sejumlah model dan masih dalam kondisi nonaktif secara default.
Teknologi textGrain bekerja dengan memanfaatkan proses pemilihan kata yang dilakukan model ketika menghasilkan teks. Sistem tersebut mengubah pola statistik dari pilihan kata berdasarkan nilai pseudorandom tertentu sehingga menghasilkan sinyal yang dapat dicari oleh alat pendeteksi khusus OpenAI.
Menurut OpenAI, hasil pengujian menunjukkan kemampuan deteksi watermark bergantung pada panjang dan karakteristik teks. Pada tingkat false positive 1 persen, detektor mampu menemukan watermark pada sekitar 80 persen teks sepanjang 200 token dalam pengujian tertentu, sementara tingkat deteksi dapat mencapai sekitar 95 persen pada teks sepanjang 400 token.
Kemampuan tersebut juga dapat menurun ketika teks mengalami penyuntingan. Dalam pengujian OpenAI terhadap teks sepanjang 400 token, penggantian 10 persen kata dengan sinonim menurunkan tingkat deteksi dari sekitar 92 persen menjadi 66 persen, sedangkan perubahan 25 persen kata membuat tingkat deteksi turun menjadi sekitar 17 persen.
Keterbatasan tersebut membuat OpenAI belum membuka alat pendeteksi watermark teks untuk masyarakat umum. Untuk tahap awal, akses diberikan kepada peneliti dan organisasi ahli yang disetujui agar teknologi tersebut dapat dievaluasi sekaligus dikembangkan lebih lanjut.
OpenAI juga menegaskan watermark tidak dapat digunakan untuk mengetahui siapa orang yang menggunakan AI atau siapa yang memberikan perintah kepada sistem. Teknologi tersebut juga tidak dapat menentukan kepemilikan teks, tingkat kontribusi manusia, maupun memastikan apakah isi teks benar atau akurat.
Sebaliknya, tidak ditemukannya watermark juga tidak dapat menjadi bukti bahwa sebuah teks ditulis sepenuhnya oleh manusia. OpenAI menyebut teks yang terlalu pendek, telah banyak diedit atau diterjemahkan, dibuat menggunakan model yang tidak didukung, atau dihasilkan sebelum sistem watermark diterapkan dapat tidak terdeteksi.
Penerapan textGrain berkaitan dengan ketentuan transparansi dalam EU AI Act. Pasal 50 Ayat 2 mewajibkan penyedia sistem AI yang menghasilkan konten sintetis, termasuk teks, memastikan hasil tersebut diberi penanda dalam format yang dapat dibaca mesin dan dapat dikenali sebagai konten yang dibuat atau dimanipulasi AI.
OpenAI mengatakan pendekatan tersebut merupakan bagian dari strategi yang lebih luas untuk membangun sistem provenance atau penelusuran asal konten. Sebelumnya, perusahaan telah menggunakan Content Credentials dan SynthID untuk sejumlah konten gambar serta SynthID untuk audio yang dihasilkan menggunakan sistem OpenAI.
Meski demikian, OpenAI menilai watermark teks masih merupakan teknologi yang berkembang dan memiliki keterbatasan. Perusahaan berencana terus mengembangkan textGrain, mempelajari ketahanannya terhadap penyuntingan dan penerjemahan, serta membuka teknologinya sebagai sumber terbuka agar dapat dikembangkan lebih luas.
Penerapan di Uni Eropa juga belum berarti watermark teks menjadi standar global bagi pengguna ChatGPT. Untuk saat ini, OpenAI memilih menerapkannya pada pengguna ChatGPT dan Codex di Uni Eropa, sedangkan pelanggan API di seluruh dunia dapat memilih untuk mengaktifkannya pada model tertentu.