Penandaan air AI adalah teknologi yang tidak dapat diandalkan dengan ‘keterbatasan yang signifikan’, kata OpenAI.
OpenAI meluncurkan watermarking teks di UE dalam upaya terbarunya untuk mematuhi undang-undang AI di kawasan tersebut setelah blok tersebut mengatakan akan mengatur ChatGPT berdasarkan aturan paling ketat untuk platform online.
Perusahaan tersebut mengatakan bahwa dalam beberapa minggu mendatang, mereka akan menambahkan tanda air yang tidak terlihat pada teks yang dihasilkan oleh ChatGPT dan Codex di UE. Pelanggan API secara global juga akan diizinkan untuk ikut serta dalam pemberian watermark teks pada beberapa model, sementara peneliti dan pakar terpilih akan mendapatkan akses untuk mengevaluasi deteksi watermark.
Fitur baru ini muncul setelah aturan transparansi berdasarkan UU AI UE mulai berlaku pada bulan Agustus ini, yang mewajibkan sistem AI tertentu untuk memberi tahu pengguna saat mereka berinteraksi dengan AI dan bagaimana konten yang mereka konsumsi dihasilkan atau diubah oleh AI.
Teknologi watermarking AI tidak sepenuhnya dapat diandalkan, demikian pendapat para peneliti, perusahaan AI, dan anggota parlemen. Namun kekhawatiran seputar dampak konten yang dimanipulasi terhadap masyarakat membuat regulator mendorong teknologi deteksi, terlepas dari keakuratannya saat ini.
Teknologi watermarking teks OpenAI, yang disebut TextGrain, menambahkan sinyal statistik yang tidak terlihat pada pilihan kata model, kata perusahaan itu. Detektor mencari sinyal tersebut untuk menilai apakah suatu bagian mengandung tanda air.
Bagian yang lebih pendek dan keluaran yang dihasilkan AI yang diedit oleh manusia lebih sulit dideteksi untuk diberi tanda air, perusahaan tersebut menjelaskan. Menurut pengujiannya, tingkat deteksi menurun drastis dari hampir 100 persen ketika teks yang dihasilkan tidak diedit menjadi kurang dari 20 persen ketika 25 persen kata diubah.
“Penandaan dan deteksi teks air masih merupakan teknologi awal dengan keterbatasan yang signifikan… Pendekatan bertahap kami mencerminkan persyaratan UU AI UE serta keterbatasan teknologinya,” kata OpenAI.
Pembuat ChatGPT adalah salah satu dari sekitar 200 penandatangan Kode Praktik UU AI tentang Transparansi Konten yang Dihasilkan AI – sebuah tindakan sukarela yang bertujuan membantu bisnis mematuhi undang-undang Uni Eropa. Anthropic, Mistral Perancis, Meta dan Microsoft juga ikut menandatangani perjanjian ini.
OpenAI sudah memiliki sejumlah mekanisme verifikasi untuk jenis konten lainnya. Output gambar dan audio yang didukung diberi label dengan tanda air C2PA dan SynthID.
Anthropic, pada bulan Agustus, berjanji untuk mulai memberi watermark pada konten di UE. Menurut perusahaan tersebut, teks yang dihasilkan menggunakan model Claude yang diluncurkan di blok tersebut setelah tanggal 2 Agustus kini memiliki tanda air yang tertanam, dan file yang dihasilkan akan menyertakan kredensial C2PA jika didukung.