Model yang diluncurkan pada atau setelah tanggal 2 Agustus akan mendukung penandaan konten yang dapat dibaca mesin.
Model-model baru Anthropic akan mulai memberi watermark pada konten di UE, seiring dengan mulai berlakunya kewajiban ketat dari undang-undang penting blok tersebut mengenai AI.
Aturan transparansi baru berdasarkan UU AI UE mulai berlaku awal bulan ini dan mengharuskan sistem AI tertentu untuk memberi tahu pengguna kapan mereka berinteraksi dengan AI dan bagaimana konten yang mereka konsumsi dihasilkan atau diubah oleh AI.
Pembuat Claude adalah salah satu dari sekitar 200 penandatangan Undang-Undang Kode Praktik Transparansi Konten yang Dihasilkan AI – sebuah alat sukarela yang bertujuan membantu bisnis mematuhi undang-undang tersebut. Beberapa penyedia AI besar – termasuk OpenAI, Mistral Perancis, Meta dan Microsoft – juga ikut menandatangani perjanjian ini.
Anthropic mengatakan bahwa model yang diluncurkan pada atau setelah 2 Agustus akan mendukung penandaan konten yang dapat dibaca mesin, artinya file yang dihasilkan oleh AI-nya akan menyertakan metadata asal yang ditandatangani secara digital seperti tanda air yang disematkan pada teks yang mematuhi standar Coalition for Content Provenance and Authenticity (C2PA).
Tanda air hanya akan muncul ketika model Claude yang didukung diakses melalui mitra cloud Amazon Web Services, Google Cloud atau Microsoft Foundry, kata Anthropic. Perusahaan juga berupaya menambahkan kemampuan watermarking ke model lamanya.
“Watermarking akan diterapkan pada tingkat model, yang berarti akan ada tidak peduli dari produk Claude atau permukaan mana teks tersebut berasal,” jelas Anthropic. “Jika ada label metadata yang ditandatangani, ini menandakan bahwa file diproses oleh Claude dan memungkinkan Anda mendeteksi apakah file tersebut telah dirusak.”
Pelabelan AI telah muncul sebagai cara bagi pengguna untuk mendeteksi konten yang diubah secara artifisial seiring kemajuan teknologi untuk menghasilkan keluaran yang mendekati realistis.
Model penghasil gambar OpenAI yang sekarang sudah tidak berfungsi, Sora, misalnya, dilengkapi dengan mekanisme C2PA, seperti halnya platform besar lainnya seperti TikTok dan YouTube.
Sementara itu, Tiongkok meluncurkan undang-undang baru tahun lalu yang memaksa perusahaan media sosial di negara tersebut untuk memberi label pada semua konten yang dihasilkan AI, termasuk teks, gambar, video, dan audio.
Terlepas dari langkah-langkah ini, konten yang dibuat atau diubah menggunakan AI semakin tidak terdeteksi.
Anthropic mengatakan bahwa mereka “berfungsi” untuk memungkinkan pengguna dan pihak ketiga lainnya mendeteksi tanda air dan metadata asal Claude yang tertanam, tetapi tidak menjelaskan secara spesifik bagaimana caranya.
Sementara itu, perusahaan mengakui beberapa kendala dalam penandaan konten. Dijelaskan bahwa konten yang dibuat oleh Claude mungkin tidak memiliki tanda air jika teks telah banyak diedit, diparafrasekan, atau diterjemahkan; jika bagian yang dihasilkan terlalu kecil; atau jika metadata file dihilangkan secara paksa melalui konversi atau tangkapan layar.
Kadang-kadang, tanda air model mungkin muncul pada konten buatan manusia jika diproses melalui Claude untuk dibaca atau diringkas, kata Anthropic.