Pembatasan AI Anthropic menimbulkan kekhawatiran di kalangan pendiri, peneliti, dan pengembang setelah dirilisnya model ‘mirip mitos’.
Baru minggu ini Anthropic diluncurkan Claude Fabel 5model AI yang diklaim perusahaan berpotensi menyaingi Mythos, meskipun dengan batasan keamanan yang signifikan untuk mencegah penyalahgunaan.
Namun, organisasi ini sudah menghadapi reaksi keras dari para pendiri, peneliti, dan pengembang yang menganggap kebijakan LLM ‘rahasia’ sengaja membatasi pesaing dan pengguna dalam pengembangan model AI alternatif.
Dalam pernyataan baru-baru ini yang mengumumkan ketersediaan Claude Fable 5, Anthropic menjelaskan bahwa model tersebut memiliki hambatan yang dirancang untuk memblokir respons yang menyimpang ke area berisiko tinggi – terutama keamanan siber, kimia, dan biologi. Interaksi seperti itu, katanya, akan dialihkan ke Opus 4.8, model yang kurang kuat.
Hal ini dilaporkan menuai kritik dari para peneliti dan pengembang di bidang AI, karena ada kekhawatiran bahwa pekerjaan yang diperoleh dengan cara ini sengaja didegradasi dengan cara yang tidak terlihat dan rahasia.
Anthropic telah menanggapi reaksi tersebut, dengan mengindikasikan rencana untuk mengatasi masalah ini dengan membuat jalur keselamatan Claude 5 terlihat oleh semua pengguna dan jika perusahaan mencurigai bahwa pengguna sedang mencoba mengembangkan sistem AI bertenaga tinggi mereka sendiri, perusahaan akan mengirimkan pemberitahuan yang jelas kepada mereka bahwa permintaan tersebut ditolak berdasarkan kebijakan, atau bahwa permintaan tersebut dialihkan ke model yang kurang mampu.
Penggunaan teknologi Claude sebagai sarana pelatihan model AI pesaing saat ini melanggar persyaratan layanan Anthropic.
Dalam sebuah pernyataan kepada Wired, perwakilan Anthropic mengatakan, “Kami mengubah perlindungan Fable 5 untuk pengembangan LLM perbatasan agar terlihat. Kami melakukan trade-off yang salah dan kami mohon maaf karena tidak mendapatkan keseimbangan yang tepat.”
Di antara kritikus pengambilan keputusan Anthropic adalah Dean Ball, peneliti senior di Foundation for American Innovation dan mantan penasihat Gedung Putih di bidang AI. Dalam postingan yang diterbitkan di X, Ball menggambarkan sengaja menurunkan kinerja penelitian ML tanpa memberi tahu pengguna sebagai “tampilan yang sangat bermusuhan dan mengerikan”.
Dia lebih lanjut menjelaskan potensinya untuk “secara diam-diam merusak segala jenis pekerjaan” dan “menagetkan para penegak antimonopoli di seluruh dunia.”