Para pembantu dekat Anthropic dan pemerintah AS dilaporkan mengemukakan kekhawatiran keamanan seputar Mitos dan Fabel.
Negara-negara di seluruh dunia terguncang akibat dampak penghentian mendadak dua model AI paling canggih dari Anthropic menyusul perintah dari pemerintah AS pada Jumat malam (12 Juni).
Saat ini, staf teknis senior dari raksasa AI tersebut dilaporkan berada di Washington untuk bertemu dengan pejabat Gedung Putih guna mencoba menyelesaikan perselisihan besar kedua mereka dalam beberapa bulan, menurut Axios.
Dalam pernyataan mengejutkan pada hari Jumat, Anthropic mengatakan bahwa pemerintah AS mengeluarkan arahan kontrol ekspor, memerintahkan perusahaan untuk menangguhkan akses ke Claude Fable 5 dan Claude Mythos 5 oleh “setiap warga negara asing, baik di dalam atau di luar AS, termasuk karyawan Anthropic berkewarganegaraan asing”.
Anthropic menyatakan bahwa mereka telah menonaktifkan Fable 5 – yang dirilis minggu lalu – dan Mythos 5 untuk semua pelanggannya untuk memastikan kepatuhan terhadap pesanan.
Arahan pemerintah AS, yang dikirim ke Anthropic pada pukul 17.21 EST (22.21 waktu Irlandia), mengutip kekhawatiran keamanan nasional tetapi tidak memberikan rincian spesifik, kata perusahaan itu.
“Pemahaman kami adalah bahwa pemerintah yakin mereka telah menyadari adanya metode untuk melewati, atau ‘melakukan jailbreak’ pada Fabel 5.
“Semua kerentanan ini tampak relatif sederhana, dan kami menemukan bahwa model lain yang tersedia secara publik juga dapat menemukannya tanpa memerlukan jalan pintas.
“Kami telah meninjau laporan yang kami yakini sebagai dasar arahan pemerintah dan memvalidasi bahwa tingkat kemampuan yang ditampilkan di sana sama dengan model lainnya,” bunyi pernyataan itu.
David Sacks, mantan ‘raja’ AI dan salah satu ketua Dewan Penasihat Presiden bidang Sains dan Teknologi mengatakan bahwa “mitra tepercaya yang sangat kredibel” dari Anthropic dan pemerintah AS “yang sedang menguji Fable” memberi tahu para pejabat tentang potensi pembobolan penjara di pagar Fable.
“Dalam postingan blognya, Anthropic mempertahankan keputusannya dengan mengatakan bahwa jailbreak bukanlah hal yang serius. Mitra terpercaya dan USG tidak mempercayai hal tersebut; dan bahasa yang diminimalkan seperti itu juga tidak konsisten dengan merek Anthropic sebagai perusahaan keamanan AI,” tulis Sacks dalam postingan di X.
Dan kepala informasi Pentagon Kirsten Davies mengatakan bahwa langkah tersebut memprioritaskan keamanan nasional. “Beberapa hal lebih penting daripada siklus pendapatan, clickbait, dan penilaian pra-IPO,” kata Davies.
Sementara itu, beberapa publikasi media melaporkan pada hari Sabtu (13 Juni) bahwa CEO Amazon Andy Jassy termasuk di antara para pemimpin teknologi yang menyampaikan kekhawatiran kepada pemerintah AS atas potensi masalah keamanan dalam model Anthropic, yang menyebabkan larangan kontrol ekspor. Amazon adalah investor besar di Anthropic.
Juru bicara perusahaan Amazon mengatakan kepada TechCrunch bahwa “bukan hal yang aneh bagi pemerintah untuk meminta nasihat kami mengenai potensi risiko keamanan”.
Komisi Eropa adalah salah satu wilayah asing yang menghadapi konsekuensi dari penghentian mendadak model-model terbaru Anthropic. Beberapa negara anggota blok tersebut, serta Inggris, telah berdiskusi dengan perusahaan tersebut mengenai Mythos dan potensi penerapannya dalam mengamankan sistem mereka.
Dalam pernyataannya pada Minggu (14 Juni), Komisi mengatakan sedang menganalisis implikasi dari arahan pengendalian ekspor.
“Kami melihat generasi baru model AI berkemampuan tinggi memasuki pasar. Model-model ini menawarkan manfaat yang signifikan, termasuk untuk pertahanan siber, namun model-model tersebut juga menimbulkan kekhawatiran serius terhadap keamanan siber yang perlu ditangani,” kata juru bicara Komisi Eropa.
“Kami percaya bahwa tindakan darurat yang diambil sehubungan dengan hal ini tidak boleh bersifat diskriminatif terhadap mitra.
“Perkembangan ini merupakan ilustrasi lebih lanjut mengapa Eropa perlu memperkuat kedaulatan teknologinya…Kami melihat dengan cermat konsekuensi praktis dari hal ini bagi pengguna layanan ini di Eropa.”
Dalam pernyataan serupa, Perdana Menteri Kanada Mark Carney mengatakan bahwa insiden tersebut menyoroti risiko ketergantungan yang berlebihan pada sejumlah kecil alat AI yang canggih.
Ini adalah perselisihan besar kedua yang dialami Anthropic dengan pemerintah AS, yang dapat menimbulkan konsekuensi drastis bagi raksasa AI tersebut karena perusahaan tersebut akan melakukan IPO dengan perkiraan nilai lebih dari $1 triliun.
Perusahaan tersebut saat ini terlibat dalam perselisihan hukum dengan pemerintahan Trump menyusul insiden terpisah awal tahun ini setelah Anthropic menolak mengubah perlindungan AI-nya untuk digunakan oleh pemerintah AS.
Anthropic mengatakan bahwa penetapan ‘risiko rantai pasokan’ pada akhir Februari oleh pemerintah AS tidak masuk akal secara hukum. Pernyataan terbarunya minggu lalu juga menunjukkan hubungan serupa, mengklaim bahwa tindakan pemerintahan Trump tidak mematuhi prinsip transparansi, keadilan, dan fakta.
Tarik-menarik antara Anthropic dan pemerintah AS terjadi ketika pemerintah AS memandang dominasi teknologi AI dibandingkan perusahaan-perusahaan sezamannya.