CEO Anthropic telah membalas klaim bahwa perusahaannya menginginkan model open-weight Tiongkok dilarang, beberapa hari setelah mengeluarkan surat terbuka tentang topik tersebut yang ditandatangani oleh pesaing industri.
CEO Anthropic Dario Amodei telah mengambil tindakan untuk membatalkan apa yang disebutnya sebagai tuduhan spesifik yang beredar di kalangan AI minggu ini: bahwa perusahaannya menginginkan model open-weight Tiongkok dilarang di AS sebagai cara untuk melindungi bisnisnya sendiri.
Dalam postingan berjudul ‘Posisi kami pada model bobot terbuka’ di situs web Anthropic kemarin (27 Juli), Amodei menulis bahwa “Anthropic tidak pernah menganjurkan pelarangan model bobot terbuka”, dan mengatakan bahwa model bobot terbuka tanpa kemampuan berbahaya adalah barang publik yang tidak memerlukan biaya apa pun selain komputasi yang diperlukan untuk menjalankannya.
Postingan tersebut menyusul surat terbuka yang diterbitkan pada tanggal 24 Juli dan dimuat di situs web Nvidia, berjudul ‘Open Weights and American AI Leadership’, yang mendesak para pembuat kebijakan AS untuk tidak menerapkan pembatasan luas pada model open-weight. Surat tersebut ditandatangani oleh hampir semua pemain teknologi besar, termasuk Nvidia, Microsoft, Meta, dan Hugging Face, dan kemudian berkembang hingga mencakup OpenAI dan Google – saat ini jumlah penandatangan mencapai lebih dari 70 orang. Antropik tidak menandatangani.
Surat tersebut muncul di tengah laporan bahwa pejabat AS sedang mempertimbangkan pembatasan penggunaan model open-weight Tiongkok oleh bisnis Amerika, yang pertama kali dilaporkan oleh Axios pada tanggal 20 Juli.
Amodei mengemukakan dua kekhawatiran yang menurutnya tidak akan diatasi dengan larangan proteksionis.
Yang pertama adalah bahwa pemerintahan otoriter – dan bukan hanya Partai Komunis Tiongkok – dapat membangun model AI yang lebih kuat dibandingkan Amerika Serikat dan menggunakannya untuk keuntungan militer atau penindasan dalam negeri. Dia mencatat bahwa ini adalah skenario yang mungkin terjadi apakah model tersebut membawa bobot terbuka atau tidak.
Kekhawatirannya yang kedua adalah bahwa model yang kuat, terlepas dari negara asalnya, dapat disalahgunakan untuk serangan siber atau serangan biologis.
Dia berargumen bahwa model pemberat terbuka membawa risiko ekstra di sini karena pagar pembatas sulit diterapkan setelah beban dilepaskan, dan pemberat yang dilepas tidak dapat ditarik. Meskipun demikian, Amodei mengatakan pelarangan perusahaan-perusahaan AS untuk menggunakan model seperti itu tidak akan menghentikan pelaku kejahatan, yang kemungkinan besar bukan merupakan perusahaan AS yang sah.
Sebagai pengganti larangan tersebut, Amodei mengatakan Anthropic terus mendukung tiga langkah: memblokir penjualan chip dan peralatan pembuatan chip yang kuat ke Tiongkok dan menindak penyelundupan; menargetkan operasi penyulingan skala industri yang memungkinkan laboratorium Tiongkok mempersempit kesenjangan dengan teknologi yang ada di AS tanpa melakukan komputasi yang sesuai; dan pengujian keselamatan wajib, yang mencakup risiko dunia maya, biologis, dan penyelarasan, untuk semua model yang cukup mampu terlepas dari apakah model tersebut terbuka atau tertutup, atau di mana model tersebut dibuat.
Ia menyatakan bahwa ia setuju dengan sebagian isi surat dari industri tersebut, termasuk bahwa openweight memperluas akses terhadap ekonomi AI dan memperkuat persaingan, namun membantah anggapan bahwa akses yang luas akan lebih membantu pihak yang bertahan dibandingkan penyerang.
Dia menunjuk pada risiko biologis sebagai contoh, dengan alasan bahwa model yang cukup mumpuni dapat membantu mempersenjatai virus pada tingkat pandemi dengan cepat, sementara membangun pertahanan terhadap serangan semacam itu membutuhkan waktu bertahun-tahun, bahkan dalam kasus terbaik sekalipun.
Amodei mengatakan pertanyaan mengenai apakah model terbuka membawa risiko ekstra, dan apakah risiko tersebut dapat dimitigasi, harus diselesaikan melalui pengujian pra-pelepasliaran daripada berasumsi terlebih dahulu.