Nvidia mengatakan bahwa misi aliansi ini adalah ‘untuk memastikan para pembela HAM di mana pun memiliki alat yang terbuka dan dapat mereka percayai dan kendalikan’.
Pembuat chip Nvidia telah membentuk aliansi dengan perusahaan lain di bidang teknologi, untuk mengembangkan dan berbagi alat yang dirancang untuk meningkatkan keselamatan AI dan keamanan siber.
Anggota pendiri Open Secure AI Alliance termasuk Adobe, Crowdstrike, Hugging Face dan Dell Technologies dan mengikuti surat publik, yang ditandatangani oleh berbagai perusahaan termasuk OpenAI, yang mengadvokasi model AI open-weight.
Dalam postingan blog yang mengumumkan aliansi tersebut, Nvidia mengatakan koalisi tersebut akan berupaya untuk “memperbaiki dan mengungkap kerentanan menggunakan teknologi terbuka”.
Pembentukan koalisi ini terjadi setelah AI dan platform pembelajaran mesin Hugging Face baru-baru ini menjadi sasaran pelanggaran siber besar-besaran yang diprakarsai oleh agen OpenAI jahat, di mana perusahaan tersebut tidak dapat mempertahankan diri dengan model AI AS karena pagar pembatas tidak dapat membedakan antara agresor dan pembela.
Untuk meredam serangan tersebut, platform tersebut beralih ke model Tiongkok yang dihosting sendiri dan berbobot terbuka, yang tidak tunduk pada batasan yang sama.
“Insiden (The Hugging Face) menunjukkan kebenaran praktis: ketika para pembela HAM tidak dapat memeriksa, mengadaptasi, dan menjalankan AI canggih pada infrastruktur mereka sendiri, kemampuan mereka untuk merespons menjadi terbatas pada saat yang paling penting adalah kecepatan,” kata Nvidia. “Perusahaan dan negara memerlukan alat dan teknik pertahanan perbatasan terbuka sehingga industri-industri penting dapat membangun sistem keamanan di seluruh ekosistem multi-vendor dan menghindari satu titik kegagalan.
“Itulah misi Open Secure AI Alliance: untuk memastikan para pembela HAM di mana pun memiliki alat yang terbuka dan terdepan yang dapat mereka percayai dan kendalikan.”
Gene Moody, CTO lapangan di Action1 mengatakan pembentukan aliansi ini merupakan “langkah baik menuju akuntabilitas”.
“Hal ini juga mencerminkan pengakuan penting bahwa teknologi berkembang lebih cepat daripada kemampuan banyak organisasi untuk mengaturnya secara bertanggung jawab,” katanya.
“Namun merupakan sebuah kesalahan jika kita percaya bahwa upaya-upaya tersebut secara signifikan membatasi apa yang pada akhirnya dapat dilakukan oleh para pelaku ancaman.”
Dia menambahkan: “Kenyataannya adalah bahwa pelaku jahat tidak pernah bergantung pada izin dari siapa pun. Ribuan model sumber terbuka sudah ada, banyak yang mampu berjalan sepenuhnya pada perangkat keras lokal, tidak terhubung dengan layanan cloud atau pengawasan vendor mana pun.
“Saat sebuah model beroperasi secara terpisah, kendali keselamatan hanya akan menjadi lapisan lain dari perangkat lunak. Mereka bisa dimodifikasi, dihapus, dilatih ulang, atau diganti seluruhnya. Anda tidak bisa memprogram hati nurani ke dalam kecerdasan buatan. Anda hanya bisa memprogram perilaku, dan perilaku bisa dimanipulasi oleh siapa pun yang memiliki keahlian teknis memadai.”
Kekhawatiran antropis
CEO Anthropic Dario Amodei baru-baru ini bertujuan untuk melakukannya menghilangkan tuduhan bahwa perusahaannya ingin melarang model bobot terbuka Tiongkok di AS, sebagai cara untuk melindungi bisnisnya.
Di sebuah posting di situs Anthropic kemarin (27 Juli), Amodei mengklaim Anthropic tidak menganjurkan pelarangan model bobot terbuka. Dia mengatakan bahwa model bobot terbuka tanpa kemampuan berbahaya akan memberikan manfaat bagi masyarakat tidak memerlukan biaya apa pun selain daya komputasi yang diperlukan untuk menjalankannya dan memberikan nilai bagi bisnis, pengembang, dan peneliti.
Dia menjelaskan bahwa kekhawatirannya terletak pada penggunaan AI yang lebih canggih oleh pemerintah otoriter dan risiko yang lebih luas bahwa model AI yang kuat dapat disalahgunakan untuk melakukan serangan siber atau biologis.
Moody berkata: “Kita harus lebih hati-hati dalam memberikan informasi ke semua sistem, bukan hanya AI. Kita harus mempertimbangkan kembali otoritas yang kita berikan kepada mereka, dan sejauh mana kita bergantung pada mereka. Kita tidak memiliki kemampuan untuk mengamankan sistem ini sampai pada tingkat yang sudah dipercaya oleh banyak orang dan kesenjangan tersebut semakin besar.
“Kita lebih memilih kenyamanan dan hal baru dibandingkan keselamatan. Seiring dengan semakin cepatnya kemampuan AI, pilihan tersebut membawa konsekuensi yang tidak dapat diterima. Selama data berharga, infrastruktur penting, dan aset keuangan tetap berada di balik kunci digital, akan selalu ada pihak yang berupaya untuk membuka kunci tersebut.
“AI tidak menghilangkan hal tersebut; AI menanamkan rasa percaya yang salah bahwa teknologi suatu hari nanti akan menyelesaikan masalah ini, padahal kenyataannya, kitalah masalahnya.”
Dengan laporan tambahan oleh Colin Ryan
Artikel ini telah diubah untuk menghapus kutipan yang menyesatkan.