Pemimpin AI Anthropic dan OpenAI adalah penandatangan surat tersebut.
Sekitar 120 perusahaan dan entitas dari dunia teknologi, keuangan, telekomunikasi, dan industri terkait telah menandatangani surat terbuka yang menyerukan tindakan kolektif yang lebih besar terhadap pertahanan dunia maya oleh masyarakat dan bisnis dalam menghadapi meningkatnya ancaman keamanan yang didukung oleh AI.
Para pemimpin AI, Anthropic dan OpenAI, merupakan salah satu pihak yang ikut menandatangani surat tersebut – bersama dengan perusahaan-perusahaan seperti Google, AWS, Visa, ServiceNow, PwC, Oracle, Microsoft, MasterCard, IBM, Hugging Face, Deutsche Telekom, Cloudflare, dan Accenture – yang memperingatkan mengenai “jendela terbatas untuk memperkuat pertahanan siber”.
“Dalam beberapa bulan mendatang, serangan siber yang didukung oleh AI akan menjadi jauh lebih luas dan canggih seiring dengan semakin mumpuninya model-model di seluruh dunia,” surat tersebut – yang diterbitkan kemarin (27 Agustus) – menyatakan bahwa infrastruktur penting yang menopang rumah sakit, instalasi pengolahan air, dan akses internet bisa terancam.
Penanggulangannya, menurut surat tersebut, adalah dengan menggunakan kemajuan teknologi AI “untuk memperbaiki kelemahan yang telah terakumulasi selama bertahun-tahun” guna “membuat dunia digital kita jauh lebih aman”.
Para penandatangan menulis: “Kami menyerukan kepada para pemimpin di seluruh industri dan pemerintah untuk memanfaatkan sepenuhnya teknologi, sumber daya, dan keahlian mereka dalam upaya ini. Serahkan AI yang berkemampuan siber ke tangan para pembela HAM, dimulai dengan tim yang melindungi layanan-layanan penting.”
Para pihak menguraikan tiga prinsip utama respons kolektif terhadap ancaman siber AI: menyadari bahwa keamanan status-quo tidaklah cukup; memberdayakan lebih banyak pembela HAM dengan AI yang berkemampuan siber; dan memobilisasi respons kolektif.
“Tim keamanan, khususnya untuk infrastruktur penting, secara historis kekurangan sumber daya dan memerlukan peningkatan peralatan dan sumber daya,” kata surat itu.
Ia menambahkan bahwa “berbagi alat, pengetahuan praktis dan perbaikan yang terverifikasi” dapat memungkinkan kemajuan keamanan suatu organisasi untuk “membantu melindungi banyak orang lain”, dan mencatat bahwa “tidak ada satu perusahaan pun yang boleh mengendalikan masa depan”.
Surat tersebut mengacu pada “jendela pembela HAM”, yang mana, menurut surat tersebut, organisasi, perusahaan keamanan siber, mitra teknologi, pemerintah, dan perusahaan AI terdepan kini harus “mempercepat prioritas pembela HAM dengan alat, pendanaan, dan dukungan langsung – terutama untuk organisasi infrastruktur penting dengan anggaran terbatas”.
Para penandatangan mengatakan bahwa bagi organisasi mana pun, pertahanan siber harus menjadi “prioritas kepemimpinan”, dan menyarankan agar entitas menggunakan “model yang mampu dan berbiaya rendah untuk cakupan yang luas, dan menerapkan kemampuan terdepan untuk mengatasi masalah yang paling sulit”.
Perusahaan keamanan siber dan mitra teknologi harus memimpin respons pertahanan terhadap serangan yang didukung AI, kata surat itu, melalui pengujian, pembagian intelijen, dan menjadikan “pertahanan bertenaga AI dapat diakses dan diterapkan oleh operator infrastruktur penting”.
Pemerintah, menurut penulis surat tersebut, harus mengoordinasikan pertahanan siber di tingkat lokal, nasional, dan internasional sambil mendanai dan mempercepat penerapannya.
“Beri rumah sakit, perusahaan air minum, dan pemerintah daerah akses terhadap AI yang mampu bertahan, pengujian resmi, dan dukungan langsung melalui penyedia dan mitra keamanan tepercaya,” kata mereka, sambil mendesak agar “biaya” dibebankan pada penyerang.
Perusahaan-perusahaan AI terdepan seperti Anthropic dan OpenAI juga menerima rekomendasi yang dituangkan dalam surat terbuka tersebut, termasuk diantaranya: menyediakan akses model yang bertanggung jawab serta pendanaan, pelatihan, dan dukungan langsung yang signifikan; membangun alat observasi dan keamanan, memastikan identitas agen dapat dilacak dan akuntabel, dan berbagi praktik terbaik dalam pemantauan berkelanjutan; berinvestasi dalam pengujian resmi, pengungkapan pribadi, dan perbaikan terverifikasi; dan berbagi alat, pedoman, dan penilaian ancaman yang kredibel dengan pemerintah, mitra keamanan, dan pengelola sumber terbuka.
Model AI yang dibuat oleh Anthropic dan OpenAI telah menjadi pusat insiden peretasan baru-baru ini di mana mereka berperilaku tidak disengaja dan tidak terduga selama skenario pengujian keamanan siber.
Awal pekan ini, pendiri Microsoft Bill Gates menerbitkan postingan blog yang merinci prediksi, kekhawatiran, harapan, dan sarannya seputar dampak AI terhadap masyarakat.