“Kita sedang berlomba apakah kita memilih untuk menerimanya atau tidak,” kata Richard Browne.
Penciptaan Mythos menunjukkan apa yang mungkin dilakukan dengan alat AI di bidang keamanan siber, kata direktur Pusat Keamanan Siber Nasional (NCSC) Richard Browne kepada Komite Gabungan Kecerdasan Buatan Oireachtas sore ini (14 April).
“Masalahnya bukanlah Anthropic yang menciptakan hal ini. Masalahnya adalah Anthropic telah menunjukkan bahwa hal ini mungkin terjadi,” kata Browne menanggapi pertanyaan yang diajukan oleh TD Sinéad Gibney dari Partai Sosial Demokrat, yang mengatakan Anthropic terlibat dalam “latihan humas”.
“Teknologi ini ada dan memungkinkan untuk digunakan. (Saat ini) ada di tangan perusahaan. Dalam lima bulan – enam bulan – akan berada di tangan negara (aktor) yang aktif,” kata Browne. “Pemerintahan itu bagus, sangat penting, tapi tidak menghentikan pelaku kriminal.”
Anthropic meluncurkan Mythos awal bulan ini kepada sekelompok perusahaan terkemuka terpilih secara global. Pada peluncurannya, Anthropic mencatat kemampuan Mythos untuk mendeteksi dan menghasilkan eksploitasi dengan kecepatan yang jauh lebih cepat dibandingkan pesaingnya.
Perusahaan tersebut, yang prihatin dengan pelaku kejahatan, memilih untuk membiarkan perusahaan meningkatkan pertahanan siber mereka menggunakan alat tersebut. Beberapa hari sejak peluncurannya, para pemimpin AS, Inggris, dan Kanada telah menyatakan keprihatinan mereka.
NCSC, dalam pernyataan publiknya kemarin (13 April), mengatakan bahwa Mythos tampaknya mewakili “perubahan signifikan dalam cara mengidentifikasi kerentanan perangkat keras dan perangkat lunak”.
Keputusan Anthropic untuk membatasi peluncuran model tersebut dan bekerja sama dengan mitra industri “merupakan pendekatan yang bertanggung jawab,” tambahnya.
AI mempunyai dampak yang “tidak dapat diprediksi” terhadap keamanan siber, kata Browne kepada Komite. Dia mencatat bahwa AI “benar-benar revolusioner” dan menimbulkan “perubahan generasi” yang akan mempengaruhi setiap teknologi digital lainnya.
Pertanyaannya bukan lagi apakah AI perlu diadopsi, namun bagaimana cara melakukannya dengan aman, tambahnya.
Kasus penggunaan utama teknologi ini adalah sebagai “pengganda kekuatan”, kata Browne. Hal ini memungkinkan pengguna untuk meningkatkan skala operasi mereka – yang secara efektif “mendemokratisasikan” akses dengan menghilangkan hambatan teknis dan bahasa. Hal ini memungkinkan pengguna pemula untuk memanfaatkan alat AI komersial untuk melancarkan serangan.
Pelaku ancaman sudah menjadi “pengguna berat” alat AI, kata Browne, sementara di sisi lain, petugas keamanan juga menggunakan AI agen untuk meningkatkan pertahanan mereka.
Penilaian Risiko Siber Nasional yang diterbitkan pada bulan Desember menguraikan bagaimana AI mendorong risiko sistemik dengan meningkatkan kecepatan, skala, dan kecanggihan serangan siber.
“Kita sedang berlomba apakah kita memilih untuk menerimanya atau tidak,” kata Browne. “Perbatasan teknis semakin maju dari minggu ke minggu, dan peran pengelolaan risiko terkait dunia maya terhadap masyarakat dan perekonomian menjadi jauh lebih dinamis.” Lihatlah AI sebagai alat, ancaman dan target, saran direktur.
Dia menambahkan bahwa kecepatan pertumbuhan model AI juga membuka jalan bagi “kesenjangan AI”, meninggalkan negara-negara yang tidak mampu beradaptasi. Keamanan tidak bisa lagi menjadi sebuah renungan, betapapun menjanjikannya sistem AI, kata Browne.