Pihak berwenang AS, Inggris, dan Kanada menyampaikan kekhawatiran atas kemampuan model tersebut.
Bank-bank di Wall Street sedang menguji model AI baru Anthropic, Mythos, ketika pihak berwenang di seluruh dunia memberi sinyal kekhawatiran terhadap keamanan siber.
Anthropic memilih untuk tidak merilis Claude Mythos Preview ke publik, sebuah model AI yang tampaknya lebih baik dalam menghasilkan eksploitasi dibandingkan peluncuran perusahaan sebelumnya.
Sebaliknya, Mythos diluncurkan kepada kelompok terpilih yang terdiri dari sekitar 40 perusahaan teknologi dan keuangan “penting” untuk menguji model tersebut dan memperkuat pertahanan siber mereka.
Bersamaan dengan JP Morgan Chase – yang ditunjuk oleh Anthropic sebagai kolaborator – Bloomberg melaporkan pada 10 April bahwa Goldman Sachs, Citigroup, Bank of America dan Morgan Stanley juga sedang menguji teknologi tersebut.
Dalam penelitiannya, Anthropic mencatat bahwa Mythos mengembangkan eksploitasi kerja sebanyak 181 kali dari beberapa ratus upaya pada skenario pengujian tertentu, sementara Opus 4.6 memiliki tingkat keberhasilan mendekati 0 persen.
“Kami tidak secara eksplisit melatih Mythos Preview untuk memiliki kemampuan ini. Sebaliknya, kemampuan tersebut muncul sebagai konsekuensi hilir dari perbaikan umum dalam kode, penalaran, dan otonomi,” kata Anthropic.
Perusahaan lain yang terlibat dalam proyek keamanan siber kolaboratif Anthropic yang disebut ‘Glasswing’ termasuk Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, Linux Foundation, Microsoft, Nvidia dan Palo Alto Networks.
Mythos juga menimbulkan kekhawatiran dari otoritas pemerintah, yang memperingatkan lembaga keuangan mengenai risiko yang ditimbulkan oleh model AI tersebut.
Pekan lalu, Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell memperingatkan para pemimpin Wall Street untuk menganggap serius Mythos, sementara bank-bank terkemuka di Kanada, bersama dengan perusahaan induk dari Bursa Efek Toronto dan lembaga-lembaga negara, berkumpul pada 10 April untuk membahas risiko keamanan siber yang ditimbulkan oleh model tersebut.
Di wilayah terdekat, regulator keuangan Inggris sedang melakukan pembicaraan dengan National Cyber Security Centre, Bank of England, Financial Conduct Authority, dan HM Treasury untuk membahas potensi kerentanan dalam sistem TI mereka yang diungkapkan oleh Mythos.
SiliconRepublic.com telah bertanya kepada Bank of Ireland dan AIB apakah mereka berniat menggunakan model tersebut dalam pertahanan mereka.
Serangan keamanan siber yang didukung AI menjadi semakin umum, dan para pelaku kejahatan siber pemula tampaknya menggunakan teknologi tersebut untuk menyusupi ratusan firewall dengan relatif mudah.
Sementara itu, dunia usaha kini semakin rentan terhadap ancaman keamanan siber.
Tahun lalu, Marks & Spencer, Co-op dan Harrods, semua nama ritel terkenal yang berbasis di Inggris, terkena serangan siber. Selain itu, penjahat dunia maya mencuri foto, nama, dan alamat sekitar 8.000 anak dari jaringan taman kanak-kanak di negara tersebut.
Dan pada akhir tahun itu, perusahaan keamanan siber AS F5 mengalami serangan siber signifikan yang memberikan akses jangka panjang kepada pelaku ancaman ke beberapa sistemnya.