Munculnya Anthropic’s Mythos telah memicu kekhawatiran luas tentang potensi ancaman yang ditimbulkan oleh Anthropic dan model AI serupa lainnya.
Bank Sentral Eropa (ECB) akan mendesak tindakan yang lebih cepat dalam meningkatkan keamanan TI organisasi pemberi pinjaman di tengah berkembangnya ancaman AI ketika memanggil perwakilannya ke pertemuan besok (26 Mei), menurut Financial Times (FT).
“Ini adalah sesuatu yang mengubah keadaan. Kami ingin bank memperhatikan hal ini dengan serius. Waktu terus berjalan,” kata Frank Elderson, wakil ketua dewan pengawas ECB yang mengawasi bank, kepada FT.
Kemunculan model Mythos AI dari Anthropic pada bulan April, dengan kemampuan tingkat tinggi yang dilaporkan dalam menemukan dan mengeksploitasi kelemahan keamanan siber di browser dan sistem operasi, telah memicu kekhawatiran luas tentang potensi ancaman yang ditimbulkan oleh model tersebut dan model serupa lainnya.
“Ada berbagai macam masalah keamanan siber yang telah kami tangani bersama bank selama bertahun-tahun dan semuanya masih berlaku, namun mengingat kemajuan dalam AI, masalah tersebut perlu ditangani lebih cepat,” kata Elderson kepada FT.
Bank-bank AS seperti JP Morgan Chase, Goldman Sachs, Citigroup, Bank of America dan Morgan Stanley telah diberi akses pratinjau terkontrol ke Mythos, dan menurut FT, ECB mengharapkan kolaborasi antara pemberi pinjaman AS dan Eropa mengenai masalah ini.
Meskipun dibatasi oleh kurangnya akses terhadap Mythos saat ini, bank-bank Eropa masih perlu bersiap menghadapi ancaman yang mungkin ditimbulkannya, dan ancaman lainnya, kata Elderson dalam publikasi tersebut.
“Fakta bahwa Anda tidak memiliki akses terhadap model ini bukanlah alasan untuk tidak mengambil tindakan,” katanya. “Aktor jahat mungkin akan segera memiliki akses terhadap teknologi ini.”
Bulan lalu, dilaporkan bahwa grup Discord pribadi telah memperoleh akses tidak sah ke Mythos segera setelah peluncurannya, meskipun tidak menggunakannya untuk tujuan jahat.
Sementara itu, survei terbaru terhadap para profesional kepatuhan di Irlandia menemukan bahwa lebih dari sepertiga peserta percaya bahwa AI mempersulit lembaga keuangan untuk melindungi data pelanggan dan data sensitif lainnya, sementara hanya 7 persen yang merasa AI membuat perlindungan data menjadi lebih mudah.
Studi yang dilakukan oleh Compliance Institute, badan profesional bagi praktisi kepatuhan di Irlandia, mengumpulkan tanggapan dari sekitar 150 profesional kepatuhan yang bekerja terutama di berbagai organisasi jasa keuangan Irlandia untuk mengeksplorasi pandangan tentang dampak AI terhadap perlindungan data, serta langkah-langkah yang diambil perusahaan untuk mematuhi peraturan baru UE yang mengharuskan mereka memastikan bahwa staf memiliki tingkat literasi AI yang sesuai.
Michael Kavanagh, CEO Compliance Institute, mengatakan: “AI semakin banyak digunakan dalam operasi sehari-hari di seluruh sektor, dan hal ini mengubah cara berpikir organisasi mengenai tata kelola, pengawasan, dan kemampuan.
“Hasil yang sebenarnya ditunjukkan adalah periode penyesuaian, di mana perusahaan secara aktif membangun dan memperkuat kerangka kerja yang diperlukan untuk mendukung penggunaan teknologi ini secara aman dan efektif serta tanggung jawab mereka terhadap peraturan yang ada.”