Dunia perlu mempersiapkan model-model kuat seperti Mythos yang dapat menggali kelemahan keamanan baru di semua sistem, salah satu pendiri Anthropic, Paul Clark, mengatakan pada acara Semafor World Economy pada hari Senin.
Claude Mythos yang banyak dibicarakan oleh Anthropic bukanlah model yang ‘istimewa’ dan akan ada lebih banyak model seperti itu dalam beberapa bulan mendatang, sehingga dunia perlu bersiap. Demikian pandangan salah satu pendiri dan pemimpin kebijakan Anthropic, Jack Clark, saat berbicara di acara Semafor World Economy di Washington DC kemarin.
“Tentu saja kami berterima kasih atas kesuksesan kami dan pelanggan kami, tetapi ini bukanlah model yang istimewa,” kata Clark.
“Akan ada sistem lain seperti ini dalam beberapa bulan dari perusahaan lain, dan kemudian satu hingga satu setengah tahun kemudian, akan ada model bobot terbuka dari Tiongkok yang memiliki kemampuan ini. Jadi dunia harus bersiap untuk sistem yang lebih kuat yang akan ada di dalamnya.”
Claude Mythos telah menimbulkan kekhawatiran di seluruh industri ketika terungkap bahwa model AI baru Anthropic menemukan kelemahan keamanan yang sebelumnya tidak diketahui di setiap browser web dan sistem operasi utama. Clark mengakui hal itu juga menimbulkan kekhawatiran di Anthropic ketika cakupannya menjadi jelas.
Hal ini berujung pada peluncuran ‘Project Glasswing’, yang memberikan perusahaan mitra akses ke Mythos Anthropic yang belum dirilis, yang menurut raksasa AI tersebut, telah menemukan ribuan kerentanan dengan tingkat keparahan tinggi, termasuk beberapa di setiap sistem operasi dan browser web utama. Mythos diluncurkan dalam pratinjau pada 7 April.
Mythos secara signifikan lebih mampu menghasilkan eksploitasi. Dalam penelitiannya, perusahaan mencatat bahwa Mythos mengembangkan eksploitasi uji kasus sebanyak 181 kali dari beberapa ratus upaya, sementara Opus 4.6 memiliki tingkat keberhasilan hampir 0 persen.
“Kami tidak secara eksplisit melatih pratinjau Mythos untuk memiliki kemampuan ini. Sebaliknya, mereka muncul sebagai konsekuensi hilir dari perbaikan umum dalam kode, penalaran, dan otonomi,” kata perusahaan itu.
Daripada merilis model tersebut, perusahaan ini malah menyatukan perusahaan-perusahaan terkemuka, termasuk Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JP Morgan Chase, Linux Foundation, Microsoft, Nvidia dan Palo Alto Networks, yang memungkinkan mereka mengakses pratinjau Mythos untuk meningkatkan pertahanan siber mereka.
Perusahaan telah memperluas akses Mythos ke grup yang terdiri lebih dari 40 organisasi yang membangun atau memelihara infrastruktur perangkat lunak penting, dan Clark mengatakan pihaknya berencana memperluas grup ini dalam beberapa hari mendatang. Anthropic juga berjanji untuk berbagi pembelajaran dari Project Glasswing agar bermanfaat bagi industri yang lebih luas.
Ketika ditanya apakah Anthropic pada akhirnya akan menjual atau merilis model baru, Clark mengatakan belum ada keputusan yang diambil tetapi “pada akhirnya, model yang memiliki kemampuan seperti ini akan ada di dunia – apakah Mythos akan sampai ke sana atau tidak. Kami belum tahu. Kami sedang dalam proses memperluas akses melalui Glasswing dan melihat apa yang bisa kami pelajari.”
Hal ini merupakan peringatan keras bagi semua pembela dan organisasi keamanan siber pada umumnya. ‘Mitos’ berikutnya mungkin tidak dirilis secara bertanggung jawab.