Model AI kini melampaui kebanyakan manusia dalam menemukan dan mengeksploitasi kerentanan perangkat lunak, kata Anthropic.
Proyek Anthropic baru akan melihat perusahaan global menggunakan Claude sebagai bagian dari sistem keamanan pertahanan mereka.
‘Project Glasswing’ memberi perusahaan mitra akses ke Claude Mythos yang belum dirilis dari Anthropic, yang menurut raksasa AI tersebut, telah menemukan ribuan kerentanan dengan tingkat keparahan tinggi, termasuk beberapa di setiap sistem operasi dan browser web utama. Mythos diluncurkan dalam pratinjau kemarin (7 April).
Pratinjau Mythos Anthropic secara signifikan lebih mampu menghasilkan eksploitasi. Dalam penelitiannya, perusahaan mencatat bahwa Mythos mengembangkan eksploitasi kerja sebanyak 181 kali dari beberapa ratus upaya, sementara Opus 4.6 memiliki tingkat keberhasilan hampir 0 persen.
“Kami tidak secara eksplisit melatih pratinjau Mythos untuk memiliki kemampuan ini. Sebaliknya, mereka muncul sebagai konsekuensi hilir dari perbaikan umum dalam kode, penalaran, dan otonomi,” kata perusahaan itu. Publikasi, termasuk New York Times dan Register telah memperingatkan dampak negatif jika model seperti Mythos jatuh ke tangan aktor jahat.
Untungnya, Anthropic memilih untuk tidak merilis model tersebut. Sebaliknya, perusahaan ini menyatukan perusahaan-perusahaan terkemuka, termasuk Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JP Morgan Chase, Linux Foundation, Microsoft, Nvidia dan Palo Alto Networks, yang memungkinkan mereka mengakses pratinjau Mythos untuk meningkatkan pertahanan dunia maya mereka.
Perusahaan telah memperluas akses Mythos ke lebih dari 40 organisasi yang membangun atau memelihara infrastruktur perangkat lunak penting.
“Model AI telah mencapai tingkat kemampuan pengkodean yang mampu melampaui semua orang kecuali manusia yang paling terampil dalam menemukan dan mengeksploitasi kerentanan perangkat lunak,” kata Anthropic.
Anthropic berjanji untuk berbagi pembelajaran dari Project Glasswing agar bermanfaat bagi industri yang lebih luas. Perusahaan juga telah memberikan komitmen hingga $100 juta dalam bentuk kredit penggunaan untuk pratinjau Mythos di seluruh proyek, serta $4 juta dalam bentuk sumbangan langsung ke organisasi keamanan sumber terbuka.
Pembuat Claude juga telah mempekerjakan Eric Boyd, presiden jangka panjang platform AI di Microsoft, untuk memimpin sebagai kepala infrastruktur perusahaan.