Proyek sumber terbuka yang ikut serta akan menerima pemindaian keamanan berkala gratis dengan perbaikan yang disarankan, kata perusahaan itu.
Anthropic memperluas program pertahanan sibernya dengan alat baru untuk memindai proyek sumber terbuka dan misi kolaboratif yang menghadirkan keahlian keamanannya ke bisnis besar.
Raksasa AI dan perusahaan-perusahaan sezamannya telah menciptakan model-model canggih dengan kemampuan canggih untuk mengidentifikasi dan mengeksploitasi kerentanan. Model-model ini telah meretas beberapa situs web dan bisnis pemerintah, sementara teknologinya juga dapat disalahgunakan oleh pelaku kejahatan untuk secara signifikan meningkatkan kemampuan mereka dalam melakukan peretasan skala besar atau serangan phishing.
Awal tahun ini, Anthropic meluncurkan Project Glasswing, sebuah misi gabungan pertama, bersama dengan modelnya yang berfokus pada dunia maya, Mythos 5, untuk berkolaborasi dengan perusahaan-perusahaan besar dan organisasi pemerintah guna melindungi diri mereka dari risiko-risiko baru yang disebabkan oleh AI (UE baru menerima akses ke Mythos bulan lalu setelah berdiskusi selama berminggu-minggu dengan perusahaan tersebut).
Menurut Anthropic, dalam proyek ini, perusahaan dan kolaborator industrinya memindai ratusan proyek sumber terbuka yang banyak digunakan dan secara pribadi melaporkan temuan mereka kepada organisasi yang terlibat.
Kini, mereka memperluas upayanya dengan meluncurkan pemindai perangkat lunak sumber terbuka (OSS), sebuah layanan opt-in yang mirip dengan OSS-Fuzz Google.
Proyek-proyek yang terdaftar dalam program ini akan menerima pemindaian keamanan berkala yang dihasilkan AI secara gratis dari “model paling mumpuni” Anthropic, kata perusahaan itu. Laporan tersebut akan mencakup bukti konsep tentang bagaimana bug dapat dieksploitasi, penjelasan dan saran perbaikan jika tersedia.
Perusahaan ini juga meluncurkan program pertahanan infrastruktur penting yang menghadirkan model-model Claude terdepan dan insinyur di lokasi ke penyedia terpilih, termasuk Accenture, CrowdStrike, Deloitte, PwC dan Palo Alto Networks di antara mitra pendiri proyek lainnya.
Beberapa mitra saat ini bekerja sama dengan Claude untuk memperbaiki kerentanan dan membantu pelanggan melakukan hal yang sama, kata perusahaan itu.
Bulan lalu, Anthropic meminta Accenture untuk mengevaluasi secara independen perkembangan AI terdepannya setelah CEO Dario Amodei menyerukan transparansi yang lebih baik di seluruh sektor. Kemitraan ini akan dipimpin oleh fakultas bisnis spesialis AI di Accenture, yang akan melakukan penilaian independen dan pengujian model perlindungan di Anthropic.