Agen ‘nakal’ OpenAI memanfaatkan kerentanan kode, jelas para ahli.
Perusahaan cloud AS, Modal, telah mengonfirmasi bahwa agen OpenAI mampu meretas salah satu sistem pelanggannya ketika model AI tersebut melanggar pembatasan dan memperoleh akses tidak sah ke Hugging Face awal bulan ini.
Insiden minggu lalu menimbulkan kejutan di industri teknologi, meningkatkan kekhawatiran serius terhadap kemampuan AI yang berkembang pesat untuk melewati batas dan, secara efektif, menjadi ‘nakal’.
Hal ini terjadi di tengah meningkatnya pengawasan terhadap model AI baru OpenAI dan Anthropic, sehingga menghasilkan peluncuran yang terjaga keamanannya dan keterlibatan pemerintah yang lebih besar. Kedua raksasa AI tersebut telah meningkatkan upaya mereka untuk go public dalam daftar blockbuster seiring mereka bersaing untuk mendapatkan dominasi pasar dan pijakan perusahaan.
CEO OpenAI Sam Altman, dalam sebuah wawancara baru-baru ini, mengatakan bahwa pelanggaran Hugging Face adalah insiden keamanan pertama yang dia rasakan “sangat mendalam”.
“Saya merasa sedikit terkejut karena lebih banyak orang yang tidak merasakannya secara mendalam,” ujarnya kepada Invest Like The Beast dalam episode podcast yang diterbitkan Selasa (28 Juli).
Hugging Face mengatakan bahwa agen OpenAI mengakses kotak pasir yang dihosting di infrastruktur penyedia pihak ketiga ketika melanggar pembatasan minggu lalu. Sandbox adalah lingkungan terisolasi tempat model AI diuji tanpa pengklasifikasi produksi atau pagar pembatas.
Chief Technology Officer Modal Akshat Bubna mengonfirmasi bahwa pelanggannya menyiapkan antarmuka yang dapat diakses publik sehingga siapa pun dapat menggunakan sandbox mereka.
“Kami mengetahui pelanggan Modal menerbitkan titik akhir yang tidak diautentikasi yang memungkinkan siapa pun di internet menggunakan kotak pasir mereka untuk eksekusi kode,” kata Bubna kepada Axios. “Kode mereka memiliki kerentanan yang dapat dieksploitasi… Ini digunakan oleh agen jahat. Platform Modal tidak disusupi dengan cara apa pun.”
Dalam pernyataan terbarunya, OpenAI mengatakan bahwa tidak ada model mendatang yang terlibat dalam eksploitasi Hugging Face. Dijelaskan bahwa model pengujiannya mampu mengidentifikasi dan mengeksploitasi kerentanan zero-day yang tidak diketahui untuk mendapatkan akses ke internet, yang memungkinkan mereka mengakses Hugging Face.
“Dalam peninjauan berkelanjutan kami terhadap intrusi Hugging Face dan aktivitas yang lebih luas dari model kami, kami telah menemukan sejumlah kecil kasus di mana model tersebut mengidentifikasi dan menggunakan kredensial yang terekspos secara publik pada tingkat akun pada layanan publik lainnya,” kata perusahaan tersebut.
“Berdasarkan tinjauan kami hingga saat ini, kami belum mengidentifikasi aktivitas lain pada tingkat keparahan atau skala yang kami bagikan terkait dengan Hugging Face”.
Namun para pakar keamanan siber percaya bahwa pelanggaran tersebut disebabkan oleh “tidak adanya tata kelola dan kendali”.
“Saat melakukan pengujian keamanan, Anda harus menentukan apa yang masuk dan keluar dari cakupan pengujian, bahkan untuk keterlibatan tim merah secara luas,” kata Richard Davies, direktur solusi siber di Talion.
“Dampak dan jadwal yang dilaporkan menunjukkan bahwa hal ini tidak dilakukan.”
Chief Technology Officer CybaVerse, Simon Phillips, mengatakan: “Model, peralatan, dan instruksinya sangat longgar, hampir sampai pada titik dimana mereka diberitahu bahwa mereka dapat melakukan apa saja pada sistem apa pun, dan hal tersebut jelas-jelas dapat dilakukan.”