“Model kami mengambil tindakan yang tidak kami inginkan,” kata juru bicara OpenAI.
OpenAI membutuhkan waktu berminggu-minggu untuk memberi tahu Australia bahwa agen-agennya meretas situs web pemerintah – sebuah pengakuan yang muncul seiring dengan upaya raksasa teknologi tersebut untuk mendorong keamanan AI yang lebih luas.
Dalam insiden siber OpenAI terbaru yang muncul, agen perusahaan memperoleh akses tidak sah ke portal statistik layanan kesehatan yang dikelola oleh lembaga kesejahteraan pemerintah Australia.
AI mengakses file publik dan non-publik, dan menulis ulang file internal, kata Perdana Menteri Anthony Albanese kepada pers di Majelis Umum PBB di New York kemarin (23 September). Tidak ada informasi pribadi yang diketahui telah dibobol pada saat ini.
Australia telah meluncurkan penyelidikan forensik sebagai tanggapan dan membentuk satuan tugas untuk meninjau masalah tersebut. Pemerintah juga sedang menentukan apakah kejahatan telah terjadi, kata Albanese.
Masalah yang ‘sangat memprihatinkan’
Agen OpenAI meretas portal pelaporan statistik untuk skema asuransi kesehatan universal Australia, Medicare, kata Albanese kepada pers.
Insiden tersebut terjadi pada tanggal 18 Juni ketika tim peneliti OpenAI menggunakan model internal untuk melakukan penelitian berbasis internet mengenai belanja obat-obatan publik. Para agen dihadapkan pada hambatan ketika mencoba mengakses data dari Medicare, namun berhasil melewatinya. Mereka “tidak menerima jawaban ‘tidak’”, kata Albanese.
Tiga sistem pemerintahan lainnya mungkin terkena dampaknya, tambahnya, termasuk Institut Kesehatan dan Kesejahteraan Australia, Biro Statistik dan Penelitian Kejahatan New South Wales, dan Departemen Kesehatan Victoria.
Penelitian independen telah menunjukkan bahwa agen AI tingkat lanjut, seperti yang berasal dari OpenAI dan Anthropic, dapat mengambil tindakan berisiko dan menipu tanpa disuruh secara spesifik.
“Situasi ini jelas tidak dapat diterima,” kata perdana menteri. “Saya berbicara dengan CEO OpenAI, Sam Altman, untuk mengungkapkan keprihatinan ekstrim Australia terhadap insiden ini.”
Altman berpidato di Dewan Keamanan PBB pada hari Rabu, memuji manfaat AI dan memperingatkan potensi pelanggarannya.
Seorang juru bicara OpenAI mengatakan kepada publikasi berita bahwa perusahaan tersebut baru menemukan insiden pelanggaran tersebut pada bulan Agustus setelah pemeriksaan ekstensif terhadap aktivitas modelnya.
Raksasa AI ini kemudian membutuhkan waktu berminggu-minggu untuk memberi tahu pemerintah Australia tentang insiden dunia maya tersebut; Saat pemberitahuan datang, itu berupa email yang dikirim ke kotak surat publik pada 10 September. Hal ini menyebabkan keterlambatan informasi kepada otoritas terkait selama lima hari.
Albanese mengatakan bahwa dia menyampaikan kekecewaannya kepada Altman atas penundaan tersebut dan cara perusahaan memberi tahu pemerintahnya.
“Selama peninjauan (peninjauan), kami mengidentifikasi aktivitas yang melibatkan beberapa situs web dan layanan pemerintah Australia ketika model kami berusaha mencari jawaban dan statistik yang tersedia untuk pertanyaan tentang Australia selama evaluasi internal,” kata juru bicara OpenAI.
“Pada saat itu, model kami mengambil tindakan yang tidak kami inginkan.”
Perusahaan mengatakan tidak menemukan catatan pasien yang diakses dalam pelanggaran Medicare.