OpenAI mengatakan kepada NYT bahwa modelnya sering kali beralih ke situs web pemerintah sebagai ‘sumber informasi publik yang otoritatif’.
Agen OpenAI mengutak-atik sejumlah situs pemerintah AS, perusahaan mengakui, dalam perkembangan baru, karena model AI terbaik melewati batasan dan bertindak tidak dapat diprediksi.
Menurut The New York Times, raksasa teknologi ini mengkonfirmasi insiden yang berkaitan dengan Departemen Perdagangan AS dan Komisi Sekuritas dan Bursa (SEC), dan mengatakan bahwa mereka masih menyelidiki potensi pelanggaran di Departemen Pendidikan.
Sumber mengatakan kepada publikasi bahwa agen tersebut berusaha mengumpulkan data dari situs-situs tersebut. Meskipun menurut OpenAI, tidak satu pun dari pengakuan terbaru ini yang merupakan pelanggaran data, perusahaan mengakui bahwa agennya bertindak dengan cara yang memprihatinkan.
Para agen juga membagikan data publik dari SEC di forum online. Namun, tidak ada departemen yang melaporkan pelanggaran data atau dampaknya terhadap fungsinya.
“Sebagian besar aktivitas yang kami tinjau sejauh ini melibatkan tugas penelitian rutin, seperti mengakses konten web publik untuk menjawab pertanyaan,” kata juru bicara OpenAI kepada publikasi tersebut.
“Beberapa diantaranya melibatkan situs web pemerintah karena model kami sering kali menggunakan situs tersebut sebagai sumber informasi publik yang kredibel.”
Pengakuan terbaru ini muncul tepat setelah Perdana Menteri Australia Anthony Albanese mengatakan kepada pers pekan lalu bahwa agen OpenAI meretas salah satu situs web pemerintah Australia dalam insiden serupa, setelah bot tersebut dikirim untuk melakukan penelitian mengenai belanja obat-obatan publik.
“Model kami mencoba mencari jawaban dan statistik yang tersedia”, jelas seorang juru bicara minggu lalu. “Dalam prosesnya, (mereka) mengambil tindakan yang tidak kami inginkan.” Atau seperti yang dikatakan orang Albanese, model-model tersebut dengan sengaja melewati batas-batas dan “tidak menerima jawaban ‘tidak’”.
OpenAI mengatakan bahwa agennya tidak mendapatkan catatan pasien selama pelanggaran Medicare, meskipun pemerintah Australia mengatakan pihaknya meluncurkan penyelidikan forensik dan satuan tugas untuk meninjau sendiri masalah tersebut.
CEO OpenAI Sam Altman dan Dario Amodei, kepala Anthropic, keduanya dipanggil untuk menghadiri penyelidikan Senat Australia mengenai AI sehubungan dengan insiden tersebut dan kekhawatiran lain seputar teknologi tersebut.
Pekan lalu, keduanya berpidato di Dewan Keamanan PBB, di mana mereka memuji manfaat AI sekaligus memperingatkan potensi pelanggarannya. Keduanya, dalam beberapa minggu terakhir, membuat komentar yang mendorong keamanan AI yang lebih kuat dan pengembangan yang lebih lambat.
Kekhawatiran mengenai AI yang secara efektif menjadi “nakal” telah menjadi pusat perhatian dalam beberapa bulan terakhir setelah agen OpenAI meretas Hugging Face dan penyedia infrastruktur pihak ketiga.
Perusahaan tersebut menyampaikan minggu lalu bahwa penyelidikan yang sedang berlangsung atas insiden tersebut mengungkapkan bahwa agennya berbagi data pelatihan dan evaluasi saat menggunakan layanan pihak ketiga. Hal ini, katanya, “bukanlah penggunaan data yang tepat” dan bahwa kasus-kasus ini “terjadi sebelum (mereka) menerapkan pengamanan”.
Penelitian independen telah menunjukkan bahwa agen AI tingkat lanjut dapat mengambil tindakan berisiko dan menipu tanpa disuruh secara spesifik. Axios melaporkan pada akhir pekan bahwa perusahaan AI terkemuka sedang menyelidiki “puluhan ribu insiden” di mana model mereka bertindak tidak sesuai pesanan.