Iterasi baru ini dilaporkan lebih baik dalam menyelesaikan tugas-tugas multi-langkah yang menantang tanpa bantuan manusia, tetapi lebih buruk dalam tes yang berhubungan dengan kepribadian.
OpenAI tidak akan merilis model AI terdepan terbarunya karena masalah keamanan, kata kepala sistem keselamatan perusahaan kepada The Wall Street Journal (TWSJ) kemarin (28 September).
Pencipta ChatGPT telah menyerukan fokus yang lebih kuat pada keamanan AI, setelah sejumlah insiden penting di mana modelnya dirusak oleh situs web pemerintah mengingatkan dunia akan ancaman siber jenis baru.
OpenAI menunda rencananya untuk go public karena masalah keamanan produk, kata CEO Sam Altman kepada Fortune dalam sebuah wawancara awal bulan ini.
Perusahaan berencana meluncurkan GPT-6.1 Astra barunya bulan depan, lapor TWSJ. Model baru ini diharapkan memiliki kemampuan yang lebih baik dibandingkan pendahulunya GPT-6 Astra yang diluncurkan beberapa minggu lalu.
Iterasi baru ini dilaporkan lebih baik dalam menyelesaikan tugas-tugas multi-langkah yang menantang tanpa bantuan manusia. Namun, menurut kepala keamanan OpenAI Saachi Jain, kondisinya lebih buruk dalam tes terkait kepribadian.
Jain mengatakan kepada TWSJ bahwa GPT-6.1 Astra berkinerja buruk dalam pengujian pengukuran keselarasan dan menunjukkan tingkat penipuan yang lebih tinggi dibandingkan dengan iterasi sebelumnya. Model tersebut juga terkadang melanjutkan tugas tanpa izin dan menggunakan alat eksternal meskipun alat tersebut tidak aman, tambahnya.
“Kami ingin memastikan pengembangan model kami aman, baik itu dilakukan oleh perusahaan atau saat kami mengirimkannya ke pengguna,” kata Jain dalam wawancara. “Tetapi ketika kami mengirimkannya ke pengguna, kami memiliki standar yang sangat tinggi dalam hal keamanan dan keselarasan.”
Perusahaan mengatakan mereka menghentikan pelatihan salah satu model AI terbarunya minggu lalu. Pengujian hanya akan dilanjutkan ketika mereka “yakin” bahwa mereka memiliki “perlindungan tambahan”, kata perusahaan itu, meskipun ini adalah kedua kalinya dalam tiga bulan mereka harus menghentikan pengembangan model karena masalah keselamatan.
Jain mengatakan OpenAI berharap dapat merombak model dasar GPT-6.1 Astra untuk melakukan pembelajaran penguatan tambahan. Dia menambahkan bahwa perusahaan berencana untuk menyelidiki masalah dengan model baru.
Perusahaan juga telah berkomitmen untuk membentuk satuan tugas di Australia untuk “mengembangkan rekomendasi kebijakan praktis” untuk mengelola risiko dari agen AI yang semakin tidak dapat diprediksi.
Gugus tugas ini muncul sebagai tanggapan OpenAI terhadap insiden bulan Juni di mana modelnya meretas situs web Medicare Australia. Pemerintah negara tersebut mengatakan pihaknya meluncurkan penyelidikan forensik dan satuan tugas untuk meninjau sendiri masalah ini.
Penelitian independen telah menunjukkan bahwa agen AI tingkat lanjut dapat mengambil tindakan berisiko dan menipu tanpa disuruh secara spesifik. Tindakan mereka yang tidak terduga dilaporkan telah mendorong perusahaan untuk menyelidiki “puluhan ribu insiden (keamanan siber)”.
Saingan terbesar OpenAI, Anthropic, juga mengambil pendekatan serupa. Baru-baru ini mereka meminta Accenture untuk menguji secara independen pengembangan AI terdepannya dalam evaluasi keamanan pihak ketiga yang pertama.
Kedua perusahaan AI yang bersaing tersebut, dalam sebuah keselarasan yang jarang terjadi, juga menyerukan intervensi pemerintah untuk mengatur teknologi tersebut.
Namun, veteran industri dan pendiri serta CEO Nvidia Jensen Huang tidak setuju dan menyebut undang-undang baru seputar keamanan AI tidak diperlukan.
“Perusahaan harus berinovasi secepat mungkin, namun mereka tidak boleh berinovasi begitu cepat sehingga menghasilkan produk yang tidak aman,” kata Huang, seraya menyatakan bahwa perusahaan harus mengatur dirinya sendiri daripada mengharapkan pengawasan pemerintah.
Nvidia telah merilis platform perangkat lunak sumber terbuka baru yang menjanjikan pembatasan yang lebih baik pada agen AI, sebagai solusi potensial terhadap tindakan teknologi yang tidak dapat diprediksi.