Jakarta. Seniman, akademisi, dan pakar hukum Indonesia memperingatkan tentang risiko kecerdasan buatan (AI), termasuk pelanggaran hak cipta, eksploitasi data, bias, dan ketidaksetaraan sosial yang meningkat ketika perusahaan besar mendominasi pengembangan AI.
“Peta jalan AI membahas bagaimana Indonesia dapat bersaing secara global di bidang ini, tetapi tidak membahas risiko,” kata Saras Dewi, seorang penulis dan dosen filsafat di Universitas Indonesia.
Saras berbicara di diskusi panel berjudul “Hak Cipta dan Filsafat AI,” Diadakan baru -baru ini di Taman Ismail Marzuki.
“Ada aspek yang belum dipertimbangkan. Tidak peduli seberapa banyak saya, sebagai peneliti, mengagumi kecerdasan buatan, kita harus tetap skeptis dan kritis. Kita seharusnya tidak kagum dengan mesin -mesin ini, percaya bahwa mereka dapat melakukan apa pun yang kita bayangkan, padahal sebenarnya, mereka masih penuh bias,” tambahnya.
AI Development Worldwide telah didominasi oleh perusahaan -perusahaan besar seperti Microsoft (seorang investor di Openai), Google, Meta, dan Amazon. Menurut UNESCO Research, produk AI generatif populer seperti ChatGPT, Midjourney, dan Dall-E terus melanggengkan gender yang berbahaya dan bias rasial. Wanita digambarkan bekerja dalam peran domestik jauh lebih sering daripada pria – empat kali sesering dengan satu model – dan sering dikaitkan dengan kata -kata seperti “rumah,” “keluarga,” dan “anak -anak,” sementara nama laki -laki terkait dengan “bisnis,” “eksekutif,” “gaji,” dan “karier.”
Berbagai laporan juga mengungkapkan bahwa produk AI ini dibangun di atas pencurian data dan eksploitasi tenaga kerja di negara -negara berkembang. Menurut WAKTUOpenai menggunakan buruh Kenya outsourcing yang berpenghasilan kurang dari $ 2 per jam. Selain itu, beberapa perusahaan ini telah memasok teknologi mereka ke militer AS, berpotensi digunakan dalam kampanye militer global.
Riri Satria, seorang dosen di Fakultas Ilmu Komputer Universitas Indonesia, mengatakan hasil yang dihasilkan AI tidak boleh digunakan untuk keputusan yang berhubungan dengan manusia yang kritis dan strategis.
“Hal-hal tentang kesejahteraan manusia harus diputuskan oleh manusia, bukan AI,” kata Riri.
Dia menyerukan undang -undang untuk mengatur penggunaan AI dan menyarankan pembentukan agen AI nasional untuk melindungi warga dari praktik AI yang tidak etis.
Indonesia Strategi AI Nasional 2020-2045dikembangkan oleh agen penilaian dan penerapan teknologi (BPPT), sudah mencakup rencana untuk komisi etika AI.
AI generatif juga menimbulkan keprihatinan hak cipta di antara para seniman. Banyak perusahaan AI telah diketahui menggunakan karya seniman tanpa izin untuk melatih model mereka dan menghasilkan kreasi baru.
Menurut pengacara hak cipta DiMaz Prayudha, pelanggaran hak cipta sering terjadi ketika AI digunakan untuk menghasilkan konten seperti artikel, lagu, dan lukisan. Pengguna sering tidak memiliki kendali atas yang berfungsi AI untuk menghasilkan output baru.
Jika sistem AI ditemukan telah menggunakan karya seniman tanpa izin, artis memiliki hak untuk menuntut pengguna AI dan perusahaan AI.
“Pihak pertama yang dapat digugat adalah pengguna AI (orang yang menyediakan prompt), dan yang kedua adalah perusahaan AI itu sendiri untuk menciptakan sistem yang memungkinkan penggunaan karya berhak cipta secara tidak sah,” DiMaz menjelaskan.