Joseph Crawford dari Universitas Tasmania dan Michael Cowling dari Universitas RMIT membahas bahayanya menjadi terlalu bergantung secara emosional pada teknologi canggih.
Versi artikel ini awalnya diterbitkan oleh The Conversation (CC BY-ND 4.0)
Sejak November 2022, kecerdasan buatan generatif (AI) telah menulis ulang miliaran email, tugas siswa, laporan, dan pesan teks yang terputus-putus. Selain penggunaan sehari-hari ini, kita juga telah melihat perkembangan yang pesat chatbots sebagai “pendamping” AI.
Pengguna dapat mendesain dan mengenakan (atau menanggalkan pakaian) milik mereka teman AI sendirisering kali dengan biaya tertentu. Chatbot sosial ini menyediakan “percakapan yang menyenangkan” dan hubungan yang tampaknya sempurna dengan mengorbankan kerentanan timbal balik dan rasa memiliki yang tulus yang kita peroleh dari ikatan dengan manusia lain.
Para pendukungnya berpendapat bahwa bagi mereka yang mengalami keterputusan sosial, chatbots selalu tersedia, menjadi teman yang suportif dan tidak menghakimi mereka. Dan ada beberapa bukti chatbots dapat meringankan gejala kesepian, pemutusan hubungan kronis, dan rasa memiliki yang digagalkan.
Australia Komisaris Keamanan Elektronik mengakui hal ini: “Pendamping AI selalu tersedia – yang mungkin menarik bagi generasi muda yang kesulitan membangun hubungan tatap muka.”
Tapi itu risiko menggantikan hubungan antarmanusia dengan chatbots baru mulai dipahami.
Sebuah penelitian kami lakukan pada tahun 2023 menunjukkan bahwa mahasiswa yang menggunakan chatbot awal untuk dukungan akademis dapat mengatasi konsekuensi yang tidak diinginkan, seperti kesepian. Saat ini, risiko chatbot sosial – seperti ketergantungan, menggusur persahabatan manusia, menarik diri dari pergaulan, atau membangun hubungan yang tidak realistis – tampaknya lebih besar daripada manfaatnya.
Dalam beberapa minggu terakhir, Tiongkok telah menerapkan aturan baru untuk pendamping AI dan chatbot, atau “layanan interaktif antropomorfik” seiring dengan perkembangan teknologi. disebut dalam peraturan perundang-undangan. Selain memastikan chatbot harus menjaga rahasia negara, penggunaan alat-alat ini secara emosional juga dibatasi, dan diharapkan mengikuti standar sosial dan moral.
Ini adalah beberapa di antaranya kontrol terkuat atas penggunaan AI sosial diperkenalkan di mana pun di dunia. Jadi apa yang bisa kita pelajari?
Regulasi AI sosial Tiongkok
Kerugian material akibat penggunaan AI memang terjadi, termasuk di Tiongkok. Seorang anak berusia 18 tahun menghabiskan 7.000 yuan (A$1.400) untuk perhiasan khusus untuk pacar AI-nya selama empat bulan “berkencan”.
Keluarga yang kesepian 84 tahun di provinsi Hubei, Tiongkok mengetahui bahwa dia jatuh cinta dengan karakter AI, menghabiskan hingga 10 jam sehari menonton video bersamanya dan karakter lain, menghabiskan ribuan yuan untuk layanan tersebut dan bahkan menulis surat cinta kepadanya dengan tangan.
Aturan baru Tiongkok menetapkan ketentuan eksplisit tentang bagaimana mereka mengharapkan chatbot pendamping berinteraksi dengan manusia.
Langkah-langkah tersebut mengharapkan pengembang bot AI sosial untuk memastikan konten tidak:
- mengancam keamanan nasional atau kehormatan nasional
- melanggar nilai-nilai inti sosialis
- mendorong tindakan menyakiti diri sendiri atau bunuh diri
- terlalu melayani ketergantungan atau kecanduan emosional
- memberikan ‘mitra’ atau ‘kerabat’ virtual kepada anak di bawah umur
- menyajikan konten yang tidak sesuai untuk anak di bawah umur.
Terlebih lagi, pengguna yang tampaknya terlalu bergantung pada layanan ini harus menerima pengingat yang jelas bahwa mereka sedang berbicara dengan chatbot. Dan perusahaan AI diharuskan melakukan intervensi jika pengguna tampak berada dalam kondisi yang sangat tertekan.
Risiko ‘spiral kesepian’
Seperti yang telah kami tunjukkan, terdapat kekhawatiran – dan penelitian hingga saat ini juga mengisyaratkan hal ini – bahwa tidak sehat bagi generasi muda untuk hanya mengandalkan AI sebagai teman atau terapis yang dapat dipercaya.
Orang-orang kesepian yang mengalami kecemasan sosial dapat terlibat penggunaan yang bermasalah AI percakapan untuk mengurangi perasaan kesepian dan perenungan negatif.
Kami berpendapat bahwa ketergantungan ini dapat menyebabkan ‘spiral kesepian’ yang disebabkan oleh AI. Ketika individu merasa kesepian, mereka merasa kesepian lebih sensitif terhadap perasaan ancaman sosial dan mengganggu regulasi emosional.
Jadi, mereka beralih ke ‘teman’ AI yang berisiko rendah untuk mendapatkan dukungan, daripada manusia yang berkualitas atau ramah. Namun, hal ini sering kali tidak menyelesaikan masalah awal yaitu kesepian, karena chatbot justru dapat memperburuknya.
Pembatasan yang diberlakukan Tiongkok terhadap mitra AI dapat membantu memutus siklus ini dan memprioritaskan kembali hubungan antarmanusia. Hal ini menyeimbangkan kembali matematika kognitif – apakah akan lebih memuaskan jika memasang aplikasi AI pendamping, atau meluangkan waktu untuk bertemu dengan teman saya?
Pelajaran untuk Australia
Kesepian dan rendahnya rasa memiliki masih menjadi tantangan utama di Australia, setidaknya satu dari enam kasus mengalami hal ini mengalami kesepiandengan beberapa bukti menyarankan tarif yang lebih tinggi.
Meskipun Tiongkok telah menindak mitra AI, Australia justru menjadi yang terdepan dalam penggunaan media sosial oleh generasi muda. eSafety juga telah mengembangkan kode untuk membatasi materi terkait usia secara online seperti pornografi, kekerasan berdampak tinggi, menyakiti diri sendiri, bunuh diri, dan gangguan makan. Namun hal tersebut tidak mengatasi dampak sosial yang ditimbulkan oleh AI, seperti ketergantungan emosional atau hilangnya hubungan antarmanusia.
Perdana Menteri Anthony Albanese juga tidak menyebutkan kerugian sosial dari chatbot AI dalam pidato utamanya tentang AI minggu lalu.
Kami mengusulkan agar perlindungan materi dengan batasan usia di Australia harus mencakup dampak sosial yang tidak diinginkan akibat percakapan dengan AI sosial, analitis, dan fungsional.
Pemerintah Australia perlu mengeksplorasi bagaimana teman-teman virtual ini berinteraksi dengan warga Australia. Dan kita harus bersiap untuk memitigasi dampak buruk sosial yang tidak diinginkan sebelum hubungan sosial sintetik ini meluas dan menjadi normal.
Australia harus memprioritaskan pengembangan keterhubungan sosial – di tempat kerja, strategi produktivitas, kurikulum pendidikan, dan lainnya desain komunitas kita.
Tindakan keras otoriter terhadap chatbot mungkin tidak dapat dilakukan di negara demokratis. Namun kita dapat – dan harus – memprioritaskan pengembangan keterampilan hubungan antarmanusia untuk melawan ketergantungan berlebihan yang tidak sehat pada AI.
Dan Australia harus memanfaatkan perlindungan peraturan untuk memitigasi dampak buruk sosial, memperluas upaya yang telah dilakukan eSafety dengan media sosial.
Joseph Crawford Dan Michael Cowling
Joseph Crawford adalah pakar manajemen, kepemimpinan, dan pendidikan tinggi pemenang penghargaan yang tinggal di Kantor Wakil Rektor Bidang Pendidikan di Universitas Tasmania. Dia sangat tertarik dengan para pemimpin dan bagaimana perilaku mereka membentuk dunia di sekitar mereka. Hal ini mencakup pemimpin organisasi dari berbagai disiplin ilmu termasuk guru sebagai pemimpin dan pemimpin siswa.
Prof Michael Cowling adalah pendidik dan komunikator teknologi pemenang penghargaan yang memiliki minat besar pada pendidikan realitas campuran, pendidikan ilmu komputer, dan teknologi informasi di masyarakat. Saat ini dia adalah profesor dan direktur di Hub for Apple Platform Innovation di School of Computing Technologies di Universitas RMIT dan merupakan pendiri The Create Lab, yang berfokus pada penelitian kolaboratif dan keterlibatan seputar teknologi dan pendidikan.