Dalam upaya untuk menindak aktivitas berbahaya, model ini – yang dirancang dengan mempertimbangkan generasi muda – bertujuan untuk membatasi akses terhadap topik kontroversial seperti tindakan menyakiti diri sendiri dan konten seksual.
Menanggapi meningkatnya kekhawatiran atas perlindungan orang-orang rentan secara online, OpenAI telah meluncurkan model ChatGPT baru yang dirancang khusus untuk remaja berusia antara 13 dan 17 tahun.
Perusahaan AI seperti OpenAI telah menghadapi kritik yang signifikan karena memaparkan anak-anak pada materi berbahaya dan ilegal dengan mengizinkan mereka mengakses informasi, saran, dan gambar yang mencakup topik-topik tidak pantas seperti bunuh diri, menyakiti diri sendiri, kekerasan, gangguan makan, dan perilaku seksual yang mencolok.
Pada bulan April 2025, seorang anak laki-laki berusia 16 tahun meninggal karena bunuh diri setelah berbulan-bulan mendiskusikan kesehatan mentalnya yang memburuk dengan chatbot OpenAI yang, menurut gugatan yang diajukan oleh keluarganya, mendorong keinginan untuk bunuh diri. Bot tersebut bahkan menawarkan bantuan untuk membuat surat bunuh diri untuk keluarganya.
Model ‘ChatGPT untuk Remaja’ yang baru bertujuan untuk membatasi percakapan berisiko tinggi dan dalam beberapa kasus – jika dianggap perlu dan jika pilihan telah dipilih – sistem akan mengingatkan orang dewasa untuk mencurigai perilaku melalui kontrol dan pemberitahuan orang tua. Model tersebut juga akan mencegah bot menunjukkan perasaan pribadinya, menurut OpenAI.
Sebaliknya, mereka akan menawarkan alat belajar dan dukungan pembelajaran. Daripada memberikan jawaban atas pertanyaan secara langsung, hal ini bertujuan untuk membimbing generasi muda menuju solusi sehingga mereka dapat menyelesaikannya sendiri, menurut pembuatnya.
Kabarnya, model tersebut akan menggunakan lebih dari 2.000 sinyal untuk mendeteksi apakah pengguna berbohong tentang usianya untuk mendapatkan akses ke chatbot standar; jika mereka dianggap berusia di bawah 18 tahun, mode remaja akan diaktifkan secara otomatis.
Dalam sebuah pernyataan, OpenAI mengatakan: “Kami akan terus membangun fitur-fitur tambahan agar remaja dapat memperoleh manfaat dari AI, dan mengukur serta mempublikasikan apa yang kami pelajari. Remaja harus dapat menggunakan AI untuk belajar, berkreasi, dan bereksplorasi. Namun akses tersebut harus disertai dengan perlindungan yang mencerminkan tahap perkembangan mereka, memperkuat hubungan di dunia nyata, dan mendukung penggunaan yang sehat dari waktu ke waktu. ChatGPT untuk Remaja adalah langkah kami selanjutnya dalam membangun standar tersebut.”
Kemarin (18 Agustus), a kelompok empat negara bagian AS memulai uji coba terhadap Meta dalam upaya untuk membuktikan bahwa raksasa media sosial tersebut dengan sengaja menyebabkan kerugian pada anak-anak. Gugatan tersebut mengklaim bahwa Meta secara khusus menargetkan pengguna di bawah 13 tahun untuk mengumpulkan data, mengirimkan iklan bertarget, dan mengembangkan cara untuk memperpanjang waktu yang dihabiskan di aplikasi mereka, semuanya sebagai sarana monetisasi.