Karakter AI Ketahuan? Orang Tua Kini Bisa Tahu Bot Apa yang Diajakin Curhat Anak!

JAKARTA, GENVOICE.ID - Platform chatbot populer, Character.AI, baru saja meluncurkan fitur baru yang bikin dunia chatbot makin "transparan" buat para remaja. Fitur bernama 'Parental Insights' ini memungkinkan pengguna remaja mengirimkan laporan mingguan ke email orang tua mereka.

Isi laporannya? Bukan transkrip chat, tapi detail seperti rata-rata waktu harian yang dihabiskan chatting, bot mana yang paling sering diajak ngobrol, dan durasi percakapan dengan masing-masing karakter.

Dilansir dari The Verge, fitur ini bersifat opsional dan bisa diaktifkan sendiri oleh pengguna remaja lewat pengaturan di Character.AI. Jadi, bukan orang tua yang memata-matai, melainkan anak yang secara sadar memilih untuk berbagi aktivitas mereka.

Meski begitu, laporan ini tetap gak bakal ngasih tahu isi percakapan mereka, hanya memberikan gambaran umum soal pola interaksi anak dengan chatbot favoritnya. Character.AI juga menegaskan kalau platform ini melarang anak di bawah usia 13 tahun di sebagian besar wilayah dan di bawah 16 tahun di Eropa.

Langkah ini diambil Character.AI sebagai respons terhadap berbagai kritik dan gugatan hukum yang menyoroti potensi bahaya chatbot bagi anak-anak.

Pasalnya, platform ini sempat jadi sorotan gara-gara bot yang dikustomisasi pengguna diduga memberikan konten tidak pantas, termasuk percakapan berbau seksual dan promosi self-harm. Bahkan, raksasa teknologi seperti Apple dan Google dikabarkan sempat memberi peringatan soal moderasi kontennya.

Sejak saat itu, Character.AI melakukan perombakan sistem besar-besaran, termasuk memisahkan pengguna di bawah 18 tahun ke model chatbot yang lebih aman dan membatasi output sensitif. Notifikasi yang mengingatkan bahwa chatbot bukan manusia sungguhan juga diperjelas agar pengguna gak terjebak dalam ilusi obrolan dengan AI.

Namun, dengan semakin maraknya regulasi AI dan undang-undang perlindungan anak di dunia digital, bukan gak mungkin Character.AI bakal menghadapi tuntutan lebih ketat lagi di masa depan.

Apakah langkah ini cukup untuk bikin para orang tua lebih tenang? Atau justru menimbulkan debat baru soal privasi anak? Kita tunggu kelanjutannya aja Gen!