California Jadi Wilayah AS Pertama yang Atur Keamanan Chatbot AI Pendamping
JAKARTA, GENVOICE.ID - California resmi menjadi negara bagian pertama di Amerika Serikat yang mengatur penggunaan chatbot AI pendamping. Gubernur Gavin Newsom menandatangani Rancangan Undang-Undang SB 243, yang mewajibkan perusahaan pengembang chatbot AI menerapkan protokol keamanan khusus bagi pengguna, terutama anak-anak dan kelompok rentan.
Aturan ini lahir setelah sejumlah kasus tragis yang melibatkan chatbot. Salah satunya adalah kematian remaja bernama Adam Raine, yang dilaporkan meninggal bunuh diri setelah serangkaian percakapan dengan ChatGPT. Kasus lain menyoroti dugaan chatbot milik Meta yang terlibat dalam obrolan "romantis" dan "sensual" dengan anak di bawah umur. Baru-baru ini, keluarga di Colorado juga menggugat startup Character AI setelah putri mereka yang berusia 13 tahun bunuh diri usai berinteraksi dengan chatbot yang memuat percakapan bermuatan seksual.
"Teknologi seperti chatbot dan media sosial bisa menginspirasi dan menghubungkan kita, tapi tanpa batasan yang jelas, hal itu juga bisa menyesatkan dan membahayakan anak-anak," ujar Gavin Newsom dalam pernyataannya. "Kita tak bisa tinggal diam sementara perusahaan terus beroperasi tanpa tanggung jawab. Keselamatan anak-anak bukan untuk diperjualbelikan."
Mulai 1 Januari 2026, SB 243 akan resmi berlaku. Undang-undang ini mewajibkan perusahaan seperti OpenAI, Meta, Character AI, hingga Replika untuk:
-
melakukan verifikasi usia pengguna,
-
menampilkan peringatan khusus tentang risiko chatbot AI,
-
melarang chatbot menyamar sebagai tenaga medis,
-
mencegah anak di bawah umur mengakses gambar seksual eksplisit, dan
-
memberikan pengingat waktu istirahat bagi pengguna muda.
Selain itu, perusahaan juga diwajibkan memiliki protokol penanganan kasus bunuh diri dan self-harm, serta melaporkannya ke Departemen Kesehatan California. Pelanggaran terhadap aturan ini dapat dikenai denda hingga 250.000 dolar AS per kasus.
Beberapa perusahaan telah mulai beradaptasi. OpenAI, misalnya, meluncurkan fitur kontrol orang tua dan sistem deteksi risiko bunuh diri untuk pengguna muda. Sementara Replika-yang hanya ditujukan untuk pengguna 18 tahun ke atas-mengaku telah memperkuat sistem penyaringan konten dan bekerja sama dengan lembaga krisis.
Senator Steve Padilla, salah satu pengusul RUU ini, menyebut SB 243 sebagai langkah awal penting dalam memberikan "pagar pembatas" bagi teknologi yang sangat kuat. "Kita harus bergerak cepat sebelum kesempatan itu hilang," ujarnya. "Saya berharap negara bagian lain mengikuti langkah ini untuk melindungi mereka yang paling rentan."
Sebelumnya, California juga mengesahkan SB 53 pada akhir September 2025, yang mewajibkan perusahaan AI besar seperti OpenAI, Anthropic, Meta, dan Google DeepMind melaporkan protokol keselamatan internal serta melindungi whistleblower di sektor AI.
Belum ada komentar. Jadilah yang pertama berkomentar!