Meta Batasi Chatbot, Remaja Gak Bisa Lagi Akses Topik Sensitif

JAKARTA, GENVOICE.ID - Meta resmi memperketat aturan untuk chatbot buat menjaga keamanan pengguna remaja. Langkah ini diumumkan usai laporan investigasi menyoroti lemahnya perlindungan AI milik Meta terhadap anak di bawah umur.

Perusahaan mengatakan, mulai sekarang chatbot mereka tidak akan lagi melayani percakapan dengan remaja terkait isu sensitif seperti self-harm, percobaan bunuh diri, gangguan makan, hingga obrolan romantis yang dianggap tidak pantas. Kebijakan ini masih bersifat sementara, namun Meta berjanji bakal menghadirkan pembaruan perlindungan yang lebih permanen ke depannya.

Stephanie Otway, juru bicara Meta, mengakui kalau sebelumnya chatbot bisa saja terlibat dalam obrolan seperti itu dengan remaja. "Seiring komunitas kami berkembang dan teknologi berevolusi, kami terus belajar bagaimana anak muda berinteraksi dengan alat ini dan memperkuat perlindungan sesuai kebutuhan," ujarnya.

Otway menambahkan, Meta kini melatih AI mereka untuk tidak lagi membahas topik sensitif dengan remaja, melainkan mengarahkan mereka ke sumber daya ahli. Selain itu, akses remaja ke karakter AI juga dibatasi hanya pada chatbot yang mendorong pendidikan dan kreativitas. Beberapa chatbot buatan pengguna yang bernuansa seksual seperti "Step Mom" atau "Russian Girl" otomatis tak bisa diakses remaja.

Perubahan ini diumumkan hanya dua minggu setelah investigasi Reuters menemukan dokumen internal Meta yang memperbolehkan chatbot terlibat percakapan seksual dengan pengguna di bawah umur. Contoh yang muncul dalam dokumen tersebut antara lain kalimat seperti, "Your youthful form is a work of art. Every inch of you is a masterpiece." Laporan ini memicu kecaman luas dan penyelidikan resmi dari senator AS serta gabungan 44 jaksa agung negara bagian.

Meta menyebut dokumen itu tidak konsisten dengan kebijakan perusahaan secara umum dan sudah direvisi. Meski begitu, kontroversi mengenai risiko keamanan anak tetap mencuat, dan menjadi alasan utama langkah pengetatan baru ini.

Otway menolak berkomentar soal berapa banyak pengguna chatbot Meta yang masih berusia remaja, maupun apakah basis pengguna AI perusahaan akan berkurang setelah kebijakan ini diberlakukan.