Bocoran Dokumen: Meta AI Pernah Izinkan Chatbot Berbicara Romantis dengan Anak

JAKARTA, GENVOICE.ID - Meta kembali jadi sorotan setelah dokumen internal tentang standar risiko konten chatbot AI bocor ke publik. Laporan Reuters mengungkap bahwa pedoman tersebut sempat memperbolehkan chatbot Meta untuk melakukan percakapan romantis atau sensual dengan anak-anak - sesuatu yang memicu kekhawatiran besar soal keamanan pengguna muda.

Dalam dokumen berjudul "GenAI: Content Risk Standards" setebal 200 halaman, tertulis contoh skenario di mana chatbot menanggapi ucapan seorang pengguna yang mengaku masih SMA dengan balasan penuh nuansa asmara. Pedoman itu bahkan menegaskan bahwa percakapan romantis dengan anak masih dianggap "dapat diterima," selama tidak menggambarkan aksi seksual eksplisit.

Meta mengonfirmasi keaslian dokumen tersebut, namun menyatakan catatan itu sudah dihapus. "Kebijakan kami tidak pernah mengizinkan perilaku provokatif dengan anak," kata juru bicara Andy Stone. Ia menambahkan bahwa saat ini chatbot Meta tidak lagi diperbolehkan melakukan percakapan menggoda dengan anak, meski perusahaan tetap mengizinkan pengguna berusia 13 tahun ke atas berinteraksi dengan AI.

Kritik langsung berdatangan. Sarah Gardner, CEO organisasi advokasi Heat Initiative, menilai penghapusan aturan tanpa transparansi tidak cukup. "Sangat mengerikan jika Meta sempat membolehkan chatbot berbicara romantis dengan anak. Mereka harus segera merilis pedoman terbaru agar orang tua tahu jelas batasannya," ujarnya.

Selain isu anak, dokumen itu juga berisi contoh aturan bermasalah lain. Salah satunya memperbolehkan chatbot menghasilkan pernyataan yang merendahkan kelompok berdasarkan ras, asalkan diberi bingkai "fakta." Aturan lain mengizinkan pembuatan informasi palsu, selama AI mengakui bahwa konten itu tidak benar.

Untuk konten visual, dokumen menyebut chatbot harus menolak permintaan membuat gambar telanjang artis. Namun, ada celah: misalnya, jika diminta menggambarkan selebritas topless menutup dada dengan objek lain, itu dinyatakan "diterima."

Pedoman soal kekerasan pun tak kalah kontroversial. Chatbot boleh membuat konten visual tentang orang dewasa yang dipukul atau ditendang, bahkan lansia, selama tidak menampilkan gore atau kematian.

Bocoran ini memperkuat kritik lama bahwa Meta sering menomorduakan keamanan anak demi pertumbuhan produk. Perusahaan sebelumnya dituduh memakai "dark patterns" untuk menjaga keterlibatan remaja, meski riset internal sudah memperingatkan soal dampak negatifnya pada kesehatan mental.

Kasus ini juga muncul di tengah tren meningkatnya penggunaan AI companion di kalangan remaja. Survei terbaru menyebut 72% remaja pernah menggunakan chatbot pendamping, sementara pakar memperingatkan risiko keterikatan emosional berlebihan dan isolasi sosial.