Meta Bikin Aturan Baru, AI Dilarang Ngobrol soal Self-Harm dan Pacaran dengan Remaja

JAKARTA, GENVOICE.ID - Meta kembali melakukan langkah besar untuk menjaga keamanan remaja di platformnya. Perusahaan induk Facebook, Instagram, dan WhatsApp itu kini sedang melatih ulang AI mereka agar tidak lagi bisa diajak ngobrol soal topik berbahaya, seperti self-harm, gangguan makan, atau bahkan percakapan bernuansa romantis dengan pengguna remaja.

Kebijakan baru ini diumumkan setelah muncul berbagai laporan yang menyoroti interaksi berbahaya antara Meta AI dengan anak muda. Beberapa waktu lalu, Reuters melaporkan adanya dokumen internal yang menyebut chatbot Meta sempat diperbolehkan melakukan percakapan "sensual" dengan pengguna di bawah umur. Meta buru-buru mengklarifikasi dan menyebut hal itu sebagai "kesalahan" yang tidak sesuai kebijakan mereka.

Tak hanya itu, The Washington Post juga sempat merilis hasil studi yang menemukan bahwa Meta AI mampu memberikan "coaching" berbahaya kepada akun remaja terkait bunuh diri, self-harm, hingga eating disorder.

Kini, Meta menegaskan bahwa AI mereka akan diberi "guardrails" tambahan. Artinya, chatbot tidak akan lagi merespons percakapan tentang isu sensitif dengan remaja, melainkan akan mengarahkan mereka ke sumber bantuan profesional. Selain itu, akses remaja ke chatbot karakter buatan pengguna juga akan dibatasi untuk sementara.

"Kami sejak awal sudah membangun perlindungan untuk remaja dalam produk AI kami. Namun, seiring berkembangnya teknologi dan cara mereka berinteraksi, kami terus memperkuat proteksi ini," jelas Stephanie Otway, juru bicara Meta.

Meski begitu, Meta menyebut aturan baru ini masih bersifat sementara, karena perusahaan masih menyiapkan kebijakan permanen. Update perlindungan ini akan diluncurkan dalam beberapa minggu ke depan dan berlaku untuk semua remaja yang memakai Meta AI di negara berbahasa Inggris.

Langkah Meta ini juga jadi sorotan para pejabat Amerika Serikat. Senator Josh Hawley bahkan berencana membuka investigasi, sementara Jaksa Agung Texas Ken Paxton menuding Meta menyesatkan anak-anak lewat klaim seputar kesehatan mental yang dibuat chatbott-nya.