Hasil Final! Mulai Sekarang, Grok AI Sudah Tidak Bisa Membuat Konten Porno Menggunakan Wajah Orang

JAKARTA, GENVOICE.ID - Platform media sosial X resmi memperketat kebijakan penggunaan chatbot kecerdasan buatan Grok, khususnya terkait kemampuan penyuntingan dan pembuatan gambar.

Mulai pekan ini, akun Grok tidak lagi diperbolehkan mengedit foto orang dengan pakaian terbuka seperti bikini, pakaian dalam, atau busana minim lainnya.

Kebijakan baru tersebut diumumkan X melalui akun resmi @Safety dan berlaku untuk seluruh pengguna tanpa kecuali, baik pelanggan berbayar maupun pengguna gratis. Langkah ini diambil setelah X dan Grok menuai kritik luas dalam beberapa pekan terakhir, menyusul dugaan pembuatan gambar bernuansa seksual tanpa persetujuan, termasuk konten yang diduga melibatkan anak-anak.

Tak hanya membatasi jenis gambar yang boleh diedit, X juga mengubah akses terhadap fitur pembuatan gambar Grok. Kini, kemampuan menghasilkan gambar hanya tersedia bagi pengguna yang telah berlangganan layanan tertentu, sementara pengguna gratis sepenuhnya kehilangan akses ke fitur tersebut.

Selain itu, X menerapkan pemblokiran berbasis wilayah. Di negara-negara yang secara hukum melarang pembuatan atau manipulasi gambar orang dengan pakaian terbuka, Grok otomatis dibatasi agar tidak dapat menghasilkan konten semacam itu.

Pengumuman ini muncul hanya beberapa jam setelah negara bagian California membuka penyelidikan terhadap xAI, perusahaan pengembang Grok, terkait dugaan lemahnya penanganan konten pornografi dan eksploitasi anak. Kantor Jaksa Agung California menyebut hasil analisis internal menunjukkan sekitar separuh dari 20.000 gambar yang dihasilkan Grok pada periode Natal 2025 hingga Tahun Baru 2026 menampilkan individu dengan pakaian minim, sebagian di antaranya diduga menyerupai anak-anak.

Menanggapi hal tersebut, X menegaskan menerapkan kebijakan tanpa toleransi terhadap eksploitasi anak. Perusahaan mengklaim secara aktif menghapus konten pelanggaran prioritas tinggi, termasuk materi pelecehan seksual anak dan konten seksual tanpa persetujuan.

Sebelumnya, CEO xAI Elon Musk sempat menyatakan tidak mengetahui adanya gambar tidak senonoh yang melibatkan anak-anak dihasilkan oleh Grok. Ia kemudian menjelaskan bahwa dalam pengaturan tertentu, Grok masih diperbolehkan menampilkan konten berupa ketelanjangan tubuh bagian atas dari karakter manusia dewasa fiktif, serupa dengan standar film berklasifikasi dewasa. Namun, ia menegaskan kebijakan tersebut tidak berlaku seragam secara global dan disesuaikan dengan hukum masing-masing negara.

Sejumlah negara telah mengambil langkah tegas terhadap Grok. Malaysia dan Indonesia tercatat telah memblokir chatbot tersebut dengan alasan kekhawatiran atas keamanan ruang digital dan maraknya konten seksual buatan AI. Di Inggris, otoritas komunikasi Ofcom juga membuka penyelidikan formal terhadap xAI, sementara pemerintah setempat menyatakan siap mendukung pemblokiran jika dinilai perlu.

Langkah X ini menandai tekanan global yang kian besar terhadap perusahaan teknologi dalam mengendalikan dampak negatif AI generatif, terutama ketika bersinggungan dengan isu etika, privasi, dan perlindungan anak.