India Akan Sentil X dan Grok, Pemerintah Beri Tenggat 72 Jam Usai Konten AI Dinilai Cabul

JAKARTA, GENVOICE.ID - Pemerintah India mengambil langkah tegas terhadap platform X milik Elon Musk menyusul maraknya konten tidak senonoh yang dihasilkan chatbot berbasis kecerdasan buatan, Grok.

Melalui Kementerian Teknologi Informasi, New Delhi memerintahkan X untuk segera membenahi aspek teknis dan prosedural Grok, terutama terkait pembuatan dan penyebaran konten bermuatan seksual.

Dilaporkan TechCrunch, Jumat (2/1), pemerintah India meminta X membatasi secara ketat kemampuan Grok dalam menghasilkan konten yang mengandung ketelanjangan, seksualisasi, materi seksual eksplisit, hingga konten lain yang melanggar hukum. Platform tersebut diberi waktu 72 jam untuk menyerahkan laporan tertulis yang merinci langkah korektif yang telah dilakukan.

Dalam instruksinya, Kementerian Teknologi Informasi menegaskan bahwa laporan tersebut harus memuat mekanisme pencegahan terhadap konten yang dinilai cabul, pornografis, vulgar, tidak senonoh, pedofilik, atau dilarang menurut hukum India. Pemerintah juga memperingatkan bahwa kegagalan mematuhi perintah ini dapat mengancam status safe harbor X, yakni perlindungan hukum yang selama ini membebaskan platform dari tanggung jawab atas konten buatan pengguna.

Langkah ini diambil setelah muncul gelombang keluhan dari pengguna media sosial yang membagikan contoh penyalahgunaan Grok, termasuk memanipulasi gambar individu, terutama perempuan agar tampak mengenakan bikini. Isu tersebut kemudian memicu reaksi politik, dengan anggota parlemen India Priyanka Chaturvedi melayangkan pengaduan resmi kepada pemerintah.

Kekhawatiran kian meningkat setelah beredar laporan penggunaan Grok untuk menghasilkan gambar seksual yang melibatkan anak. X mengakui kasus tersebut terjadi akibat lemahnya pengamanan dan menyatakan gambar-gambar terkait telah dihapus. Namun, hingga berita ini diturunkan, sejumlah gambar manipulatif terhadap perempuan masih dapat ditemukan di platform X.

Sebelum mengeluarkan perintah khusus terhadap Grok, Kementerian Teknologi Informasi India sebenarnya telah mengirimkan imbauan umum kepada berbagai platform media sosial. Dalam imbauan itu, pemerintah menekankan bahwa kepatuhan terhadap hukum lokal terkait konten cabul dan seksual eksplisit merupakan syarat mutlak untuk mempertahankan kekebalan hukum atas konten buatan pengguna.

Pemerintah India juga mengingatkan bahwa kelalaian memperkuat sistem pengamanan internal dapat berujung pada tindakan hukum berdasarkan Undang-Undang Teknologi Informasi dan hukum pidana yang berlaku. Ketidakpatuhan, menurut kementerian, akan dipandang serius dan dapat menyeret platform, pejabat terkait, hingga pengguna ke ranah hukum tanpa pemberitahuan lanjutan.

Sebagai salah satu pasar digital terbesar di dunia, India kini menjadi medan uji penting bagi perusahaan teknologi global dalam menghadapi tuntutan akuntabilitas atas konten berbasis AI. Pengetatan aturan ini dinilai berpotensi menciptakan efek domino, memengaruhi pendekatan regulasi AI di negara lain.

Di sisi lain, X masih menggugat sejumlah ketentuan regulasi konten India di pengadilan. Platform tersebut menilai kewenangan pemerintah dalam menghapus konten tertentu berlebihan, meski dalam praktiknya X tetap mematuhi sebagian besar perintah pemblokiran.

Hingga kini, baik X maupun xAI belum memberikan tanggapan resmi atas instruksi pemerintah India terkait perbaikan Grok.