Grok AI Diblokir Komdigi, Imbas Maraknya Pornografi Deepfake Yang Ancam Keamanan Digital!

JAKARTA, GENVOICE.ID - Kabar mengejutkan datang buat kalian yang sering mantengin update teknologi kecerdasan buatan atau AI, Gen. Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) baru saja mengambil langkah super tegas dengan memutus akses sementara terhadap aplikasi Grok. Keputusan besar ini diambil bukan tanpa alasan kuat, melainkan karena maraknya penyalahgunaan teknologi AI tersebut untuk membuat konten pornografi palsu alias deepfake yang sangat meresahkan.

Bayangkan saja, teknologi yang seharusnya membantu produktivitas malah dipakai buat bikin konten seksual non-konsensual yang bisa menghancurkan reputasi dan mental seseorang dalam sekejap. Menteri Komdigi, Meutya Hafid, secara resmi mengumumkan pemblokiran ini di Jakarta pada Sabtu, 10 Januari 2026. Langkah ini menjadi bukti kalau negara nggak main-main dalam menjaga ruang digital agar tetap aman, manusiawi, dan bersih dari praktik kekerasan berbasis digital. Isu ini langsung jadi perbincangan panas karena Grok sendiri merupakan salah satu chatbot AI paling populer yang terintegrasi dengan media sosial X, namun kini harus tersandung masalah serius di tanah air karena dianggap gagal membendung konten negatif yang dilarang undang-undang, Gen.

Menteri Meutya Hafid menegaskan kalau praktik pembuatan foto atau video asusila palsu menggunakan AI adalah pelanggaran berat terhadap hak asasi manusia. Dampaknya nggak cuma sekadar malu saja, tapi bisa memicu tekanan psikologis yang sangat dalam buat para korbannya.

"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," ujar Meutya dalam pernyataan resminya.

Komdigi Panggil Pihak X untuk Klarifikasi

Nggak cuma sekadar memblokir, Komdigi juga sudah melayangkan panggilan resmi kepada pihak Platform X. Pemerintah pengen dapet penjelasan langsung soal kenapa fitur di Grok bisa disalahgunakan sedemikian rupa dan gimana rencana mitigasi mereka ke depannya. Pemutusan akses ini sifatnya memang sementara, tapi pemerintah baru akan membuka blokir kalau Grok sudah terbukti punya sistem pengamanan yang oke dan bertanggung jawab.

Dasar hukum yang dipakai pemerintah juga sangat jelas, yaitu Peraturan Menteri Kominfo Nomor 5 Tahun 2020. Aturan ini mewajibkan setiap penyelenggara sistem elektronik buat memastikan platform mereka nggak jadi sarana penyebaran konten terlarang.

Grok Jadi Sorotan Dunia Karena Masalah Etika

Ternyata, Indonesia bukan satu-satunya negara yang gerah sama tingkah laku Grok, Gen. Aplikasi ini sudah dapet kritik tajam di level internasional, mulai dari Inggris, Uni Eropa, sampai India. Masalahnya tetap sama, yaitu fitur pembuatan gambar AI yang terlalu bebas sehingga memicu munculnya konten pornografi. Meskipun pihak pengembang bilang fitur itu cuma buat pelanggan berbayar, kenyataannya celah buat nakal tetap terbuka lebar bagi publik.

Uni Eropa bahkan sampai minta dokumen lengkap soal cara kerja chatbot ini, sementara India mengancam bakal mencabut perlindungan hukum bagi X kalau nggak segera berbenah. Langkah tegas Indonesia ini menunjukkan kalau etika dalam perkembangan AI dan perlindungan terhadap korban kekerasan digital sekarang jadi prioritas utama pemerintah di tengah gempuran teknologi yang makin canggih. Tetap bijak dalam berinternet dan pastikan kalian nggak ikut-ikutan menyebarkan konten yang melanggar hukum ya, Gen!

Menurut Gen, apakah pemblokiran sementara ini sudah cukup buat bikin platform AI lebih disiplin, atau perlu ada aturan yang jauh lebih keras lagi buat para pengembang teknologi kayak gini?