Komdigi Putus Akses Grok Sementara demi Cegah Pornografi AI

JAKARTA, GENVOICE.ID - Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutuskan untuk menghentikan sementara akses terhadap aplikasi Grok.

Kebijakan ini diambil sebagai langkah perlindungan bagi perempuan, anak, dan masyarakat luas dari risiko penyebaran konten pornografi palsu yang dibuat menggunakan teknologi akal imitasi atau artificial intelligence (AI).

Menteri Komunikasi dan Digital Meutya Hafid menyatakan, keputusan tersebut merupakan bentuk tanggung jawab negara dalam menjaga ruang digital agar tetap aman, beretika, serta menghormati hak asasi manusia. Ia menegaskan bahwa praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap martabat dan keamanan warga negara di ranah digital.

Menurut Meutya, penggunaan teknologi AI untuk membuat dan menyebarkan konten pornografi palsu tanpa persetujuan pihak yang menjadi objeknya termasuk dalam kekerasan berbasis digital. Dampaknya tidak hanya merugikan korban secara psikologis, tetapi juga dapat berimbas pada kehidupan sosial dan persoalan hukum.

Pemutusan akses terhadap Grok, lanjut Meutya, bersifat sementara dan dilakukan sebagai langkah preventif sekaligus korektif. Pemerintah menilai perlu memastikan setiap platform digital yang beroperasi di Indonesia memiliki sistem pengamanan yang memadai agar tidak disalahgunakan untuk memproduksi atau menyebarluaskan konten terlarang.

Selain menghentikan akses, Komdigi juga meminta Platform X sebagai pihak terkait untuk segera memberikan klarifikasi. Pemerintah ingin mendapatkan penjelasan mengenai dampak negatif penggunaan Grok serta langkah mitigasi yang akan ditempuh untuk mencegah penyalahgunaan teknologi tersebut di kemudian hari.

Meutya menegaskan, langkah ini memiliki dasar hukum yang jelas. Kementerian Komunikasi dan Digital menjalankan kewenangannya sesuai dengan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Dalam aturan tersebut, setiap Penyelenggara Sistem Elektronik diwajibkan memastikan sistem yang dikelolanya tidak memuat atau memfasilitasi konten yang dilarang oleh peraturan perundang-undangan.

Seperti diketahui, Grok menuai kritik keras dari berbagai kalangan internasional karena dinilai memungkinkan pembuatan gambar bernuansa pornografi. Meski Grok menyatakan hanya pelanggan berbayar di X yang dapat membuat dan mengedit gambar, sejumlah pihak menuding fitur tersebut tetap bisa diakses tanpa berlangganan.

Isu ini juga memicu reaksi dari sejumlah negara. Inggris, Uni Eropa, dan India secara terbuka mengecam X dan Grok. Uni Eropa bahkan meminta xAI menyimpan seluruh dokumentasi terkait chatbot tersebut. Sementara itu, India dikabarkan memerintahkan X untuk segera melakukan perubahan guna menghentikan penyalahgunaan fitur pembuatan gambar atau berisiko kehilangan perlindungan safe harbor. Lembaga pengawas komunikasi Inggris pun mengaku telah menghubungi xAI terkait persoalan tersebut.