Ofcom Selidiki X Terkait Penyalahgunaan Grok untuk Konten Pornografi Anak

JAKARTA, GENVOICE.ID - Badan pengawas media Inggris, Ofcom, membuka penyelidikan terhadap platform media sosial X menyusul laporan penyalahgunaan chatbot kecerdasan buatan Grok untuk membuat dan menyebarkan konten pornografi serta pelecehan seksual terhadap anak.

Penyelidikan ini dilakukan berdasarkan Undang-Undang Keamanan Daring yang berlaku di Inggris.

Dikutip dari Engadget, investigasi Ofcom berfokus pada apakah X telah memenuhi kewajibannya dalam melindungi masyarakat Inggris dari konten yang tergolong ilegal. Regulator menilai sejumlah aspek krusial, mulai dari langkah pencegahan agar pengguna di Inggris tidak terpapar materi pelecehan seksual anak dan gambar intim tanpa persetujuan, hingga kecepatan platform dalam menghapus konten ilegal setelah terdeteksi.

Ofcom juga menelusuri apakah X telah melakukan penilaian risiko yang diperbarui sebelum menerapkan perubahan signifikan pada platformnya, termasuk terkait integrasi dan penggunaan Grok. Selain itu, regulator akan menilai sejauh mana X mengidentifikasi risiko terhadap anak-anak serta efektivitas sistem verifikasi usia yang diterapkan untuk mencegah akses anak di bawah umur ke konten pornografi.

Regulator menyebut telah menghubungi X pada 5 Januari dan menerima tanggapan resmi sesuai tenggat waktu pada 9 Januari 2026. Saat ini, Ofcom tengah melakukan penilaian cepat terhadap bukti yang tersedia dan meminta klarifikasi tambahan dari xAI mengenai langkah-langkah perlindungan yang diterapkan bagi pengguna di Inggris.

"Laporan tentang penggunaan Grok untuk membuat dan menyebarkan gambar intim ilegal tanpa persetujuan serta materi eksploitasi seksual anak sangat mengkhawatirkan," ujar juru bicara Ofcom. Ia menegaskan bahwa platform digital memiliki kewajiban hukum untuk melindungi masyarakat Inggris dari konten ilegal, dan Ofcom tidak akan ragu mengambil tindakan jika ditemukan pelanggaran, terlebih bila menyangkut keselamatan anak-anak.

Jika terbukti melanggar, Ofcom memiliki kewenangan untuk memerintahkan langkah korektif hingga menjatuhkan sanksi denda maksimal sebesar 18 juta poundsterling atau 10 persen dari pendapatan global platform. Regulator juga dapat meminta perintah pengadilan untuk menghentikan kerja sama penyedia layanan pembayaran dan pengiklan dengan X, atau bahkan memerintahkan penyedia layanan internet memblokir akses platform tersebut di Inggris.

Pemerintah Inggris menyatakan akan mendukung penuh langkah Ofcom apabila tindakan penegakan hukum diperlukan. Di saat yang sama, X juga tengah berada di bawah sorotan regulator di Uni Eropa dan India terkait dugaan penyalahgunaan Grok.

Sejumlah negara telah mengambil langkah tegas. Malaysia dan Indonesia memutus akses ke Grok setelah menilai sistem pengamanan chatbot tersebut belum memadai. Otoritas Indonesia menyebut Grok belum memiliki perlindungan efektif untuk mencegah pembuatan dan penyebaran konten pornografi deepfake eksplisit. Sementara itu, regulator Malaysia menyoroti adanya penyalahgunaan berulang Grok untuk membuat deepfake non-konsensual, termasuk yang melibatkan perempuan dan anak-anak.

Pemblokiran di Malaysia disebut akan tetap berlaku hingga X Corp dan xAI menerapkan langkah pengamanan yang dinilai cukup untuk melindungi pengguna dari penyalahgunaan teknologi tersebut.