Grok AI Diselidiki Kemkomdigi, Fitur AI Di Platform X Diduga Bisa Bikin Foto Manipulasi Asusila!
JAKATRA, GENVIOICE.ID - Dunia maya lagi geger banget nih, Gen, gara-gara munculnya dugaan penyalahgunaan teknologi kecerdasan buatan atau AI yang ada di platform media sosial X. Kementerian Komunikasi dan Digital alias Kemkomdigi nggak tinggal diam dan langsung turun tangan menyelidiki fitur bernama Grok AI. Masalahnya bukan main-main, teknologi canggih ini diduga kuat disalahgunakan sama oknum nakal buat bikin dan nyebarin konten nggak pantas atau asusila. Parahnya lagi, teknologi ini bisa dipakai buat memanipulasi foto pribadi orang lain tanpa izin sama sekali lewat teknik deepfake.
Kasus ini bener-bener bikin kita harus makin waspada, karena kemudahan akses AI ternyata punya sisi gelap yang bisa ngancem privasi siapa saja, termasuk kamu. Bayangkan saja kalau foto yang kamu unggah di medsos tiba-tiba diubah jadi konten negatif cuma dalam hitungan detik. Pemerintah sekarang lagi fokus banget memelototi celah keamanan di sistem Grok AI yang dianggap masih sangat lemah dalam menyaring permintaan pembuatan konten sensitif. Penyelidikan ini jadi pengingat keras kalau teknologi harusnya bikin hidup lebih mudah, bukan malah jadi alat buat ngerusak reputasi dan martabat orang lain di ruang digital, Gen.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, membongkar hasil penelusuran timnya yang cukup mengkhawatirkan. Menurut pantauan awal, Grok AI ternyata belum punya sistem "pagar" yang kuat buat nolak produksi konten pornografi yang basisnya pakai foto orang asli.
Ancaman Privasi dan Manipulasi Foto di Grok AI
Lemahnya pengaturan dalam Grok AI ini dinilai berisiko besar melanggar hak privasi dan hak atas citra diri warga negara Indonesia. Kemkomdigi melihat kalau manipulasi digital bukan cuma soal masalah kesopanan atau kesusilaan saja, tapi ini adalah bentuk perampasan kendali seseorang atas identitas visual mereka sendiri. Efeknya pun nggak main-main, mulai dari bikin korban stres berat, tekanan psikologis, sampai hancurnya nama baik di lingkungan sosial.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dalam keterangan resminya di Jakarta, Rabu, 7 Januari 2026.
Karena risiko yang makin nyata ini, Kemkomdigi sekarang lagi rajin koordinasi sama Penyelenggara Sistem Elektronik (PSE) alias perusahaan penyedia layanan digital. Tujuannya jelas, pemerintah mau mastiin kalau setiap platform punya mekanisme perlindungan yang ampuh, terutama buat mencegah teknologi deepfake yang menjurus ke konten negatif.
Sanksi Tegas dan Jalur Hukum Bagi Pelaku
Pemerintah juga nggak segan buat ngasih peringatan keras. Semua penyedia layanan AI wajib tunduk sama aturan hukum yang berlaku di Indonesia. Kalau mereka bandel dan membiarkan teknologinya jadi sarana eksploitasi, sanksi administratif sampai pemutusan akses layanan atau blokir sudah nunggu di depan mata. Bukan cuma buat perusahaannya saja, tapi pengguna yang terbukti sengaja bikin atau nyebarin konten manipulasi asusila ini juga bisa dipidana, Gen.
Alexander Sabar juga nambahin kalau para korban yang ngerasa fotonya dimanipulasi jangan takut buat lapor. Jalur hukum terbuka lebar, baik lewat aparat penegak hukum maupun langsung ke Kemkomdigi. Ruang digital itu bukan tempat bebas hukum, ada aturan yang harus dihormati semua orang.
"Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi," ujar Alexander mengakhiri keterangannya. Jadi, tetap hati-hati dalam mengunggah foto pribadi di media sosial ya, Gen!
Menurut Gen, apakah menurut kalian fitur AI di media sosial kayak Grok AI ini mendingan dibatasi banget kemampuannya atau justru penggunanya yang harus dapet edukasi lebih ketat?