Meta Hentikan Fitur AI Instagram yang Gunakan Foto Pengguna, Dikhawatirkan Picu Deepfake
JAKARTA, GENVOICE.ID - Meta resmi menonaktifkan salah satu fitur pada layanan AI Muse Image yang sebelumnya memungkinkan pengguna membuat gambar berbasis kecerdasan buatan (AI) dengan memanfaatkan foto dari akun Instagram publik. Langkah ini diambil setelah fitur tersebut memicu gelombang kritik terkait privasi, persetujuan pengguna, hingga risiko penyalahgunaan untuk membuat konten deepfake.
Keputusan tersebut diumumkan hanya beberapa hari setelah fitur diperkenalkan. Banyak pihak menilai implementasi awal Muse Image belum memberikan perlindungan yang memadai terhadap penggunaan data pribadi pengguna Instagram. Mengutip laporan The Verge, Meta kini memilih menghentikan fungsi yang paling kontroversial sambil tetap melanjutkan pengembangan teknologi AI tersebut.
Fitur AI Gunakan Foto Akun Instagram Publik
Sebelumnya, Muse Image memungkinkan pengguna membuat gambar AI hanya dengan memasukkan nama akun Instagram publik ke dalam perintah atau prompt. Sistem kemudian mengambil foto-foto yang tersedia di akun tersebut sebagai referensi visual untuk menghasilkan gambar baru.
Fitur ini langsung menjadi sorotan karena pemilik akun tidak diminta memberikan persetujuan secara langsung sebelum foto mereka dimanfaatkan. Meta saat itu menerapkan sistem opt-out, sehingga seluruh akun publik otomatis masuk ke dalam program, sementara pengguna yang tidak ingin fotonya digunakan harus menonaktifkan izin secara manual melalui pengaturan akun.
Pendekatan tersebut menuai kritik karena dianggap membebankan tanggung jawab kepada pengguna. Banyak pemerhati privasi menilai perusahaan seharusnya menggunakan sistem opt-in, yakni meminta persetujuan terlebih dahulu sebelum data pengguna dipakai untuk melatih atau menjalankan fitur AI.
Dikhawatirkan Mempermudah Pembuatan Deepfake
Kekhawatiran semakin meningkat karena teknologi AI generatif kini mampu menghasilkan gambar dengan tingkat kemiripan yang sangat tinggi terhadap wajah seseorang.
Sejumlah organisasi perlindungan hak digital dan industri hiburan memperingatkan bahwa fitur tersebut berpotensi dimanfaatkan untuk membuat deepfake, yakni gambar atau video hasil rekayasa AI yang menyerupai individu nyata tanpa izin.
Teknologi deepfake selama beberapa tahun terakhir menjadi perhatian dunia karena kerap disalahgunakan untuk berbagai tindakan, mulai dari penyebaran informasi palsu, pencemaran nama baik, penipuan digital, hingga eksploitasi seksual berbasis gambar.
Beberapa organisasi seperti National Center on Sexual Exploitation dan SAG-AFTRA secara terbuka menyampaikan keberatan terhadap implementasi Muse Image. Mereka menilai Meta belum menyediakan perlindungan yang cukup untuk mencegah penyalahgunaan identitas digital para pengguna.
Meta Akui Implementasi Awal Belum Maksimal
Menanggapi berbagai kritik tersebut, Meta akhirnya memutuskan menghentikan fitur yang memungkinkan pembuatan gambar AI menggunakan foto dari akun Instagram publik.
Perusahaan mengaku telah menerima berbagai masukan dari pengguna maupun organisasi terkait dan menyadari bahwa implementasi awal Muse Image belum memenuhi harapan masyarakat, terutama dalam hal kontrol terhadap data pribadi.
Meski begitu, Meta menegaskan bahwa pengembangan Muse Image tidak dihentikan sepenuhnya. Perusahaan tetap melanjutkan pengembangan fitur-fitur lain, seperti penyuntingan gambar berbasis AI dan pembuatan ilustrasi melalui prompt teks yang tidak lagi mengambil foto akun Instagram publik secara otomatis.
Jadi Pengingat Penting soal Etika AI
Kasus Muse Image kembali menyoroti tantangan besar yang dihadapi perusahaan teknologi dalam mengembangkan layanan AI generatif. Di satu sisi, teknologi tersebut membuka peluang baru bagi pengguna untuk berkreasi dan menghasilkan konten digital dengan lebih mudah.
Namun di sisi lain, penggunaan data pribadi tanpa persetujuan yang jelas memunculkan persoalan etika, perlindungan privasi, hak cipta, hingga keamanan identitas digital.
Perdebatan mengenai sistem opt-in dan opt-out pun kembali menjadi perhatian. Banyak pakar menilai layanan AI yang memanfaatkan data pengguna seharusnya hanya berjalan setelah memperoleh izin eksplisit dari pemilik data agar hak privasi tetap terjaga.
Transparansi AI Jadi Tuntutan Baru
Insiden Muse Image menunjukkan bahwa transparansi kini menjadi salah satu tuntutan utama dalam pengembangan teknologi kecerdasan buatan.
Seiring kemampuan AI yang semakin canggih dalam menghasilkan gambar realistis, perusahaan teknologi diperkirakan akan menghadapi tekanan yang lebih besar untuk menghadirkan mekanisme perlindungan terhadap penyalahgunaan identitas, pemalsuan visual, serta penggunaan data pribadi tanpa persetujuan.
Bagi Meta, penghentian fitur ini menjadi langkah cepat untuk meredam kontroversi sekaligus menjaga kepercayaan pengguna. Sementara itu, kasus Muse Image diperkirakan akan menjadi salah satu contoh penting dalam pembahasan global mengenai regulasi AI, perlindungan hak digital, dan tata kelola teknologi generatif di masa depan.