Bahaya AI Deepfake, Teknologi Ini Bisa Bikin Kiamat Nuklir Jadi Kenyataan!

JAKARTA, GENVOCE.ID - Siapa yang sangka kalau teknologi kecerdasan buatan atau AI yang selama ini sering kita pakai buat bikin foto lucu atau video parodi ternyata punya sisi gelap yang bener-bener mengerikan bagi keamanan dunia? Kabar terbaru yang dirilis oleh majalah Foreign Affairs menyebutkan kalau pengembangan AI, terutama teknologi deepfake, sekarang sudah sampai pada titik di mana hal itu bisa mengancam eksistensi manusia secara global, Gen. Bayangkan saja, sebuah video atau audio manipulasi hasil kecerdasan buatan yang terlihat sangat nyata bisa saja digunakan untuk mengelabui pemimpin negara pemilik senjata pemusnah massal. Jika informasi palsu ini dipercaya mentah-mentah, bukan nggak mungkin tombol serangan nuklir bakal ditekan hanya gara-gara konten rekayasa digital yang sangat meyakinkan.

Kondisi ini makin diperparah karena saat ini semua orang bisa dengan sangat mudah mengakses alat pembuat deepfake tanpa hambatan yang berarti. Informasi bohong atau hoaks kini nggak cuma berupa teks yang gampang dideteksi, tapi sudah berupa audio-visual yang bisa meniru wajah dan suara siapa pun secara presisi. Hal ini bikin para pakar keamanan dunia merasa was-was karena kecepatan penyebaran informasi palsu lewat AI sudah melampaui kemampuan kita untuk menyaring kebenarannya. Dunia sekarang sedang berdiri di tepi jurang krisis kepercayaan, di mana sebuah konten manipulatif bisa memicu perpecahan masyarakat atau bahkan menyeret negara-negara besar ke dalam konflik bersenjata yang nggak seharusnya terjadi, Gen.

Ancaman Nyata AI di Bidang Militer

Peringatan keras soal bahaya ini juga datang dari Philip Schellekens, yang menjabat sebagai Kepala Ekonom Biro Regional Asia-Pasifik Program Pembangunan PBB (UNDP). Dia menegaskan kalau penerapan teknologi AI dalam urusan militer bener-bener bisa jadi ancaman yang mematikan buat umat manusia. Penggunaan AI yang nggak terkontrol di medan perang berpotensi menelan korban jiwa dalam jumlah yang sangat masif. Karena risikonya yang sangat besar, teknologi ini harus diatur secara super ketat agar penggunaannya tetap bertanggung jawab dan nggak lepas kendali.

Salah satu hal yang paling ditakuti adalah potensi diberikannya wewenang kepada sistem AI untuk mengambil keputusan krusial, seperti penggunaan senjata nuklir. Jika sistem otomatis berbasis kecerdasan buatan ini melakukan kesalahan logika atau termakan oleh data palsu dari pihak musuh, dampaknya bakal fatal dan nggak bisa ditarik kembali.

Deepfake Sebagai Pemicu Serangan Nuklir

Laporan dari majalah asal Amerika Serikat tersebut merinci bagaimana mekanisme deepfake bisa memicu perang besar. Teknologi ini bisa digunakan untuk merekayasa situasi seolah-olah suatu negara sedang berada di bawah ancaman serangan nuklir dari pihak lain. Karena kontennya terlihat sangat asli, pemimpin negara yang sedang di bawah tekanan bisa saja terprovokasi untuk melakukan serangan balasan pendahuluan atau preemptive strike.

Nggak cuma itu, deepfake juga punya potensi besar buat disalahgunakan dalam hal:

• Memanipulasi instruksi dari pemimpin negara untuk melancarkan serangan.

• Merekayasa alasan palsu untuk memulai sebuah peperangan antar negara.

  Baca Juga:

  10 Aplikasi AI 2026 yang Banyak Dipakai, dari Penulisan hingga Editing Video

• Menggalang dukungan publik secara paksa lewat konten video manipulatif.

• Memicu perpecahan dan konflik horizontal di tengah masyarakat melalui hoaks tingkat tinggi.

Kemudahan dalam membuat konten palsu yang terlihat sangat otentik ini bener-bener jadi tantangan berat buat keamanan nuklir global. Diperlukan kerja sama internasional yang sangat kuat untuk memastikan kalau kecerdasan buatan nggak malah jadi senjata pemusnah bagi pembuatnya sendiri.

Gimana menurut Gen, apakah penggunaan AI dalam urusan militer dan nuklir sebaiknya dilarang total atau masih bisa dikontrol lewat aturan hukum?