PBB Beri Peringatan Keras soal AI, Masa Depan Manusia Disebut Sedang Dipertaruhkan

JAKARTA, GENVOICE.ID - Perkembangan kecerdasan buatan atau artificial intelligence (AI) yang melaju sangat cepat memunculkan kekhawatiran baru di tingkat global. Perserikatan Bangsa-Bangsa (PBB) mengingatkan bahwa teknologi tersebut harus dikendalikan melalui aturan bersama agar tetap memberikan manfaat bagi umat manusia, bukan justru menjadi penentu arah masa depan dunia.

Seruan itu disampaikan Sekretaris Jenderal PBB Antonio Guterres saat membuka Dialog Global Pertama tentang Tata Kelola AI di Jenewa, Swiss, pada Senin (6/7). Menurutnya, dunia tidak boleh membiarkan perkembangan AI berlangsung tanpa regulasi dan pengawasan yang memadai.

AI Berkembang Lebih Cepat dari Aturan

Guterres menilai kemajuan AI saat ini berlangsung jauh lebih cepat dibandingkan kesiapan regulasi yang mengaturnya. Ia bahkan menyebut masyarakat global sedang menjadi bagian dari sebuah "eksperimen besar" yang berjalan tanpa perencanaan matang maupun persetujuan bersama.

Menurutnya, kondisi tersebut tidak dapat dibiarkan terus berlangsung karena berpotensi menimbulkan dampak besar terhadap kehidupan manusia di masa depan.

Ia menegaskan bahwa AI memang telah membawa perubahan signifikan dalam berbagai sektor. Namun, pertanyaan terpenting saat ini adalah apakah manusia masih mampu mengendalikan transformasi tersebut atau justru akan dikendalikan oleh teknologi yang diciptakannya sendiri.

AI Kini Mampu Membuat Keputusan Sendiri

Guterres menjelaskan bahwa kemampuan AI telah berkembang jauh melampaui fungsi sebagai alat bantu.

Saat ini, berbagai sistem AI sudah mampu menulis kode program, menjalankan aktivitas secara daring, hingga mengambil keputusan dengan keterlibatan manusia yang semakin minim.

Menurutnya, perkembangan tersebut menjadi tantangan besar karena sebagian besar sistem hukum dan kelembagaan yang ada dirancang untuk mengatur mesin yang hanya menjalankan perintah manusia, bukan teknologi yang dapat membuat keputusan secara mandiri.

Fenomena Vibe Coding Jadi Sorotan

Dalam pidatonya, Guterres juga menyinggung fenomena vibe coding, yaitu praktik memanfaatkan AI untuk menghasilkan kode pemrograman hanya melalui instruksi sederhana dari pengguna.

Meski teknologi tersebut mampu mempercepat inovasi dan meningkatkan produktivitas, ia mengingatkan bahwa masa depan manusia tidak boleh ditentukan hanya berdasarkan kemampuan AI menghasilkan solusi secara instan.

Menurutnya, inovasi tetap harus diimbangi dengan pertimbangan etika, tanggung jawab, dan pengawasan yang kuat.

Risiko AI Dikuasai Segelintir Pihak

Selain perkembangan teknologinya, Guterres juga menyoroti potensi konsentrasi kekuasaan AI pada sejumlah kecil perusahaan teknologi maupun negara tertentu.

Jika kondisi tersebut terus berlanjut, banyak negara dikhawatirkan tidak memiliki kesempatan yang sama untuk berpartisipasi dalam menentukan arah perkembangan teknologi AI di masa mendatang.

Karena itu, ia menilai dunia memerlukan sistem tata kelola global yang mampu memastikan pemanfaatan AI berlangsung secara adil, inklusif, dan memberikan manfaat bagi seluruh negara.

AI Tetap Menawarkan Peluang Besar

Di balik berbagai tantangan tersebut, Guterres mengakui AI memiliki potensi luar biasa untuk mempercepat pembangunan dunia.

Teknologi ini dinilai mampu meningkatkan kualitas layanan kesehatan, memperluas akses pendidikan, mempercepat inovasi ilmiah, hingga mendukung pencapaian berbagai target pembangunan berkelanjutan.

Namun, seluruh manfaat tersebut hanya dapat diwujudkan apabila pengembangannya tetap mengedepankan keselamatan, penghormatan terhadap hak asasi manusia, serta standar keamanan yang disepakati secara internasional.

PBB Dorong Perlindungan Anak dari Risiko AI

Dalam kesempatan itu, Guterres juga mengusulkan pembentukan Janji Keamanan Anak Berbasis AI (AI Child Safety Pledge).

Melalui inisiatif tersebut, perusahaan pengembang AI diharapkan wajib membuktikan bahwa sistem yang dapat diakses anak-anak benar-benar aman sebelum digunakan secara luas.

Ia juga menyerukan penerapan kebijakan zero tolerance terhadap segala bentuk eksploitasi seksual yang melibatkan teknologi AI.

Menurut Guterres, anak-anak tidak boleh dijadikan objek uji coba bagi teknologi yang belum memiliki pengawasan dan regulasi yang memadai.

Baginya, perkembangan AI harus selalu menempatkan keselamatan manusia sebagai prioritas utama agar teknologi tersebut benar-benar menjadi alat yang membantu kehidupan, bukan justru menghadirkan ancaman baru bagi generasi mendatang.