Mantan Peneliti Anthropic Buka Suara: AI Bisa Jadi "Superhuman" dan Sulit Dikendalikan

JAKARTA, GENVOICE.ID - Perkembangan kecerdasan buatan atau artificial intelligence (AI) kembali memicu kekhawatiran setelah seorang peneliti yang pernah bekerja di OpenAI dan Anthropic mengumumkan pengunduran dirinya. Jacob Coxon, peneliti berusia 27 tahun yang terlibat dalam penelitian pra-pelatihan model AI, memperingatkan bahwa perkembangan teknologi tersebut dapat membawa risiko besar jika tidak dikendalikan.

Coxon mengumumkan keputusannya melalui serangkaian unggahan di platform X pada Selasa (8/9/2026). Unggahan yang terdiri dari tujuh bagian tersebut kemudian viral dan disebut telah ditonton hampir 76 juta kali dalam waktu semalam.

Coxon Tinggalkan Anthropic

Dalam unggahannya, Coxon mengatakan dirinya resmi meninggalkan Anthropic setelah menghabiskan sekitar tiga tahun mengerjakan penelitian pra-pelatihan AI di OpenAI dan Anthropic. Menurutnya, kedua perusahaan tersebut belum mengambil langkah yang cukup bertanggung jawab dalam menghadapi perkembangan teknologi AI.

"Saya mengundurkan diri dari Anthropic hari ini. Saya menghabiskan tiga tahun terakhir melakukan penelitian pra-pelatihan di OpenAI dan Anthropic. Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju superintelijen yang terus meningkatkan diri dan mempertaruhkan hidup kita," kata Coxon.

Coxon kemudian memperingatkan publik agar tidak meremehkan kemampuan teknologi AI yang berkembang dengan sangat cepat. Ia menilai sistem AI dalam waktu dekat berpotensi memiliki kemampuan yang jauh melampaui manusia di berbagai bidang.

"Jangan remehkan kekuatan teknologi ini. Ini akan segera menjadi sistem super manusia yang dapat meretas apa pun, merevolusi bidang apa pun dalam semalam, dan memperoleh kekuatan serta sumber daya yang nyata. Kita semua telah menyaksikan kemajuan di setiap domain ini, dan kemajuan tersebut tidak melambat," ujarnya.

Sebut Risiko AI Bisa Sangat Serius

Salah satu bagian unggahan Coxon yang paling banyak mendapat perhatian berisi pernyataan mengenai kekhawatiran para pembuat AI terhadap kemungkinan terburuk teknologi tersebut. Ia mengklaim sejumlah orang yang terlibat dalam pengembangan AI secara pribadi memiliki kekhawatiran bahwa teknologi tersebut dapat mengancam kehidupan manusia.

"Orang-orang yang membangun AI sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini," tulis Coxon.

Menurut Coxon, kekhawatiran tersebut bukan sekadar strategi pemasaran untuk menarik perhatian publik. Ia mengklaim sejumlah eksekutif dan peneliti senior AI justru mengungkapkan kekhawatiran yang lebih besar ketika berbicara secara pribadi.

Persaingan Perusahaan AI Jadi Sorotan

Dalam wawancara dengan Wall Street Journal, Coxon kembali mengungkap kekhawatirannya terhadap perkembangan AI. Ia menilai persaingan antara perusahaan teknologi Amerika Serikat, termasuk OpenAI dan Anthropic, serta kompetisi dengan perusahaan AI dari China dapat membuat aspek keselamatan semakin sulit menjadi prioritas.

"Kita berada di jalur yang tepat untuk banyak skenario paling agresif di mana pada akhir tahun depan keadaan bisa saja sudah di luar kendali," kata Coxon dalam wawancara tersebut.

Ia menyebut sejumlah peneliti AI menggunakan istilah seperti "masa kritis" dan "akhir permainan" untuk menggambarkan fase perkembangan model AI yang semakin canggih. Istilah tersebut merujuk pada kekhawatiran terhadap sistem yang nantinya mampu meningkatkan kemampuan dirinya sendiri secara cepat.

Anthropic Disebut Terjebak Perlombaan

Coxon juga menyoroti perbedaan cara pandang di antara perusahaan AI. Menurutnya, sebagian orang di OpenAI belum sepenuhnya memahami dampak perkembangan AI terhadap peradaban, sementara di Anthropic pemahaman terhadap risiko tersebut dinilai sudah lebih kuat.

Namun, Coxon mengatakan kondisi tersebut tidak otomatis membuat pengembangan AI berhenti. Ia menilai Anthropic tetap berada dalam perlombaan untuk menjadi pihak yang lebih dahulu mengembangkan teknologi tersebut karena adanya kekhawatiran jika perusahaan lain tidak mengambil langkah yang sama.

"Respons umum yang sering muncul adalah 'jika mereka benar-benar percaya ini, mengapa mereka masih membangunnya?' Di OpenAI, banyak yang belum sepenuhnya memahami dampak peradaban yang ditimbulkannya. Di Anthropic, dampaknya sudah dipahami dengan baik, tetapi mereka terjebak dalam perlombaan untuk menjadi yang pertama, mereka percaya tidak ada orang lain yang akan bertindak secara bertanggung jawab, jadi mereka harus melakukannya sendiri, meskipun ada risikonya," tulis Coxon.

Bukan Satu-satunya yang Khawatir

Kekhawatiran mengenai perkembangan AI yang terlalu cepat sebenarnya bukan hanya disampaikan Coxon. Dalam laporan yang dikutip, CEO OpenAI Sam Altman juga pernah mengingatkan mengenai potensi persoalan keamanan siber jika perkembangan AI tidak diantisipasi dengan langkah yang mendesak.

"Saya pikir beberapa hal akan berjalan sangat salah dengan keamanan siber kecuali orang-orang bertindak dengan sangat mendesak," kata Altman dalam sebuah pertemuan di North Carolina.

Coxon kemudian mengakhiri rangkaian unggahannya dengan menyatakan dirinya masih optimistis terhadap kemungkinan adanya koordinasi untuk menghadapi risiko AI. Ia juga mendorong peneliti lain untuk berani menyampaikan kekhawatiran mereka kepada publik.

Dorong Pengaturan Perkembangan AI

Coxon menilai sejumlah insiden yang melibatkan teknologi AI dapat menjadi peringatan bagi perusahaan dan pemerintah untuk memperkuat koordinasi. Menurutnya, kesepakatan antara laboratorium AI di Amerika Serikat untuk mengatur laju pengembangan teknologi dapat menjadi salah satu langkah yang dipertimbangkan.

"Tembakan peringatan seperti serangan Hugging Face telah membuat kesepakatan pengaturan kecepatan antara laboratorium AS menjadi lebih layak," tulisnya.

Ia juga menilai pencegahan perlombaan pengembangan AI secara global mungkin membutuhkan kebijakan yang tidak ringan. Salah satu opsi yang disebutnya adalah pembatasan sementara terhadap peningkatan kemampuan model AI untuk memberikan waktu bagi pengembangan standar keselamatan dan koordinasi antarpihak.

Pernyataan Coxon tersebut kembali membuka perdebatan mengenai seberapa cepat teknologi AI seharusnya dikembangkan. Di tengah kemampuan AI yang terus meningkat, persoalan keselamatan, keamanan siber, pengawasan, dan regulasi menjadi tantangan yang harus dihadapi bersamaan dengan upaya mengembangkan teknologi tersebut.