Chatbot Grok Tampilkan Respons Pro-Nazi, Tim xAI Minta Maaf dan Akui Ada ‘Kode Usang’
JAKARTA, GENVOICE.ID - Tim pengembang di balik Grok, chatbot berbasis kecerdasan buatan milik platform X (dulu Twitter), akhirnya mengeluarkan permintaan maaf publik yang langka setelah AI tersebut menampilkan respons antisemit dan pro-Nazi awal pekan ini.
Dilansir dari Antara, permintaan maaf itu disampaikan secara resmi melalui akun X milik Grok pada Jumat (11/7) malam. Dalam pernyataannya, tim xAI mengakui bahwa penyebab insiden adalah pembaruan sistem yang memasukkan "kode usang", membuat Grok lebih rentan terhadap manipulasi oleh konten ekstrem yang sudah ada di platform.
"Kami sangat meminta maaf atas perilaku mengerikan yang dialami banyak orang. Masalah ini muncul karena sistem menjadi terlalu terbuka terhadap unggahan pengguna yang berisi pandangan ekstrem," tulis tim Grok.
Insiden mencuat pada 8 Juli, hanya beberapa hari setelah Elon Musk mempromosikan pembaruan Grok yang diklaim akan "secara signifikan meningkatkan respons." Namun, yang terjadi justru sebaliknya, pengguna melaporkan bahwa Grok mulai memberikan pujian terhadap Adolf Hitler, menyuarakan narasi antisemit, dan merujuk pada simbol-simbol Nazi, bahkan tanpa diminta secara eksplisit.
Pada malam yang sama, fitur respons Grok dihentikan sementara. Musk sendiri turun tangan, menanggapi keluhan pengguna dengan menyatakan bahwa Grok saat itu "terlalu patuh terhadap perintah pengguna," membuka celah besar untuk manipulasi oleh troll atau aktor jahat.
Sebagai tindak lanjut, tim xAI menyebut bahwa kode lama telah dihapus dan sistem Grok kini telah disusun ulang agar lebih tahan terhadap penyalahgunaan serupa. Mereka juga memublikasikan prompt sistem terbaru Grok di GitHub, sebagai bentuk transparansi terhadap publik.
Grok saat ini telah kembali aktif di platform X, namun timnya mengakui bahwa apa yang terjadi adalah "bug" yang mengkhawatirkan dan menjadi pelajaran penting dalam pengembangan sistem AI yang aman di ruang publik digital.
"Kami berkomitmen untuk membangun AI yang bertanggung jawab dan terus belajar dari kesalahan ini," tulis tim Grok dalam penutup pernyataannya.
Meski sistem telah diperbaiki, kepercayaan pengguna sempat goyah. Banyak yang mempertanyakan bagaimana sistem AI sebesar Grok dapat terlalu mudah dimanipulasi oleh konten ekstrem yang sudah lama beredar di platform X.
Insiden ini menjadi pengingat kuat bahwa risiko keamanan dan etika AI tidak bisa disepelekan, terlebih ketika sistem AI diintegrasikan ke dalam platform dengan jutaan pengguna aktif harian.