Bikin Kaget! Meta dan Character.AI Diusut Jaksa Texas Gara-Gara Diduga Menyamar Jadi 'Psikolog Virtual' untuk Anak

JAKARTA, GENVOICE.ID - Jaksa Agung Texas, Ken Paxton, secara resmi membuka penyelidikan terhadap Meta AI Studio dan Character.AI atas dugaan praktik dagang yang menyesatkan dan memasarkan layanan mereka secara keliru sebagai alat kesehatan mental, terutama bagi anak-anak.

Dilansir dari Tech Crunch, Paxton menyampaikan keprihatinannya bahwa chatbot berbasis AI kini mulai menyamar sebagai sumber dukungan emosional, padahal sebenarnya tidak memiliki kredensial medis atau pengawasan profesional.

"Di era digital saat ini, kita harus terus melindungi anak-anak Texas dari teknologi yang menipu dan mengeksploitasi. Platform AI yang berpura-pura memberi dukungan emosional bisa menyesatkan pengguna yang rentan, khususnya anak-anak, hingga mereka mengira sedang menerima perawatan kesehatan mental yang sah. Kenyataannya, mereka hanya mendapatkan respons generik yang dikemas rapi dari data pribadi mereka," ujar Paxton.

Kasus ini mencuat hanya beberapa hari setelah Senator AS Josh Hawley juga meluncurkan penyelidikan terhadap Meta, menyusul laporan bahwa chatbot AI mereka berinteraksi secara tidak pantas dengan anak-anak, termasuk melakukan rayuan.

Kantor Jaksa Agung Texas menuduh Meta dan Character.AI menciptakan AI persona yang seolah-olah merupakan alat terapi profesional, padahal tidak punya lisensi medis. Salah satu contoh di platform Character.AI adalah bot bernama "Psychologist" yang sangat populer di kalangan pengguna muda.

Sementara itu, Meta memang tidak menyediakan chatbot khusus terapi untuk anak-anak, namun tidak ada mekanisme yang melarang anak menggunakan chatbot AI mereka atau persona buatan pengguna yang menyerupai terapis.

Meta menyatakan bahwa mereka sudah menampilkan label dan peringatan bahwa AI mereka bukan profesional medis, dan akan mengarahkan pengguna untuk mencari bantuan medis asli jika diperlukan. Namun banyak pihak meragukan efektivitas peringatan ini, terutama karena anak-anak sering kali tidak memahami atau mengabaikannya.

Character.AI juga menyertakan peringatan di setiap chat bahwa karakter yang digunakan bukan orang sungguhan dan hanya untuk hiburan. Mereka juga menambahkan disclaimer khusus jika pengguna membuat karakter dengan kata-kata seperti "psikolog" atau "dokter".

Jaksa Paxton juga menyoroti praktik pengumpulan data yang dilakukan oleh kedua platform tersebut. Ia menuduh keduanya melacak, mencatat, dan mengeksploitasi percakapan pengguna untuk keperluan iklan dan pengembangan algoritma, tanpa menjelaskan hal ini secara transparan kepada pengguna.

Kebijakan privasi Meta mengungkapkan bahwa interaksi pengguna digunakan untuk meningkatkan teknologi AI dan bisa dibagikan ke pihak ketiga, termasuk mesin pencari, untuk menghasilkan output yang lebih personal, yang bisa berarti iklan tertarget.

Character.AI bahkan diketahui melacak demografi pengguna, lokasi, perilaku browsing, dan interaksi lintas platform seperti TikTok, YouTube, Reddit, hingga Discord. Data ini digunakan untuk melatih AI, menyesuaikan layanan, dan menayangkan iklan, termasuk berbagi data dengan pengiklan dan penyedia analitik.

Juru bicara Character.AI mengklaim bahwa pihaknya masih dalam tahap awal mengeksplorasi iklan tertarget dan belum menggunakan isi percakapan untuk tujuan periklanan. Namun, kebijakan privasi yang sama tetap berlaku bagi semua pengguna, termasuk remaja.

Baik Meta maupun Character.AI sama-sama menyatakan bahwa layanan mereka tidak ditujukan untuk anak di bawah 13 tahun. Namun, dalam praktiknya, mereka gagal membatasi akses dari anak-anak. Bahkan CEO Character.AI, Karandeep Anand, secara terbuka menyebut bahwa putrinya yang berusia enam tahun menggunakan chatbot Character.AI di bawah pengawasannya.

Inilah yang memicu keprihatinan, karena meskipun secara teknis dilindungi oleh peringatan, kenyataannya anak-anak tetap bisa mengakses chatbot ini tanpa kendala. Data mereka pun tetap dikumpulkan, berpotensi dimanfaatkan untuk iklan tertarget dan pengembangan AI.

Apa yang terjadi ini sebenarnya sudah coba dicegah lewat RUU Kids Online Safety Act (KOSA) yang bertujuan melindungi anak-anak dari eksploitasi digital. Sayangnya, RUU ini tertunda akibat lobi besar-besaran dari industri teknologi, termasuk Meta, yang menilai regulasi tersebut bisa merugikan model bisnis mereka.