Peringatan Komisioner HAM Australia: AI Bisa Memperparah Rasisme dan Seksisme di Australia

JAKARTA, GENVOICE.ID - Komisioner Hak Asasi Manusia Australia, Lorraine Finlay, memperingatkan bahwa penggunaan kecerdasan buatan (AI) berisiko memperkuat rasisme dan seksisme jika tidak diatur dengan tepat. Ia menekankan, dorongan untuk meningkatkan produktivitas melalui teknologi ini tidak boleh mengorbankan prinsip keadilan dan kesetaraan.

Pernyataan ini muncul di tengah perdebatan internal Partai Buruh terkait arah kebijakan AI, menyusul komentar Senator Michelle Ananda-Rajah yang mendorong pembukaan akses data Australia bagi perusahaan teknologi. Menurutnya, langkah itu akan membantu mengurangi bias AI yang selama ini dipengaruhi data luar negeri, sekaligus mencerminkan realitas dan budaya Australia.

Meski menolak adanya undang-undang khusus AI, Ananda-Rajah mendukung perlindungan hak cipta dan pembayaran bagi kreator konten. Ia mencontohkan, tanpa data lokal yang memadai, Australia akan terus bergantung pada model AI luar negeri tanpa kendali atau transparansi atas cara kerja platform tersebut.

Finlay mengingatkan bahwa minimnya transparansi soal sumber data pelatihan AI menyulitkan deteksi bias yang ada di dalamnya. "Bias algoritmik membuat ketidakadilan terbangun sejak awal di alat yang kita gunakan. Dikombinasikan dengan bias otomatisasi, kita berisiko menciptakan diskriminasi yang begitu mengakar hingga tak disadari," ujarnya.

Komisi HAM Australia selama ini mendorong pembentukan regulasi khusus yang memperkuat undang-undang yang sudah ada, seperti UU Privasi, serta mewajibkan pengujian bias secara ketat. Finlay menilai pemerintah perlu segera menyiapkan pagar hukum yang mencakup audit, pengawasan manusia, dan mekanisme peninjauan yang jelas.

Kekhawatiran ini bukan tanpa dasar. Penelitian di Australia pada Mei lalu menemukan bahwa kandidat kerja yang diwawancarai oleh sistem rekrutmen berbasis AI berisiko mengalami diskriminasi, terutama jika memiliki aksen atau disabilitas. Contoh lain datang dari penggunaan AI dalam deteksi kanker kulit, di mana algoritme yang dilatih dengan data terbatas menunjukkan bias terhadap kelompok pasien tertentu.

Ananda-Rajah berpendapat bahwa pelatihan AI harus memanfaatkan data beragam dari seluruh Australia, dengan perlindungan ketat terhadap data sensitif. "AI harus dilatih dengan data dari populasi seluas mungkin, atau justru akan memperkuat bias yang berbahaya bagi masyarakat," katanya.

Kekhawatiran serupa diungkap eSafety Commissioner, Julie Inman Grant, yang menyoroti minimnya keterbukaan perusahaan teknologi dalam mengungkap sumber data AI. Ia memperingatkan, dominasi segelintir perusahaan dalam pengembangan AI berpotensi menyingkirkan perspektif dan suara tertentu dari hasil generatif.