Sistem pengenalan wajah menentukan jenis kelamin Anda. Para aktivis mengatakan hal ini harus dihentikan.
Kelompok hak asasi manusia percaya bahwa teknologi baru memperkuat prasangka lama dan menyerukan Komisi Eropa untuk melarangnya
seperti yang diterbitkan olehcerita Coda
Jika Anda naik kereta bawah tanah di kota Sao Paulo, Brasil pada tahun 2018, Anda mungkin pernah menemukan jenis iklan baru. Pintu interaktif bercahaya berisi konten yang ditargetkan untuk individu, berdasarkan asumsi yang dibuat oleh kecerdasan buatan berdasarkan penampilan mereka. Dilengkapi dengan kamera pengenal wajah, layar tersebut langsung membuat penilaian tentang jenis kelamin, usia, dan keadaan emosi penumpang, lalu menayangkan iklan sesuai dengan itu.
Kelompok hak digital dikatakan Teknologi ini melanggar hak-hak kelompok trans dan non-biner karena teknologi ini menetapkan gender pada individu berdasarkan bentuk fisik wajah mereka, sehingga berpotensi menimbulkan penilaian yang salah tentang identitas mereka. Ia juga mempertahankan model gender laki-laki-perempuan yang ketat, mengabaikan keberadaan orang-orang non-biner.
“Jika sistem ini tidak dapat mengkonseptualisasikan keberadaan Anda, pada dasarnya Anda tinggal di ruang yang terus-menerus mengubah bentuk Anda dan memberi tahu Anda bahwa Anda tidak nyata,” kata Os Keyes, peneliti AI di Universitas Washington.
Keyes, yang berkewarganegaraan Inggris, adalah bagian dari a kampanye oleh privasi dan pendukung LGBTQ+ untuk meyakinkan Komisi Eropa agar melarang teknologi pengenalan gender otomatis. UE berencana menerbitkan proposal baru mengenai regulasi kecerdasan buatan pada bulan ini. Para pegiat berharap peraturan ini akan melarang teknologi yang membuat asumsi tentang gender dan orientasi seksual.
“Kami ingin membuat jalur dalam kecerdasan buatan yang bukan merupakan jalur laissez-faire di Tiongkok atau Amerika, namun jalur yang didasarkan pada hak asasi manusia,” kata Daniel Leufer, analis Kebijakan Eropa di kelompok hak asasi digital Access Now.
Teknologi pengenalan gender otomatis sudah menjadi kenyataan sehari-hari. Salah satu contohnya adalah Giggle, aplikasi media sosial untuk wanita yang pertama kali menjadi berita utama pada tahun 2020. Giggle menggunakan AI pengenalan wajah untuk “memverifikasi” jenis kelamin pengguna dengan menganalisis selfie yang dikirimkan oleh pelamar.
“Itu sains!” situs web aplikasi berwarna merah muda dengan ceria menyatakan, sebelum mengakui bahwa “karena perangkat lunak verifikasi gender yang digunakan oleh Giggle, gadis trans akan mengalami kesulitan untuk diverifikasi.” Pengguna dan media mengkritik aplikasi tersebut sebagai aplikasi yang bersifat trans-eksklusif dan didasarkan pada ide-ide kuno tentang bagaimana seharusnya penampilan perempuan. Situs web aplikasi tersebut telah berubah dan tidak menyebutkan bagaimana perempuan trans dapat bergabung.
CEO Giggle, Sall Grover mengatakan kepada saya bahwa aplikasi tersebut dimoderatori oleh orang-orang yang “selalu mengawasi di balik layar untuk memastikan bahwa Giggle tetap menjadi ruang bagi perempuan,” dan menambahkan bahwa “ada aplikasi khusus untuk pria gay atau khusus untuk kaum transgender dan kami mendukung mereka.”
Grover mengatakan bahwa “perempuan trans-identifikasi dipersilakan di platform Giggle, jika mereka mau,” namun ketika diminta untuk menentukan bagaimana perempuan trans harus menavigasi perangkat lunak pengenalan gender, dia hanya menjawab, “Giggle adalah aplikasi untuk perempuan.” Tepat sebelum artikel ini dipublikasikan, Grover mengatakan dalam sebuah tweet bahwa aplikasi tersebut “hanya untuk wanita biologis.”
Pengakuan gender otomatis adalah alat lain, kata para aktivis, untuk memperkuat gagasan-gagasan yang sudah baku mengenai gender serta stereotip dan prasangka yang menyertainya. Teknologi itu sendiri “berpengaruh sangat buruk bagi kaum trans dan sama sekali tidak bermanfaat bagi orang-orang non-biner,” kata Yuri Guaiana dari All Out, sebuah kelompok advokasi LGBTQ+ internasional yang mengkampanyekan larangan tersebut.
Pendapatan iklan sering kali menjadi insentif bagi perusahaan untuk menetapkan gender kepada penggunanya. Bulan ini Access Now memiliki surat kepada platform streaming musik Spotify, mengkritik teknologi yang dikembangkannya untuk mendeteksi jenis kelamin pengguna dengan menganalisis cara mereka berbicara, untuk membuat rekomendasi musik.
“Teknologi canggih ini, yang menurut kami akan merevolusi masyarakat, sebenarnya merupakan hierarki sosial yang konservatif dan ketinggalan jaman,” kata Leufer.
Spotify tidak menanggapi permintaan komentar.
Para aktivis khawatir jika teknologi ini tidak dilarang, teknologi tersebut akan segera tersebar luas. Ada juga kekhawatiran bahwa di negara-negara otoriter, di mana kelompok LGBTQ+ dikriminalisasi, hal ini dapat diterapkan untuk “mengusir” individu-individu yang rentan.
“Sejujurnya, semua orang trans yang saya kenal, termasuk saya sendiri, punya cukup banyak masalah dengan orang-orang yang salah menganggap kita, tanpa adanya robot yang ikut bersenang-senang,” kata Keyes. – Rappler.com
Isobel Cockerell adalah reporter Coda Story. Lulusan Sekolah Jurnalisme Columbia, dia juga pernah melaporkan untuk WIRED, USA Today, Rappler, The Daily Beast, Huffington Post, dan lainnya.
Artikel ini diterbitkan ulang dari cerita Coda dengan izin.
