Atasi rasisme dalam AI, kata salah satu pendiri BLM kepada para bos teknologi
Ini adalah ringkasan yang dibuat oleh AI, yang mungkin memiliki kesalahan. Untuk konteksnya, selalu rujuk artikel selengkapnya.
Sebuah penelitian di AS menemukan bahwa teknologi pengenalan wajah tidak seakurat dalam mengidentifikasi wajah Afrika-Amerika dan Asia dibandingkan dengan wajah Kaukasia
Ketika kekhawatiran tentang bias rasial dalam kecerdasan buatan semakin meningkat, salah satu pendiri Black Lives Matter, Opal Tometi, mendesak sektor teknologi untuk bertindak cepat melawan pelestarian rasisme dalam sistem seperti pengenalan wajah.
“Banyak algoritma, banyak data yang bersifat rasis,” kata aktivis AS yang ikut mendirikan BLM pada tahun 2013 kepada Reuters di sela-sela Web Summit di Lisabon.
“Kita membutuhkan teknologi untuk benar-benar memahami setiap hal (rasisme) yang terjadi dalam teknologi yang mereka kembangkan,” ujarnya.
Kecerdasan buatan mengubah dunia dan dapat diterapkan di berbagai sektor, mulai dari meningkatkan deteksi dini penyakit hingga memilah data dan memecahkan masalah yang kompleks.
Namun ada juga kekhawatiran mengenai hal itu.
Industri teknologi telah menghadapi pertanggungjawaban atas etika teknologi AI dalam beberapa tahun terakhir, dengan para kritikus mengatakan sistem seperti itu dapat membahayakan privasi, menargetkan kelompok yang terpinggirkan, dan menormalkan pengawasan yang mengganggu.
Beberapa perusahaan teknologi telah mengakui bahwa beberapa pengenalan wajah bertenaga AI, yang populer di kalangan pengecer dan rumah sakit untuk tujuan keamanan, mungkin memiliki kelemahan.
Pada hari Rabu, Facebook mengumumkan penutupan sistem pengenalan wajahnya, dengan alasan kekhawatiran tentang penggunaannya, dan Microsoft terakhir mengatakan akan menunggu peraturan federal sebelum menjual teknologi pengenalan wajah kepada polisi.
Polisi di Amerika Serikat dan Inggris menggunakan pengenalan wajah untuk mengidentifikasi tersangka. Namun studi yang dilakukan oleh Institut Standar dan Teknologi Nasional AS menemukan bahwa teknologi tersebut tidak seakurat mengidentifikasi wajah orang Afrika-Amerika dan Asia dibandingkan dengan wajah orang Kaukasia.
Tahun lalu, penangkapan salah pertama yang diketahui berdasarkan kesalahan pengenalan wajah terjadi di Amerika Serikat. PBB mengutip kasus tersebut, yang dikaitkan dengan fakta bahwa alat tersebut sebagian besar dilatih pada orang berkulit putih, sebagai contoh bahaya kurangnya keragaman di sektor teknologi.
“Mereka (perusahaan teknologi) harus sangat berhati-hati karena teknologi memiliki kemampuan untuk mempercepat nilai-nilai yang sebaliknya akan muncul lebih lambat,” kata Tometi. “Tetapi teknologi mempercepat segalanya sehingga dampaknya akan lebih buruk dan lebih cepat.”
Menyerukan para pengembang perangkat lunak untuk “memperhatikan semua detail”, dia mengatakan mereka perlu mendengar lebih banyak pendapat dari orang kulit hitam.
“Sayangnya, saya merasa perjalanan perusahaan teknologi masih panjang untuk membangun jembatan dengan masyarakat,” katanya.
Menurut kelompok advokasi digital Algorithmic Justice League, salah satu alasan mengapa sistem AI tidak inklusif adalah karena komposisi tim pengembangan yang didominasi laki-laki berkulit putih.
“Kita memerlukan solusi untuk masa depan, untuk tantangan di masa depan, namun solusi tersebut harus sangat inklusif,” kata Tometi. “Mereka harus melindungi komunitas yang terpinggirkan dan rentan – itu adalah tugas mereka.” – Rappler.com
