Apa yang membuat teknologi ‘jahat’?
Kini terdapat lebih banyak cara bagi teknologi untuk digunakan secara benar dalam cara yang ‘jahat’ karena inovasi teknologi tampaknya telah bergerak maju seiring dengan tumbuhnya ketidakadilan sosial.
Saya baru saja membaca “Daftar Kejahatan” dari Slate yang berupaya untuk mengatasi dan membuat daftar 30 perusahaan teknologi yang paling mengkhawatirkan melalui surat suara yang dikirimkan kepada jurnalis, cendekiawan, dan pemikir kritis terkemuka yang berpusat pada teknologi.
Ini adalah daftar yang cukup tepat, dengan perusahaan-perusahaan Amerika yang terkenal – Google, Amazon, Facebook dan Apple – mendapat peringkat tinggi karena beberapa alasan.
Perusahaan-perusahaan tersebut bukanlah inti dari keseluruhan diskusi hari ini, namun The Evil List membuat saya berpikir tentang apa yang menjadikan teknologi atau perusahaan teknologi di balik suatu inovasi tertentu menjadi jahat.
Sayangnya, pertanyaan seperti itu tidak selalu enak untuk dipikirkan, karena dapat menimbulkan pikiran-pikiran tidak nyaman yang sangat mencemaskan.
Teknologi sebagai alat?
Saya masih percaya teknologi adalah sebuah alat – yang kegunaannya bisa baik atau buruk, tergantung siapa yang menggunakannya – namun semakin sulit untuk berdebat dengan hal ini dari hari ke hari.
Perbincangan mengenai teknologi sebagai “sekadar amoral” telah lama menjadi bagian dari kalangan ilmiah, seperti ketika inovasi teknologi seperti bahan peledak dan energi atom ditemukan. Namun diskusi terus berlanjut.
Hal ini mungkin disebabkan oleh cara kita mengkonstruksi aspek-aspek tertentu dalam masyarakat manusia.
Dengan kata lain, kini terdapat lebih banyak cara bagi teknologi untuk digunakan secara wajar dalam cara-cara yang “jahat”, karena inovasi teknologi tampaknya telah mendorong tumbuhnya ketidakadilan sosial.
Cita-cita keadilan sosial dan contoh ketidakadilan
Konsep keadilan atau ketidakadilan sosial merupakan konsep yang bertele-tele, namun mari kita fokuskan pembahasan hari ini pada satu cita-cita keadilan sosial.
Masyarakat harus memiliki akses yang setara (atau mungkin istilah yang lebih baik adalah adil) terhadap sumber daya agar mereka dapat tumbuh dalam masyarakat, baik itu kebutuhan akan kekayaan yang memadai, layanan kesehatan, hak istimewa atau peluang sosial, terlepas dari status kehidupan mereka saat ini dan penyesuaian terhadap keadaan apa pun yang saat ini mungkin menghambat potensi pertumbuhan seseorang dalam masyarakat.
Sayangnya, kita sudah mengalami defisit dalam hal menciptakan keadilan sosial, karena sangat sulit untuk melihat bagaimana pernyataan di atas sebenarnya terjadi.
Yang lebih penting lagi, teknologi, atau pola pikir di balik inovasi teknologi saat ini – yang lebih mengutamakan keuntungan dibandingkan manfaat sosial – dapat memperburuk hal ini.
Beberapa contoh sederhana termasuk pengembang game yang membuat game dan sistem dalam game mereka yang dapat mendorong perilaku adiktif dan meningkatkan pengeluaran untuk menghasilkan uang. Jim Sterling dari Jimkuisisi bahas “mekanik kejutan” semacam ini lebih lanjut pada video di atas.
Ada juga bias dalam kecerdasan buatan yang membuat hidup lebih sulit bagi kelompok minoritas yang menggunakannya. (MEMBACA: Akademisi Barat membantu membangun rasisme otomatis di Tiongkok)
Jangan lupakan ide kampanye disinformasi dan peretasan yang digunakan untuk menghasut kebencian, memberikan informasi yang salah kepada publik, dan mengontrol narasi diskusi di negara atau topik tertentu, baik Anda tinggal di negara yang menjadi target disinformasi atau tidak. (MEMBACA: Upaya disinformasi kini digunakan di 70 negara – para peneliti)
Masyarakat rusak dan solusinya sulit
Pada tahun 2015, Practical Action Publishing merilis sebuah karya pendek yang diterbitkan sekitar 30 halaman berjudul Keadilan Teknologi: Seruan untuk Bertindak.
Salah satu pernyataan dalam tulisan singkat itu sesuai dengan pembahasan hari ini yang ingin saya bagikan.
“Inovasi teknologi tidak didorong oleh fokus pada tantangan-tantangan sosial dan lingkungan yang paling mendesak yang kita hadapi. Inovasi teknologi tidak cukup terfokus pada perbaikan kondisi masyarakat yang hidup dalam kemiskinan. Dan keuntungan serta risiko inovasi tidak terdistribusi secara merata antara sumber investasi pemerintah dan swasta.”
Sederhananya, ini mengarah pada keputusan yang sangat sulit. Sama seperti perubahan iklim, yang memerlukan perubahan drastis dalam kebiasaan konsumsi masyarakat, orang-orang yang mempunyai kekuasaan harus mengambil pilihan sulit dan mempertimbangkan dengan hati-hati bagaimana menerima masyarakat yang dibangun untuk memperoleh keuntungan atau kekuasaan akan memperburuk keadaan.
Jika menyangkut kemungkinan keamanan dan keselamatan warga suatu negara, tentu bukan dengan menciptakan negara pengawasan, seperti yang mungkin terjadi di Rusia dengan jaringan pengenalan wajahnya atau Tiongkok dengan… ya, jumlah kameranya yang sangat banyak pengenalan wajah Dan sistem kredit sosialdan inisiatif kecerdasan buatan yang menyimpang. (MEMBACA: Kebingungan menyelimuti sistem kredit sosial Tiongkok)
Ini juga berarti bahwa kita sedang membangun kembali kecerdasan buatan mengikuti aturan untuk menghindari bias. Artinya, kita mengenakan pajak yang lebih besar kepada masyarakat untuk memberikan kembali layanan yang membantu masyarakat yang kurang mampu, dan berinvestasi dalam teknologi berkelanjutan yang memungkinkan kita melakukannya dengan lebih baik.
Masyarakat sudah rusak, dan teknologi serta “dorongan inovatif” kita mencerminkan dan membuat beberapa aspek terburuk dalam masyarakat menjadi lebih buruk lagi. Solusinya bukannya tidak dapat diatasi, namun sama seperti perilaku kecanduan yang bertujuan untuk menghabiskan uang dalam game, masyarakat mempunyai kebiasaan yang SANGAT sulit untuk dihilangkan. – Rappler.com
