blog.fcuzhhorod.com

Pertumbuhan eksplosif Clubhouse, sebuah jejaring sosial berbasis audio yang dipicu oleh kemunculan selebriti teknologi seperti Elon Musk dan Mark Zuckerberg, telah menarik perhatian mengenai bagaimana aplikasi tersebut akan menangani konten bermasalah, mulai dari ujaran kebencian hingga pelecehan dan informasi yang salah.

Memoderasi diskusi real-time merupakan tantangan bagi berbagai platform yang menggunakan obrolan suara langsung, mulai dari layanan yang berpusat pada video game seperti Discord hingga fitur audio langsung baru dari Twitter Inc, Spaces. Facebook juga rupanya sedang mengerjakan tawaran.

“Audio menghadirkan serangkaian tantangan moderasi yang secara fundamental berbeda dibandingkan komunikasi berbasis teks. Ini lebih bersifat sementara dan lebih sulit untuk diteliti dan dilakukan,” kata kepala bagian hukum Discord, Clint Smith, dalam sebuah wawancara.

Alat untuk mendeteksi konten audio yang bermasalah tertinggal dibandingkan alat yang digunakan untuk mengidentifikasi teks, dan menyalin serta memeriksa rekaman obrolan suara adalah proses yang lebih rumit bagi manusia dan mesin. Kurangnya isyarat tambahan, seperti isyarat visual dari video atau komentar teks yang menyertainya, juga dapat menjadikannya lebih menantang.

“Sebagian besar dari apa yang Anda miliki dalam hal alat moderasi konten sebenarnya dibangun berdasarkan teks,” kata Daniel Kelley, direktur asosiasi Pusat Teknologi dan Masyarakat Liga Anti-Pencemaran Nama Baik.

Tidak semua perusahaan membuat atau melakukan survei suara untuk menyelidiki laporan pelanggaran peraturan. Meskipun Twitter Spaces menyimpan audio selama 30 hari atau lebih jika ada insiden, Clubhouse mengatakan akan menghapus rekamannya jika sesi langsung berakhir tanpa laporan pengguna langsung, dan Discord tidak merekam sama sekali.

Sebaliknya, Discord, yang berada di bawah tekanan untuk menindak konten beracun seperti pelecehan dan materi supremasi kulit putih dalam obrolan teks dan suara, memberi pengguna kontrol untuk membisukan atau memblokir orang dan mengandalkan penandaan audio yang bermasalah.

Model komunitas seperti ini dapat memberdayakan pengguna, namun dapat dengan mudah disalahgunakan dan menimbulkan bias.

Clubhouse, yang juga memperkenalkan kontrol pengguna, telah menyelidiki apakah tindakan seperti pemblokiran, yang dapat mencegah pengguna bergabung dengan ruangan tertentu, dapat digunakan untuk melecehkan atau mengecualikan pengguna.

Tantangan dalam memoderasi audio langsung dihadapkan pada persaingan global yang lebih luas mengenai moderasi konten di platform media sosial utama, yang telah dikritik karena kekuatan dan ketidakjelasannya, dan telah menuai keluhan dari kelompok sayap kanan dan kiri karena dianggap terlalu membatasi atau berbahaya. permisif.

Platform online juga telah lama berjuang melawan konten langsung yang berbahaya atau vulgar di situs mereka. Pada tahun 2020, video live bunuh diri di Facebook Inc tersebar di berbagai situs. Pada tahun 2019, penembakan di sinagoga Jerman disiarkan langsung di situs web game milik Amazon Inc, Twitch.

“Sangat penting bagi layanan ini untuk belajar dari penerapan video streaming untuk memahami bahwa mereka menghadapi pertanyaan yang sama,” kata Emma Llansó, direktur Proyek Ekspresi Bebas di Pusat Demokrasi dan Teknologi dan anggota dari Dewan Penasihat Keamanan Twitch. Dia menambahkan: “Apa yang terjadi jika orang ingin menggunakan layanan Anda untuk menyiarkan langsung audio pertemuan polisi atau serangan kekerasan?”

‘Sampai Tak Terhingga’

Minggu lalu, di balai kota umum perusahaan, salah satu pendiri Clubhouse Paul Davison memaparkan visi tentang bagaimana aplikasi khusus undangan saat ini akan memainkan peran yang lebih besar dalam kehidupan masyarakat — mulai dari demonstrasi politik hingga pertemuan perusahaan dengan semua pihak akan hadir.

Ruangan, yang saat ini dibatasi untuk 8.000 orang, akan berskala “hingga tak terbatas” dan peserta dapat memperoleh uang dari “tip” yang dibayarkan oleh penonton.

Putaran pembiayaan terbaru perusahaan yang berbasis di San Francisco pada bulan Januari bernilai $1 miliar, menurut sumber yang mengetahui masalah tersebut. Pendanaan tersebut dipimpin oleh Andreessen Horowitz, perusahaan modal ventura terkemuka di Silicon Valley.

Ketika ditanya bagaimana Clubhouse bekerja mendeteksi konten berbahaya seiring dengan berkembangnya layanan, Davison mengatakan startup kecil tersebut telah mengasah kepercayaan dan tim keamanannya untuk menangani masalah dalam berbagai bahasa dan menyelidiki insiden dengan cepat.

Aplikasi tersebut, yang dikatakan memiliki 10 juta pengguna aktif mingguan, memiliki staf penuh waktu yang baru-baru ini mencapai dua digit. Seorang juru bicara mengatakan pihaknya menggunakan peninjau internal dan layanan pihak ketiga untuk memoderasi konten dan telah melibatkan penasihat mengenai masalah ini, namun tidak akan mengomentari metode peninjauan atau pelacakan.

Setahun sejak diluncurkan, Clubhouse telah menghadapi kritik atas laporan misogini, anti-Semitisme, dan misinformasi COVID-19 di platform tersebut meskipun ada peraturan yang melarang rasisme, ujaran kebencian, pelecehan, dan misinformasi.

Clubhouse mengatakan pihaknya berinvestasi pada alat untuk mendeteksi dan mencegah penyalahgunaan, serta fitur bagi pengguna, yang dapat menetapkan aturan untuk ruangan mereka, untuk memoderasi percakapan.

Melakukan moderasi konten audio dengan benar dapat membantu memicu gelombang baru bisnis dan penggunaan layanan dan fitur baru yang diperkenalkan oleh jejaring sosial utama.

Salah satu sumber mengatakan kepada Reuters bahwa platform audio langsung Fireside milik pengusaha miliarder Mark Cuban, yang menggambarkan dirinya sebagai “platform yang bertanggung jawab secara sosial”, akan dibangun untuk menghindari masalah yang dihadapi jaringan lain.

Twitter, yang sudah lama dikritik karena kemampuannya memerangi pelecehan, saat ini sedang menguji Spaces dengan 1.000 pengguna yang dimulai dengan perempuan dan orang-orang dari kelompok marginal.

Host mendapatkan kontrol untuk memoderasi dan pengguna dapat melaporkan masalah. Namun Twitter juga mempertimbangkan investasi dalam “deteksi proaktif” – misalnya, memasukkan transkrip audio ke dalam alat yang saat ini digunakan Twitter untuk melacak tweet bermasalah tanpa menandai pengguna, kata Andrew McDiarmid dari tim kepercayaan produk Twitter.

McDiarmid mengatakan Twitter masih memutuskan bagaimana menerjemahkan aturan yang ada, seperti memberi label misinformasi, yang juga berlaku pada layanan baru, ke arena audio.

Hingga Twitter memperbaiki rencana moderasinya, orang-orang yang baru-baru ini melanggar aturan situs tidak diperbolehkan mengakses fitur baru tersebut. – Rappler.com