AI Facebook untuk mengurutkan konten untuk moderator manusia
Ini adalah ringkasan yang dibuat oleh AI, yang mungkin memiliki kesalahan. Untuk konteksnya, selalu rujuk artikel selengkapnya.
Postingan diprioritaskan untuk ditinjau berdasarkan tiga kriteria: viralitas, keseriusan, dan kemungkinan melanggar kebijakan situs
Facebook mengumumkan pada hari Jumat, 13 November bahwa mereka kini menggunakan bantuan kecerdasan buatan (AI) untuk memprioritaskan postingan yang melalui moderator konten manusianya.
Meskipun raksasa media sosial ini sebelumnya telah menggunakan teknologi dalam praktik moderasi kontennya, penerapan AI baru ini dilaporkan mempermudah penanganan konten yang menyinggung dan pelaku kejahatan di situs secara efektif.
Sebelumnya, tim pemeringkat manusia Facebook memeriksa postingan secara kronologis sebagaimana dilaporkan oleh pengguna platform. Kini, dengan AI baru, postingan diurutkan dan diprioritaskan untuk ditinjau berdasarkan tiga kriteria: viralitas, tingkat keparahan, dan kemungkinan pelanggaran kebijakan situs.
Viralitas melihat seberapa banyak postingan yang berpotensi berbahaya dibagikan atau diunduh. Mereka yang memiliki daya tarik lebih besar akan diprioritaskan dibandingkan mereka yang memiliki sedikit atau tanpa penayangan atau share.
Sedangkan tingkat keparahan berkaitan dengan konten yang dapat menimbulkan kerugian nyata. Misalnya, terorisme, bunuh diri dan tindakan menyakiti diri sendiri, serta eksploitasi anak akan diprioritaskan dibandingkan spam.
Terakhir, AI juga akan melihat kemungkinan konten melanggar kebijakan Facebook dengan mengidentifikasi sinyal yang mirip dengan konten pelanggaran lainnya di masa lalu.
Mengenai cara kerja AI, insinyur perangkat lunak Integritas Komunitas Facebook, Chris Palow, menjelaskan bahwa ia menggunakan sistem yang sudah ada yang disebut “sepenuhnya penyematan pasca-integritas”.
Apa yang dilakukan sistem ini adalah menggabungkan semua elemen postingan, mulai dari gambar hingga teks hingga pengguna yang mempostingnya, dan menganalisisnya secara keseluruhan, memberikan konteks dan memungkinkan penilaian yang lebih baik.
Meskipun demikian, Palow mencatat bahwa algoritmenya tidak sempurna dan masih kesulitan dalam topik yang memerlukan lebih banyak konteks daripada yang dapat dianalisis, seperti penindasan.
“Penting untuk diketahui bahwa semua pelanggaran konten akan ditinjau. Sekarang kami hanya menggunakan sistem kami untuk memprioritaskan dan menjadikannya lebih baik,” kata Ryan Barnes, manajer produk Facebook untuk integritas komunitas, dalam jumpa pers pada Selasa, 17 November.
Dia menambahkan bahwa mereka akan lebih banyak menggunakan otomatisasi untuk meringankan beban lebih dari 15.000 moderator manusia yang dipekerjakan Facebook di seluruh dunia.
Moderator Facebook meninjau konten yang ditandai oleh AI atau dilaporkan oleh pengguna dan memutuskan apakah konten tersebut melanggar kebijakan situs atau tidak. – Rappler.com
