Upaya terbaru YouTube untuk menindak pidato kebencian telah menghasilkan kerusakan jaminan yang signifikan. Kebijakan yang dirancang untuk membatasi penyebaran denialisme holocaust berakhir dengan menyensor video yang menyerang denialisme; seorang guru sejarah yang mengabdikan hidupnya untuk pelanggaran Nazi mencatat dirinya dilarang.
Kesalahan-kesalahan ini lebih dari sekadar dapat diprediksi, dan lebih dari sekadar ilustrasi terbaru tentang sulitnya menerapkan standar dan praktik media lama ke media baru. Apa yang mereka perlihatkan adalah perbedaan mendasar antara perusahaan media sosial dan perusahaan media.
Masyarakat mengharapkan penerbit besar untuk menyensor pandangan najis, dan ada sedikit keraguan bahwa perusahaan seperti YouTube dan Facebook adalah penerbit utama. Namun penyensoran profesional bergantung pada kendali penerbit atas produksi konten. Sistem tidak berfungsi di dunia konten yang dibuat pengguna.
Tindakan keras YouTube didorong oleh kampanye dari Carlos Maza, seorang jurnalis di Vox Media, melawan Steven Crowder, seorang "atlet kejutan" YouTube yang terus-menerus mengarahkan penghinaan homofobik dan cercaan rasis di Maza. YouTube mengeluarkan tanggapan serius yang membingungkan dan kontradiktif yang akhirnya menghasilkan kebijakan baru yang melarang video "menuduh bahwa suatu kelompok lebih unggul untuk membenarkan diskriminasi, segregasi, atau pengecualian."
Aturan itu tampaknya tidak berbahaya. Tetapi kesalahan Crowder berupa ejekan dan sikap merendahkan, alat-alat subversi yang sering digunakan oleh kelompok-kelompok yang terpinggirkan terhadap yang istimewa atau berkuasa. Lebih penting dalam perselisihan saat ini: Upaya untuk mendidik setiap generasi berturut-turut tentang kengerian Nazisme tentu akan melibatkan pemaparan terhadap vitriol terburuknya.
Dengan demikian penerbit harus membuat perbedaan - antara retorika dengki dan subversif, antara hasutan dan pendidikan. Ini adalah jenis keputusan yang selalu diharapkan oleh penerbit tradisional, yang mengendalikan konten editorial mereka sendiri (dan sebagian besar dilakukan).
Sekarang pertimbangkan YouTube, yang merilis sekitar 500 jam konten setiap menit, yang sebagian besar diabaikan. Sebagian kecil, sebagaimana ditentukan sebagian besar oleh keterlibatan pengguna, ditingkatkan ke khalayak ramai. Jadi, sebagai penerbit, YouTube tidak hanya bergantung pada penggunanya untuk kontennya, tetapi juga bergantung pada mereka untuk membantu memutuskan konten mana yang dilihat pengguna lain. Dalam istilah surat kabar, pengguna adalah reporter dan editor.
Sistem ini bukan tanpa biaya. Namun itu juga penting untuk demokratisasi besar-besaran konten video yang diberdayakan oleh YouTube. Konten yang mungkin dianggap editor tradisional sebagai hal yang sepele, kontroversial, atau sekadar aneh, jika diberi kesempatan, dapat menyerang jutaan pengguna dan beralih ke arus utama.
Psikolog Jordan Peterson, misalnya, pertama kali menemukan ketenaran dengan penolakan kontroversial terhadap undang-undang pidato kebencian Ontario. Namun, ia memenangkan banyak penggemar, dengan koleksi video YouTube-nya yang banyak sekali tentang swadaya dan interpretasi Alkitab. Sekarang penulis terlaris, Peterson telah memberikan ceramah tentang peningkatan diri kepada audiens di seluruh dunia.
Ini adalah kejeniusan dan cacat hebat dari YouTube: Ini menerbitkan seorang profesor psikologi yang sangat eksentrik dan terkadang berperang yang mungkin diabaikan oleh editor manusia yang canggih. Itu juga menggunakan algoritma canggih yang masih bisa label dokumenter anti-Nazi sebagai pidato kebencian.
Satu-satunya solusi adalah agar YouTube menjadi platform yang benar-benar terbuka. Sebisa mungkin, ia harus melatih manusia dan mesinnya untuk berbuat salah di sisi publikasi. Jika akan menetapkan beberapa prinsip untuk apa yang dibolehkan, seperti yang disarankan Felix Salmon dan lainnya, mereka harus sangat permisif.
Itu tidak berarti YouTube tidak dapat melawan pelecehan yang sebenarnya, yang seringkali datang dari konsumen daripada produsen konten. Untuk satu, itu dapat mengambil langkah-langkah teknologi untuk membatasi kerugiannya, seperti membuat perangkat lunak pemblokiran agresif tersedia untuk menjaga komentar dari menjangkau orang-orang yang tidak ingin melihatnya. Ini juga harus bekerja dengan penegak hukum untuk mengejar ancaman serius yang bergerak offline dan masuk ke dunia nyata. Tidak selalu mudah untuk menggambar garis itu, tetapi seiring waktu akan semakin mudah.
Ini adalah solusi yang diakui tidak sempurna. Itu biasanya satu-satunya jenis pada awalnya ketika teknologi baru datang dan mengganggu cara lama dalam melakukan sesuatu. Apa yang berfungsi untuk media berita tidak akan berfungsi untuk media sosial. Apa pun solusinya, tujuannya adalah untuk mengurangi bahaya sambil melindungi manfaat. Pada skor itu, beberapa tingkat pidato online yang keji dan ofensif mungkin menjadi biaya yang harus kita kelola untuk memiliki masyarakat yang bebas dan terdemokratisasi secara digital.
0 Comments