Twitter sedang bereksperimen dengan solusi baru untuk mengurangi toksisitas

Twitter sedang bereksperimen dengan solusi baru untuk mengurangi toksisitas

Twitter sedang bereksperimen dengan solusi baru untuk mengurangi toksisitas

 

Twitter sedang bereksperimen dengan solusi baru untuk mengurangi toksisitas
Twitter sedang bereksperimen dengan solusi baru untuk mengurangi toksisitas

Salah satu tantangan terbesar yang dimiliki Twitter saat ini adalah untuk mengurangi penyalahgunaan dan intimidasi pada platformnya. Pekan lalu, kepala produk perusahaan, Kayvon Beykpour, duduk bersama kepala editor Wired Nicholas Thompson selama Consumer Electronics Show (CES) di Las Vegas untuk membahas toksisitas pada platform, kesehatan percakapan, dan banyak lagi. Melalui wawancara, ia mengungkapkan beberapa aspek pekerjaan Twitter untuk menangani konten yang kasar dan menyinggung.

Beykpour mengatakan salah satu langkah yang diambil perusahaan untuk mengurangi toksisitas adalah menghapus peringkat balasan yang kasar menggunakan pembelajaran mesin:

Saya pikir semakin, meningkatkan pembelajaran mesin untuk mencoba dan model perilaku yang kami pikir paling optimal untuk bidang itu. Jadi misalnya, kami ingin menampilkan balasan yang kemungkinan besar akan dibalas. Itu satu atribut yang mungkin ingin Anda optimalkan, bukan satu-satunya atribut dengan cara apa pun. Anda akan ingin menghilangkan tekanan balasan yang kemungkinan akan diblokir atau dilaporkan karena melanggar.

Konferensi TNW Couch
Bergabunglah dengan para pemimpin industri untuk menentukan strategi baru untuk masa depan yang tidak pasti

DAFTAR SEKARANG
Dia menambahkan bahwa Twitter mengoptimalkan balasan yang lebih cenderung mendapat reaksi atau balasan. Namun, itu tweak algoritma untuk menentukan peringkat balasan yang layak reaksi, namun kasar.

Ketika Thompson bertanya kepadanya tentang bagaimana perusahaan mencoba untuk mengendalikan sistem sehingga tidak mendorong keracunan, Beykpour mengatakan jejaring sosial melatih model AI-nya secara ketat untuk memahami peraturan dan perundangannya:

Saat ini, cara kami memanfaatkan AI untuk menentukan toksisitas pada

dasarnya memiliki definisi yang sangat baik tentang apa aturan kami, dan kemudian memiliki sejumlah besar sampel data di tweet yang melanggar aturan dan membuat model di sekitarnya.

Pada dasarnya kami mencoba memprediksi tweet yang cenderung melanggar aturan kami. Dan itu hanya satu bentuk dari apa yang orang mungkin anggap kasar, karena sesuatu yang Anda anggap kasar mungkin tidak bertentangan dengan kebijakan kami, dan di situlah rumit.

Baris terakhir cukup menarik, dan kemungkinan menjadi inti dari banyak kontroversi seputar Twitter. Pengguna yang dicekal sering mengeluh bahwa moderasi Twitter tidak cukup bernuansa untuk memahami konteks tweet yang membuat mereka dalam masalah. Di sisi lain, beberapa akun tidak diblokir ketika mereka men-tweet konten yang kontroversial atau kasar.

Ketika Thompson dengan bercanda bertanya apakah Twitter berencana

untuk memberi pelaku ‘centang merah’ atau mengeluarkan skor toksisitas untuk menghilangkan insentif pada mereka, Beykpour melambaikannya, dan mengatakan perusahaan itu bereksperimen dengan fitur yang lebih halus dalam aplikasi beta , seperti bersembunyi seperti jumlah dan jumlah retweet.

Tantangan Twitter dalam hal melatih tim AI dan moderasinya adalah

untuk mempertimbangkan konteks sosial dan politik yang selalu berubah di berbagai geografi. Beberapa istilah atau pernyataan yang dinormalisasi beberapa tahun yang lalu, mungkin kasar dalam konteks saat ini. Jadi, perusahaan perlu meninjau dan memperbaiki kebijakannya secara konstan.

Seluruh wawancara penuh dengan berita menarik tentang bagaimana Twitter berpikir tentang masa depan platformnya, termasuk open-source-nya. Temukan di Wired di sini .

Baca Juga: