https://bodybydarwin.com
Slider Image

Facebook merekrut 3000 monitor konten baru untuk pekerjaan yang tidak bisa dilakukan AI

2021

Kemarin, Mark Zuckerberg mengumumkan bahwa Facebook mempekerjakan 3.000 orang untuk bekerja di tim operasi komunitasnya, yang meninjau gambar, video, dan posting yang dilaporkan pengguna. Karyawan baru ini akan bergabung dengan 4.500 karyawan yang ada dalam upaya untuk meminimalkan jangkauan acara di masa depan seperti penembakan Robert Goodwin. Ini adalah investasi yang sangat penting bagi Facebook, tetapi ini membawa kita pada pertanyaan mendasar: Tidak bisakah pekerjaan ini diotomatisasi?

Skala kerja ini sangat luas: Facebook mempekerjakan lebih banyak orang daripada bekerja di ruang redaksi gabungan New York Times, Wall Street Journal, dan Washington Post. Facebook tidak mengatakan saat ini apakah pekerjaannya adalah karyawan atau kontraktor, dan apakah mereka akan berbasis di Amerika Serikat atau di luar negeri. (Ingin tahu seperti apa pekerjaan itu? Baca Adrien Chen menyelam ke moderasi konten dari 2014, atau lihat video ini pada proses moderasi)

"Para pengulas ini juga akan membantu kami menjadi lebih baik dalam menghapus hal-hal yang tidak kami izinkan di Facebook seperti pidato kebencian dan eksploitasi anak, tulis CEO Facebook Zuckerberg." Dan kami akan terus bekerja dengan kelompok masyarakat setempat dan penegak hukum yang berada di posisi terbaik untuk membantu seseorang jika mereka membutuhkannya - baik karena mereka akan membahayakan diri mereka sendiri, atau karena mereka dalam bahaya dari orang lain. "(penekanan ditambahkan)

Subteksnya adalah pembunuhan Robert Goodwin 16 April di Cleveland. Menurut garis waktu yang dirilis oleh Facebook, pada 14:09 Timur pada 16 April seorang pria mengunggah video yang menyatakan niatnya untuk melakukan pembunuhan. Dua menit kemudian, pria itu mengunggah video dia menembak Goodwin. Tak lama setelah itu, tersangka pembunuhan diposting langsung di Facebook selama lima menit. Video penembakan dilaporkan pada pukul 16:00, dan pada pukul 4:22 Facebook menangguhkan akun penembak dan menghapus videonya dari pandangan publik. Itu hanya lebih dari dua jam antara postingan awal dan penangguhan akun, tetapi keberadaan Facebook dan sifat pembunuhan yang mengerikan menjadikannya berita nasional.

Ada beberapa konten yang sebelumnya disensor Facebook saat diunggah. Perusahaan menggunakan sistem otomatis untuk menemukan foto telanjang dan pornografi yang sebelumnya dihapus ketika mereka diunggah untuk kedua kalinya. Jejaring sosial ini juga menggunakan PhotoDNA, sebuah alat yang mereferensikan gambar-gambar dengan database dari penanda foto eksploitasi anak yang diketahui, sehingga foto-foto tersebut dapat diblokir dan dilaporkan ke pihak yang berwenang. Dalam kedua kasus ini, otomatisasi memeriksa terhadap jumlah yang diketahui sebelumnya.

Sebagian besar otomatisasi dalam proses membantu penegakan manual oleh pengulas konten manusia. Jika sepotong konten dilaporkan 1.000 kali, alat mengenali laporan rangkap, sehingga hanya perlu ditinjau secara manual sekali. Alat-alat lain mengarahkan gambar, posting, atau video ke pengulas yang memiliki keahlian khusus; misalnya, seseorang yang berbicara bahasa Arab dapat meninjau konten yang ditandai dari kelompok ekstremis di Suriah yang mungkin melanggar persyaratan layanan Facebook.

Namun, kemampuan penilaian manusia untuk memahami kontekslah yang menentukan hari itu. Untuk menentukan apakah suatu komentar dibenci atau digertak, Facebook bergantung pada orang sungguhan. Dan dalam kasus spesifik Facebook Live, ada tim yang didedikasikan untuk memantau laporan video langsung; grup secara otomatis memonitor setiap video langsung yang mencapai ambang popularitas tertentu yang tidak disebutkan.

Ada satu area di mana Facebook memberi AI peran yang lebih aktif. Pada bulan Maret, jaringan meluncurkan alat AI pencegah bunuh diri, yang mengidentifikasi posting yang mungkin mengindikasikan pikiran bunuh diri. BuzzFeed melaporkan bahwa AI dapat memindai posting dan komentar untuk kesamaan dengan posting sebelumnya yang menjamin tindakan. Dalam keadaan yang jarang, ini akan secara langsung memperingatkan moderator, tetapi lebih sering itu akan menunjukkan kepada pengguna alat pencegahan bunuh diri seperti nomor untuk saluran bantuan. Selain itu, AI membuat tombol untuk melaporkan melukai diri sendiri lebih menonjol ke teman-teman orang tersebut, meningkatkan kemungkinan bahwa mereka akan menandai video untuk moderator manusia Facebook. (Perusahaan menolak mengomentari catatan untuk cerita ini.)

Alternatif langsung ke moderasi manusia kemungkinan adalah sensor preemptive.

"Apakah kita menginginkan Facebook yang lebih disensor ?, " kata Kate Klonick, seorang warga di Proyek Masyarakat Informasi di Yale. "Ketika Anda menempatkan sistem yang terlalu kuat, potensinya adalah bahwa orang tidak dilatih dengan benar dan akan ada lebih banyak positif palsu dan lebih banyak sensor."

Pekerjaan Klonick berfokus pada Facebook dan platform lain sebagai sistem yang mengatur pidato online. Facebook harus membuat pilihan aktif dalam bagaimana mengatur apa yang diposting dan tetap diposting, kata Klonick, dan tidak ada peluru ajaib algoritmik yang dapat mengubah ini dari masalah bicara menjadi sekadar tantangan teknis.

“Kami bertahun-tahun tidak bisa memiliki AI yang bisa menyelesaikan masalah pengambilan keputusan yang kompleks ini, ” kata Klonick. “Ini bukan hanya pengenalan foto, ini juga pengenalan foto di atas pengambilan keputusan di atas kategorisasi — yang semuanya merupakan masalah kognisi yang sulit, yang tidak bisa kita bayangkan dengan pasti.”

Tantangan pengenalan foto sangat ikonik dalam pemrograman komputer sehingga menjadi semacam perumpamaan itu sendiri. Pada tahun 1966, Seymour Papert di MIT mengusulkan apa yang dia pikir akan menjadi proyek musim panas yang sederhana: melatih komputer untuk mengenali objek. Alih-alih menyelesaikan di musim panas, bidang pelatihan komputer untuk mengenali objek adalah tugas yang monumental, yang berlanjut hingga hari ini, dengan perusahaan seperti Google dan Facebook menggelontorkan uang dan berjam-jam untuk meneliti solusi.

"Untuk masa mendatang, " kata Klonick, "Ini bukan masalah AI atau solusi AI."

Cara memilih tablet terbaik untuk Anda

Cara memilih tablet terbaik untuk Anda

Bagaimana pesawat terbang?

Bagaimana pesawat terbang?

Ya, mungkin mengisi baterai telepon menggunakan trek kereta

Ya, mungkin mengisi baterai telepon menggunakan trek kereta