Facebook meningkatkan konten viral saat ini menjatuhkan pemeriksaan fakta-ProPublica

Beberapa jam setelah Donald Trump dilantik sebagai presiden, pengguna menyebarkan klaim palsu di Facebook bahwa imigrasi dan penegakan bea cukai membayar hadiah untuk laporan orang yang tidak berdokumen.

“Breaking – ICE diduga menawarkan $ 750 per imigran ilegal yang Anda ubah melalui formulir tip mereka,” baca sebuah posting di halaman yang disebut No Filter mencari kebenaran, menambahkan, “Uang tunai pada orang.”

Periksa fakta Anda, Reuters dan pemeriksa fakta lainnya membantah klaim tersebut, dan Facebook menambahkan label untuk posting yang memperingatkan bahwa mereka berisi informasi palsu atau konteks yang hilang. ICE memiliki garis tip tetapi mengatakan itu tidak menawarkan hadiah uang tunai.

Musim semi ini, Meta berencana untuk berhenti bekerja dengan pemeriksa fakta di AS untuk memberi label konten yang salah atau menyesatkan, kata perusahaan itu pada 7 Januari. Dan jika pos seperti yang terjadi pada es menjadi viral, halaman yang menyebar itu bisa menghasilkan a Bonus tunai.

CEO Meta Mark Zuckerberg juga mengatakan pada bulan Januari bahwa perusahaan menghapus atau memutar kembali sistem otomatis yang mengurangi penyebaran informasi palsu. Pada saat yang sama, Meta mengubah program yang telah membayar bonus kepada pembuat untuk konten berdasarkan pandangan dan keterlibatan, berpotensi menuangkan akselerant pada jenis posting palsu yang pernah diawasi. Program monetisasi konten Facebook baru saat ini hanya diundang, tetapi Meta berencana untuk membuatnya tersedia secara luas tahun ini.

Hasilnya: Kemungkinan kebangkitan cerita palsu pembakar di Facebook, beberapa di antaranya didanai oleh meta, menurut mantan tipuan Facebook profesional dan mantan ilmuwan data meta yang bekerja pada kepercayaan dan keselamatan.

Apa yang kami tonton

Selama kepresidenan kedua Donald Trump, ProPublica akan fokus pada area yang paling membutuhkan pengawasan. Berikut adalah beberapa masalah yang akan ditonton oleh reporter kami – dan bagaimana menghubungi mereka dengan aman.

Kami mencoba sesuatu yang baru. Apakah itu membantu?

ProPublica mengidentifikasi 95 halaman Facebook yang secara teratur memposting berita utama yang dirancang untuk menarik keterlibatan-dan, seringkali, memicu perpecahan politik. Halaman -halaman tersebut, yang sebagian besar dikelola oleh orang -orang di luar negeri, memiliki total lebih dari 7,7 juta pengikut.

Setelah ditinjau, Meta mengatakan telah menghapus 81 halaman karena dikelola oleh akun palsu atau salah mengartikan diri mereka sebagai orang Amerika saat memposting tentang politik dan masalah sosial. Tracy Clayton, seorang juru bicara meta, menolak untuk menanggapi pertanyaan spesifik, termasuk apakah ada halaman yang memenuhi syarat atau terdaftar dalam program pembayaran konten viral perusahaan.

Halaman -halaman yang dikumpulkan oleh ProPublica menawarkan sampel dari mereka yang dapat siap untuk menguangkan.

Meta telah membuat tipuan viral yang membuat uang menjadi prioritas utama selama hampir satu dekade, dengan satu eksekutif menyebut konten ini sebagai “yang terburuk dari yang terburuk.” Meta memiliki kebijakan untuk tidak membayar konten label pemeriksa fakta sebagai salah, tetapi aturan itu akan menjadi tidak relevan ketika perusahaan berhenti bekerja dengan mereka. Sudah, 404 Media menemukan bahwa spammer luar negeri mendapatkan pembayaran menggunakan konten yang dihasilkan AI yang menipu, termasuk gambar orang kurus yang dimaksudkan untuk memicu emosi dan keterlibatan. Konten seperti itu jarang diperiksa fakta karena tidak membuat klaim yang dapat diverifikasi.

Dengan penghapusan pemeriksaan fakta di AS, “Apa perlindungan yang sekarang terhadap tipuan virus untuk keuntungan?” Kata Jeff Allen, chief riset officer dari Integrity Institute nirlaba dan mantan ilmuwan data meta.

“Sistem ini dirancang untuk memperkuat konten yang paling cabul dan menghasut,” tambahnya.

Dalam pertukaran di Facebook Messenger, Manajer No Filter mencari kebenaran, yang berbagi pos ICE palsu, mengatakan kepada ProPublica bahwa halaman tersebut telah dihukum berkali -kali untuk berbagi informasi palsu yang tidak akan mengizinkannya untuk mendapatkan uang di bawah saat ini aturan. Halaman ini dijalankan oleh seorang wanita yang berbasis di AS selatan, yang berbicara dengan syarat anonim karena dia mengatakan dia telah menerima ancaman karena jabatannya. Dia mengatakan berita tentang sistem pengecekan fakta yang berakhir adalah “informasi hebat.”

Clayton mengatakan standar komunitas Meta dan tim moderasi konten masih aktif dan menegaskan kembali pernyataan perusahaan 7 Januari bahwa mereka bekerja untuk memastikan tidak “terlalu menegakkan” aturannya dengan secara keliru melarang atau menekan konten.

Perubahan Meta menandai pembalikan yang signifikan dari pendekatan perusahaan untuk memoderasi informasi yang salah dan menyesatkan, membingkai ulang pelabelan atau penurunan konten sebagai bentuk sensor. “Sudah waktunya untuk kembali ke akar kami di sekitar ekspresi bebas di Facebook dan Instagram,” kata Zuckerberg dalam pengumumannya. Sikapnya mencerminkan pendekatan Elon Musk setelah mengakuisisi Twitter, sekarang X, pada tahun 2022. Musk telah membuat pemotongan drastis ke tim kepercayaan dan keselamatan perusahaan, mengembalikan ribuan akun yang ditangguhkan termasuk neo-Nazi yang terkemuka dan catatan komunitas yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan, yang diposisikan,, memungkinkan pengguna yang berpartisipasi untuk menambahkan konteks melalui catatan ditambahkan ke tweet, sebagai sistem kunci platform untuk menandai konten yang salah dan menyesatkan.

Zuckerberg mengatakan Meta akan menggantikan pemeriksaan fakta dan beberapa sistem otomatis di AS dengan versi sistem catatan komunitas. Pembaruan 7 Januari ke halaman kebijakan Meta mengatakan bahwa di AS perusahaan “mungkin masih mengurangi distribusi konten tipuan tertentu yang spreadnya menciptakan pengalaman pengguna atau produk yang sangat buruk (misalnya, tipuan komersial tertentu).”

Clayton tidak mengklarifikasi apakah posting dengan catatan yang ditambahkan kepada mereka akan memenuhi syarat untuk monetisasi. Dia memberikan tautan ke makalah akademik yang merinci bagaimana program periksa fakta crowdsourcing seperti catatan komunitas dapat efektif dalam mengidentifikasi informasi yang salah, membangun kepercayaan di antara pengguna dan menangani persepsi bias.

Investigasi ProPublica tahun 2023, serta melaporkan dari Bloomberg, menemukan bahwa catatan komunitas X gagal untuk secara efektif menangani informasi yang salah tentang konflik Israel-Hama. Pelaporan dari BBC dan Agence France-Presse menunjukkan bahwa pengguna X yang berbagi informasi palsu telah memperoleh ribuan dolar berkat program monetisasi konten X, yang juga menghargai keterlibatan tinggi.

Keith Coleman, wakil presiden produk X, sebelumnya mengatakan kepada ProPublica bahwa analisis catatan komunitas tentang konflik Israel-Hama tidak termasuk semua catatan yang relevan, dan dia mengatakan bahwa program “ditemukan bermanfaat oleh orang-orang secara global, di seluruh politik spektrum.”

Allen mengatakan dibutuhkan waktu, sumber daya, dan pengawasan untuk meningkatkan sistem pemeriksaan fakta crowdsourced. Keputusan Meta untuk membatalkan pemeriksaan fakta sebelum memberikan pendekatan baru waktu untuk membuktikan dirinya berisiko, katanya.

“Secara teori kami dapat memiliki program catatan komunitas yang sama efektifnya, jika tidak lebih efektif, daripada program pengecekan fakta,” katanya. “Tetapi untuk mematikan semua hal ini sebelum Anda memiliki catatan komunitas yang pasti terasa seperti kita secara eksplisit akan memiliki momen dengan pagar kecil.”

Sebelum Facebook mulai menindak konten pada akhir 2016, penjaja berita palsu Amerika dan spammer yang berbasis di Makedonia Utara dan di tempat lain menguangkan tipuan viral yang memperdalam divisi politik dan bermain pada ketakutan orang -orang.

Seorang Amerika, Jestin Coler, mengelola jaringan situs yang mendapatkan uang dari berita tipuan selama hampir satu dekade, termasuk headline viral yang terkenal dan palsu dari 2016 “Agen FBI yang diduga dalam kebocoran email Hillary ditemukan tewas dalam pembunuhan-bunuh diri yang jelas.” Dia sebelumnya mengatakan kepada NPR bahwa dia memulai situs sebagai cara untuk “menyusup ke ruang gema alt-right.” Coler mengatakan dia mendapatkan lima angka sebulan dari situs, yang dia operasikan di waktu luangnya.

Ketika orang mengklik tautan ke cerita di feed berita mereka, mereka mendarat di situs web yang penuh dengan iklan, yang menghasilkan pendapatan untuk Coler. Itu menjadi model bisnis yang lebih keras karena Meta telah membuat tautan cerita kurang terlihat di Facebook dalam beberapa tahun terakhir.

Program baru Facebook untuk membayar penerbit secara langsung untuk konten viral dapat membuka kunci aliran pendapatan baru untuk tipuan. “Masih formula yang sama untuk membuat orang gusar. Sepertinya itu bisa langsung kembali ke hari -hari itu, seperti dalam semalam, ”kata Coler kepada ProPublica dalam wawancara telepon. Dia mengatakan dia meninggalkan bisnis tipuan Facebook bertahun -tahun yang lalu dan tidak akan kembali.

Pada bulan Januari, ProPublica menyusun daftar halaman yang sebelumnya telah dikutip untuk memposting tipuan dan konten palsu dan menemukan lusinan lebih banyak melalui domain dan pencarian konten. Halaman -halaman tersebut memposting tajuk utama yang dirancang untuk memicu kontroversi, seperti “Lia Thomas mengakui: ‘Saya memalsukan menjadi trans untuk mengekspos betapa mudah tertipu yang kiri'” dan “Elon Musk mengumumkan bahwa ia telah mengakuisisi MSNBC sebesar $ 900 juta untuk mengakhiri beracun untuk beracun pemrograman. ” Judul Musk dipasangkan dengan citra yang dihasilkan AI tentang dia memegang kontrak dengan logo MSNBC. Ini menghasilkan lebih dari 11.000 reaksi, berbagi, dan komentar.

Sebagian besar halaman dikelola oleh akun di luar AS, termasuk di Makedonia Utara, Vietnam, Filipina dan Indonesia, menurut data dari Facebook. Banyak dari halaman-halaman ini menggunakan gambar yang dihasilkan AI untuk menggambarkan berita utama yang dibuat.

Salah satu jaringan halaman yang dikelola di luar negeri terhubung ke situs SpaceXmania.com, sebuah situs yang didanai iklan yang diisi dengan artikel tipuan seperti “Elon Musk mengonfrontasi Beyonce secara publik: ‘Berhentilah berpura-pura menjadi negara, itu bukan Anda.'” SpaceX Fanclub, Halaman Facebook terbesar di jaringan, memiliki hampir 220.000 pengikut dan label kontennya sebagai sindiran. Salah satu posting terbarunya adalah citra AI-sarat yang dihasilkan AI dari tanda yang mengatakan, “Hanya ada 2 2 jenis kelamin dan akan melarang atheletes dari olahraga wanita-presiden.”

Halaman Syarat dan Ketentuan Spaceexmania.com mengatakan itu dimiliki oleh Funky Creations Ltd, sebuah perusahaan Inggris yang terdaftar di Muhammad Shabayer Shaukat, seorang warga negara Pakistan. ProPublica mengirim pertanyaan ke situs tersebut dan menerima tanggapan email yang ditandatangani oleh Tim Lawson, yang mengatakan dia orang Amerika yang berbasis di Florida yang bekerja dengan Shaukat. (ProPublica tidak dapat menemukan seseorang dengan nama itu dalam pencarian catatan publik, berdasarkan informasi yang ia berikan.)

“Pekerjaan kami melibatkan menganalisis tren terbaru dan berita terkenal terkait dengan selebriti dan membentuknya dengan cara yang menarik bagi audiens tertentu-terutama konservatif dan kelompok sayap kanan yang cenderung mempercayai narasi tertentu,” kata email itu.

Lawson mengatakan mereka menghasilkan antara $ 500 dan $ 1.500 per bulan dari iklan web dan lebih dari setengah lalu lintas berasal dari orang yang mengklik tautan di Facebook. Halaman-halaman tersebut saat ini tidak terdaftar dalam program monetisasi konten Facebook hanya undangan, menurut Lawson.

Halaman SpaceXmania yang diidentifikasi oleh ProPublica baru -baru ini diambil secara offline. Lawson menyangkal bahwa mereka dihapus oleh Meta dan mengatakan dia menonaktifkan halaman “karena beberapa alasan keamanan.” Meta menolak berkomentar.

Masih harus dilihat bagaimana operator halaman tipuan akan berjalan ketika pembalikan algoritmik meta bertahan dan program pengecekan fakta AS terhenti. Tetapi beberapa pengguna Facebook sudah memanfaatkan pagar pembatas yang longgar.

Segera setelah Zuckerberg mengumumkan perubahan itu, orang -orang menyebarkan tangkapan layar palsu dari artikel Bloomberg yang menjadi tajuk, “Percikan dari pompa penis listrik Zuckerberg, mungkin bertanggung jawab atas kebakaran LA.”

“Catatan Komunitas: Terverifikasi Benar,” tulis seorang komentator.