Bagaimana Mesin Pencari Menyebarkan Informasi Yang Salah

gadis melihat melalui spiral warna

Gambar melalui Crispin the Brave / Moment via Getty Images

Mesin telusur adalah salah satu gerbang utama masyarakat menuju informasi dan orang, tetapi mesin telusur juga menjadi saluran untuk informasi yang salah.




Artikel tentang kesalahan informasi ini diterbitkan ulang di sini dengan izin dari The Conversation . Konten ini dibagikan di sini karena topiknya mungkin menarik minat pembaca Snopes, namun topik tersebut tidak mewakili karya pemeriksa fakta atau editor Snopes.




Mesin telusur adalah salah satu gerbang utama masyarakat menuju informasi dan orang, tetapi mesin telusur juga menjadi saluran untuk informasi yang salah. Mirip dengan algoritma media sosial yang bermasalah , mesin pencari belajar untuk melayani Anda apa yang telah Anda dan orang lain klik sebelumnya. Karena orang tertarik pada sensasi, tarian antara algoritma dan sifat manusia ini dapat mendorong penyebaran informasi yang salah.

Perusahaan mesin pencari, seperti kebanyakan layanan online, menghasilkan uang tidak hanya dengan menjual iklan, tetapi juga dengan melacak pengguna dan menjual data mereka melalui penawaran waktu nyata di atasnya. Orang sering diarahkan ke informasi yang salah karena keinginan mereka akan berita yang sensasional dan menghibur serta informasi yang kontroversial atau menegaskan pandangan mereka. Satu studi menemukan bahwa video YouTube yang lebih populer tentang diabetes adalah kecil kemungkinannya memiliki informasi yang valid secara medis daripada video yang kurang populer tentang subjek tersebut, misalnya.



rasa sakit seperti ditendang di bola

Mesin pencari yang digerakkan iklan, seperti platform media sosial, dirancang untuk memberi penghargaan pada mengklik tautan yang menarik karena membantu perusahaan pencari meningkatkan metrik bisnis mereka. Sebagai peneliti yang mempelajari sistem pencarian dan rekomendasi , Saya dan kolega saya menunjukkan bahwa kombinasi berbahaya dari motif keuntungan perusahaan dan kerentanan individu ini membuat masalah sulit diperbaiki .

Bagaimana hasil pencarian bisa salah

Saat Anda mengeklik hasil penelusuran, algoritme penelusuran mempelajari bahwa tautan yang Anda klik relevan dengan kueri penelusuran Anda. Ini disebut relevansi umpan balik . Umpan balik ini membantu mesin telusur memberikan bobot yang lebih tinggi ke tautan tersebut untuk kueri itu di masa mendatang. Jika cukup banyak orang mengklik tautan itu cukup sering, sehingga memberikan umpan balik relevansi yang kuat, situs web itu mulai muncul lebih tinggi dalam hasil pencarian untuk itu dan kueri terkait.

Orang-orang lebih mungkin untuk mengklik link yang muncul lebih tinggi di daftar hasil pencarian. Ini menciptakan putaran umpan balik positif - semakin tinggi situs web muncul, semakin banyak klik, dan pada gilirannya membuat situs web itu bergerak lebih tinggi atau membuatnya lebih tinggi. Teknik pengoptimalan mesin pencari menggunakan pengetahuan ini untuk meningkatkan visibilitas situs web.



tidak ada gunanya mencoba mengubah kaum intelektual

Ada dua aspek untuk masalah misinformasi ini: bagaimana algoritme penelusuran dievaluasi dan bagaimana manusia bereaksi terhadap tajuk berita, judul, dan cuplikan. Mesin pencari, seperti kebanyakan layanan online, dinilai menggunakan berbagai metrik, salah satunya adalah keterlibatan pengguna. Merupakan kepentingan terbaik perusahaan mesin telusur untuk memberikan hal-hal yang ingin Anda baca, tonton, atau cukup klik. Oleh karena itu, saat mesin telusur atau sistem rekomendasi apa pun membuat daftar item untuk disajikan, ini menghitung kemungkinan Anda akan mengklik item tersebut.

Secara tradisional, ini dimaksudkan untuk memberikan informasi yang paling relevan. Namun, gagasan relevansi menjadi kabur karena orang telah menggunakan pencarian untuk menemukan hasil pencarian yang menghibur serta informasi yang benar-benar relevan .

Bayangkan Anda sedang mencari tuner piano. Jika seseorang menunjukkan video kucing bermain piano, apakah Anda akan mengkliknya? Banyak yang akan melakukannya, bahkan jika itu tidak ada hubungannya dengan penyetelan piano. Layanan pencarian merasa divalidasi dengan umpan balik relevansi yang positif dan belajar bahwa tidak apa-apa untuk menunjukkan kucing yang sedang bermain piano ketika orang-orang mencari penyetel piano.

george floyd adalah penjahat karier

Faktanya, ini bahkan lebih baik daripada menampilkan hasil yang relevan dalam banyak kasus. Orang-orang suka menonton video kucing lucu, dan sistem pencarian mendapatkan lebih banyak klik dan keterlibatan pengguna.

Ini mungkin tampak tidak berbahaya. Jadi, bagaimana jika orang-orang terganggu dari waktu ke waktu dan mengeklik hasil yang tidak relevan dengan kueri penelusuran? Masalahnya adalah orang tertarik pada gambar yang menarik dan berita utama yang sensasional. Mereka cenderung mengklik teori konspirasi dan berita sensasional , bukan hanya kucing yang bermain piano, dan melakukannya lebih dari sekadar mengklik berita nyata atau informasi yang relevan.

Laba-laba terkenal tapi palsu

Pada tahun 2018, penelusuran untuk 'laba-laba mematikan baru' melonjak di Google mengikuti posting Facebook yang mengklaim laba-laba mematikan baru menewaskan beberapa orang di banyak negara bagian. Kolega saya dan saya menganalisis 100 hasil teratas dari penelusuran Google untuk 'laba-laba mematikan baru' selama minggu pertama kueri yang sedang tren ini.

Distribusi hasil pencarian untuk

Dua halaman pertama hasil penelusuran Google untuk 'laba-laba mematikan baru' pada Agustus 2018 (area berbayang) terkait dengan postingan berita palsu asli tentang subjek tersebut, bukan menyanggah atau informasi faktual lainnya.
Chirag Shah, CC BY-ND

Ternyata cerita ini palsu , tetapi orang-orang yang menelusurinya sebagian besar terpapar informasi yang salah terkait postingan palsu asli. Saat orang-orang terus mengklik dan membagikan informasi yang salah itu, Google terus menampilkan halaman-halaman itu di bagian atas hasil pencarian.

christine blasey ford foto buku tahunan sekolah menengah

Pola cerita yang mendebarkan dan belum diverifikasi ini muncul dan orang-orang mengekliknya berlanjut, dengan orang-orang yang tampaknya tidak peduli dengan kebenaran atau percaya bahwa jika layanan tepercaya seperti Google Penelusuran menunjukkan cerita ini kepada mereka, maka cerita itu pasti benar. Baru-baru ini, a laporan yang tidak terbukti mengklaim China membiarkan kebocoran virus korona dari laboratorium mendapatkan daya tarik di mesin pencari karena lingkaran setan ini.

Temukan informasi yang salah

Untuk menguji seberapa baik orang membedakan antara informasi yang akurat dan informasi yang salah, kami merancang permainan sederhana yang disebut ' Google Atau Tidak . ” Game online ini menampilkan dua rangkaian hasil untuk kueri yang sama. Tujuannya sederhana - pilih set yang dapat diandalkan, dapat dipercaya, atau paling relevan.

Tangkapan layar yang menunjukkan dua rangkaian hasil penelusuran Google secara berdampingan

Dalam pengujian, sekitar separuh waktu orang tidak dapat membedakan antara hasil penelusuran Google yang berisi informasi yang salah dan hasil yang hanya dapat dipercaya.
Chirag Shah, CC BY-ND

Salah satu dari dua rangkaian ini memiliki satu atau dua hasil yang diverifikasi dan diberi label sebagai informasi yang salah atau cerita yang dibantah. Kami membuat game tersedia untuk umum dan diiklankan melalui berbagai saluran media sosial. Secara keseluruhan, kami mengumpulkan 2.100 tanggapan dari lebih dari 30 negara.

Ketika kami menganalisis hasilnya, kami menemukan itu sekitar separuh waktu orang secara keliru memilih set yang dapat dipercaya dengan satu atau dua hasil informasi yang salah . Eksperimen kami dengan ratusan pengguna lain melalui banyak iterasi telah menghasilkan temuan yang serupa. Dengan kata lain, sekitar separuh waktu orang mengambil hasil yang berisi teori konspirasi dan berita palsu. Karena semakin banyak orang memilih hasil yang tidak akurat dan menyesatkan ini, mesin telusur mengetahui bahwa itulah yang diinginkan orang.

jika pemungutan suara mengubah apa pun, itu ilegal

Terlepas dari pertanyaan tentang regulasi Big Tech dan swa-regulasi, penting bagi orang-orang untuk memahami cara kerja sistem ini dan cara mereka menghasilkan uang. Jika tidak, ekonomi pasar dan kecenderungan alami orang untuk tertarik pada tautan yang menarik akan membuat lingkaran setan terus berjalan.

The Conversation


Chirag Shah , Profesor Madya Ilmu Informasi, Universitas Washington

Artikel ini diterbitkan ulang dari The Conversation di bawah lisensi Creative Commons. Membaca artikel asli .