Kuidas otsingumootorid levitavad väärinfot

tüdruk vaatab läbi spiraali värve

Pilt via Crispin the Brave / Moment Getty Images'i kaudu



Otsingumootorid on üks ühiskonna peamisi väravaid teabele ja inimestele, kuid need on ka valeinfo kanalid.


See valeinformatsiooni käsitlev artikkel avaldatakse siin uuesti loaga kasutajalt Vestlus . Seda sisu jagatakse siin, kuna see teema võib Snopesi lugejaid huvitada, kuid see ei tähenda Snopesi faktikontrollijate ega toimetajate tööd.






Otsingumootorid on üks ühiskonna peamisi väravaid teabele ja inimestele, kuid need on ka valeinfo kanalid. Sarnane probleemsed sotsiaalmeedia algoritmid , õpivad otsingumootorid teile teenima seda, millele olete ise ja teised varem klõpsanud. Kuna inimesi köidab sensatsioon, võib see algoritmide ja inimese olemuse vaheline tants soodustada väärinformatsiooni levikut.

Otsingumootoriettevõtted, nagu enamik veebiteenuseid, teenivad raha lisaks reklaamide müümisele ka kasutajate jälgimise ja nende andmete müümise kaudu pakkumine reaalajas selle kallal. Inimesi juhatab valeinfo juurde sageli soov sensatsiooniliste ja meelelahutuslike uudiste järele, samuti teave, mis on vastuoluline või kinnitab nende vaateid. Ühes uuringus leiti, et populaarsemad YouTube'i videod diabeedi kohta on vähem tõenäoline, et neil oleks meditsiiniliselt kehtivat teavet kui näiteks vähem populaarsed videod sellel teemal.



Reklaamipõhised otsingumootorid, nagu sotsiaalmeedia platvormid, on loodud meelitama ahvatlevatel linkidel klõpsamise eest, kuna see aitab otsinguettevõtetel oma ärimõõdikuid suurendada. Teadlasena, kes uurib otsingu- ja soovitussüsteeme , Mina ja mu kolleegid näitame, et see ohtlik kombinatsioon ettevõtte kasumimotiivist ja individuaalsest vastuvõtlikkusest muudab probleemi raskesti lahendatavaks .

Kuidas otsingutulemused valesti lähevad?

Kui klõpsate otsingutulemil, saab otsingu algoritm teada, et klõpsatud link on teie otsingupäringu jaoks asjakohane. Seda nimetatakse asjakohasuse tagasiside . See tagasiside aitab otsingumootoril tulevikus sellele päringule selle lingi jaoks suuremat kaalu omistada. Kui piisavalt palju klõpsab sellel lingil piisavalt palju inimesi, andes seeläbi tugevat tagasisidet asjakohasuse kohta, hakkab see veebisait selle ja sellega seotud päringute otsingutulemites kõrgemale tõusma.

Inimesed on suurema tõenäosusega klõpsatakse kõrgemal kuvatud linkidel otsingutulemite loendis. See loob positiivse tagasiside silmuse - mida kõrgemale veebisait kuvatakse, seda rohkem klikke ja see omakorda paneb selle veebisaidi kõrgemale liikuma või seda kõrgemale hoidma. Otsingumootorite optimeerimise tehnikad kasutavad neid teadmisi veebisaitide nähtavuse suurendamiseks.

Sellel väärinfo probleemil on kaks aspekti: kuidas hinnatakse otsingu algoritmi ja kuidas inimesed reageerivad pealkirjadele, pealkirjadele ja juppidele. Otsimootorite, nagu enamiku veebiteenuste hindamisel kasutatakse mitut mõõdikut, millest üks on kasutajate seotus. Otsingumootoriettevõtete huvides on pakkuda teile asju, mida soovite lugeda, vaadata või lihtsalt klõpsata. Seega, kui otsingumootor või mis tahes soovitussüsteem loob esitatavate üksuste loendi, arvutab see tõenäosuse, et klõpsate üksustel.

Traditsiooniliselt oli see mõeldud selleks, et tuua välja teave, mis oleks kõige asjakohasem. Asjakohasuse mõiste on aga muutunud uduseks, kuna inimesed on otsimiseks otsinguid teinud meelelahutuslikud otsingutulemid ja tõeliselt asjakohane teave .

Kujutage ette, et otsite klaverihäälestajat. Kui keegi näitab teile videot kassist, kes mängib klaverit, kas klõpsaksite seda? Paljud seda teeksid, isegi kui sel pole klaverihäälestamisega mingit pistmist. Otsinguteenus tunneb end valideerituna positiivse asjakohasuse tagasisidega ja saab teada, et klaverihäälestajate otsimisel on OK näidata kassi klaverit mängimas.

Tegelikult on see isegi parem kui asjakohaste tulemuste näitamine paljudel juhtudel. Inimestele meeldib naljakaid kassivideoid vaadata ja otsingusüsteem saab rohkem klikke ja kasutajate seotust.

See võib tunduda kahjutu. Mis siis saab, kui inimesed aeg-ajalt häirivad tähelepanu ja klõpsavad tulemustel, mis pole otsingupäringu jaoks asjakohased? Probleem on selles, et inimesi tõmbavad põnevad pildid ja sensatsioonilised pealkirjad. Nemad kipuvad klõpsama vandenõuteooriaid ja sensatsioonilisi uudiseid , mitte ainult kasse, kes mängivad klaverit, ja tehke seda rohkem kui tõelistele uudistele klõpsamine või asjakohast teavet.

Kuulsad, kuid võltsitud ämblikud

2018. aastal otsiti fraasi „uus surmav ämblik” Google'is terav pärast Facebooki postitust, mis väitis, et uus surmav ämblik tappis mitu inimest mitmes osariigis. Analüüsisime kolleegidega selle trendipäringu esimese nädala jooksul Google'i otsingu 'uus surmav ämblik' 100 parimat tulemust.

Otsingu tulemuste levitamine päringule

Google'i otsingutulemuste esimesed kaks lehte 2018. aasta augustis (uus surmav ämblik) (varjutatud ala) olid seotud algse võltsitud uudiste postitusega selle teema kohta, mitte ei avalikustanud ega muul moel faktiteavet.
Chirag Shah, CC BY-ND

Selgus see luguoli võlts, kuid seda otsinud inimesed puutusid suures osas kokku originaalse võltspostitusega seotud väärinformatsiooniga. Kui inimesed jätkasid selle väärinfo klõpsamist ja jagamist, jätkas Google nende lehtede esitamist otsingutulemite ülaosas.

See põnevate ja kontrollimata lugude muster tekib ja inimesed, kes neid klõpsavad, jätkub, inimesed ilmselt kas pole tõega mures või usuvad, et kui usaldusväärne teenus, näiteks Google'i otsing, näitab neid lugusid neile, peavad lood olema tõesed. Hiljuti a ümber lükatud aruanne väites, et Hiina lasi koroonaviirusel laborist lekkida, sai see nõiaringi tõttu otsingumootorites haarde.

Leidke valeandmeid

Et testida, kui hästi teevad inimesed vahet täpse teabe ja valeinfo vahel, lõime lihtsa mängu nimega “ Google või mitte . ” See võrgumäng näitab kahte sama päringu tulemuste komplekti. Eesmärk on lihtne - valige usaldusväärne, usaldusväärne või kõige asjakohasem komplekt.

Ekraanipilt, mis näitab kõrvuti kahte Google'i otsingutulemite komplekti

Testides ei suuda inimesed umbes pool ajast vahet teha valeteavet sisaldavate Google'i otsingutulemuste ja ainult usaldusväärsete tulemuste vahel.
Chirag Shah, CC BY-ND

Ühel neist kahest komplektist on üks või kaks tulemust, mis on kas kinnitatud ja märgistatud valeinformatsioonina või tühistatud looga. Tegime mängu avalikult kättesaadavaks ja reklaamisime läbi erinevate sotsiaalmeedia kanalite. Üldiselt kogusime 2100 vastust üle 30 riigist.

Tulemusi analüüsides leidsime selle umbes pool ajast valisid inimesed ekslikult komplekti usaldusväärseks ühe või kahe valeinformatsiooni tulemusega . Meie katsed sadade teiste kasutajatega paljude iteratsioonide jooksul on andnud sarnaseid tulemusi. Teisisõnu, umbes pool ajast valivad inimesed vandenõuteooriaid ja võltsuudiseid sisaldavaid tulemusi. Kui rohkem inimesi valib neid ebatäpseid ja eksitavaid tulemusi, saavad otsingumootorid teada, et inimesed tahavad seda.

Kui jätta kõrvale suured tehnilised ja iseregulatsiooni küsimused, on oluline, et inimesed mõistaksid, kuidas need süsteemid toimivad ja kuidas nad raha teenivad. Vastasel juhul hoiab turumajandus ja inimeste loomulik kalduvus pilkupüüdvate linkide poole meelitada nõiaringi edasi.

Vestlus


Chirag Shah , Infoteaduse dotsent, Washingtoni ülikool

See artikkel avaldatakse uuesti alates Vestlus Creative Commonsi litsentsi alusel. Loe originaalartikkel .