Net geriausias dirbtinis intelektas, skirtas aptikti netikras naujienas, vis dar yra baisus

Supainioto roboto, laikančio laikraštį, iliustracija Ponia Tech

Kai „Facebook“ generalinis direktorius Markas Zuckerbergas pažadėjo Kongresui, kad dirbtinis intelektas padės išspręsti netikrų naujienų problemą, jis mažai ką atskleidė. kaip . Nauji tyrimai priartina mus prie to išsiaiškinti.

Išsamiame tyrime, kuris bus pristatytas konferencijoje vėliau šį mėnesį, mokslininkai iš MIT, Kataro skaičiavimo tyrimų instituto (QCRI) ir Sofijos universiteto Bulgarijoje išbandė daugiau nei 900 galimų kintamųjų, leidžiančių prognozuoti žiniasklaidos patikimumą – tikriausiai didžiausią kada nors pasiūlytą rinkinį. .

Tada mokslininkai parengė mašininio mokymosi modelį, skirtą įvairiems kintamųjų deriniams, kad pamatytų, kurie rezultatai duos tiksliausius rezultatus. Geriausias modelis tik 65 % atvejų tiksliai žymėjo naujienų kanalus su mažais, vidutiniais ar aukštais faktais.

Tai toli gražu nėra didžiulė sėkmė. Tačiau eksperimentai atskleidžia svarbius dalykus apie tai, ko reikėtų, kad mūsų faktų tikrinimas būtų perduotas mašinai. Preslavas Nakovas, QCRI vyresnysis mokslininkas ir vienas iš tyrimo tyrėjų, teigia, kad jis yra optimistiškai nusiteikęs, kad netikrų naujienų šaltiniai gali būti automatiškai aptikti tokiu būdu.

Bet tai nereiškia, kad tai bus lengva.

Metodas iki beprotybės

Nuo 2016 m. JAV prezidento rinkimų kampanijos išpopuliarėjus netikrų naujienų aptikimo tyrimams, išryškėjo keturi pagrindiniai metodai: atskirų tvirtinimų faktų patikrinimas, netikrų straipsnių aptikimas, trolių medžioklė ir naujienų šaltinių patikimumo matavimas. Nakovas ir likusi komandos dalis nusprendė sutelkti dėmesį į ketvirtą, nes ji yra arčiausiai dezinformacijos kilmės. Jis taip pat buvo mažiausiai ištirtas.

Ankstesni tyrimai bandė apibūdinti naujienų šaltinio patikimumą pagal tai, kiek jo teiginių atitiko ar prieštarauja teiginiams, kurie jau buvo patikrinti faktais. Kitaip tariant, mašina palygintų naujienų kanalo pateiktų faktinių teiginių istoriją su tokių svetainių kaip „Snopes“ ar „PolitiFact“ išvadomis. Tačiau mechanizmas remiasi žmogaus faktų tikrinimu ir įvertina išleidimo angos istoriją, o ne tiesioginę dabartį. Kol naujausi teiginiai buvo rankiniu būdu patikrinti faktais, jau per vėlu, sako Nakovas.

Kad aptiktų netikrų naujienų šaltinį beveik realiuoju laiku, Nakovas ir jo bendradarbiai apmokė savo sistemą naudodami kintamuosius, kuriuos buvo galima pateikti lentelėse nepriklausomai nuo faktų tikrintojų. Tai apėmė turinio analizę, pvz., antraščių sakinių struktūrą ir žodžių įvairovę straipsniuose; bendri svetainės rodikliai, pvz., URL struktūra ir svetainės srautas; ir prekybos vietos įtakos matai, pvz., įtraukimas į socialinę žiniasklaidą ir Vikipedijos puslapis, jei toks yra.

Norėdami pasirinkti kintamuosius, mokslininkai rėmėsi ir ankstesniais tyrimais (ankstesni tyrimai parodė, kad, pavyzdžiui, netikrų naujienų straipsniuose dažnai pasirenkami pasikartojantys žodžiai), ir naujomis hipotezėmis.

Išbandę skirtingus kintamųjų derinius, mokslininkai sugebėjo nustatyti geriausius naujienų šaltinio patikimumo prognozes. Ar, pavyzdžiui, prekybos vieta turėjo Vikipedijos puslapį, turėjo per didelę nuspėjamąją galią; išparduotuvės srautas, priešingai, neturėjo. Pratimas padėjo tyrėjams nustatyti papildomus kintamuosius, kuriuos jie galėtų ištirti ateityje.

Duomenų badas

Tačiau yra dar viena kliūtis: mokymosi duomenų trūkumas – tai, ką Nakovas vadina pagrindine tiesa.

Daugeliui mašininio mokymosi užduočių yra pakankamai paprasta anotuoti mokymo duomenis. Jei norite sukurti sistemą, kuri aptiktų straipsnius apie sportą, galite lengvai pažymėti straipsnius kaip susijusius arba nesusijusius su ta tema. Tada įvedate duomenų rinkinį į įrenginį, kad jis galėtų sužinoti apie sporto straipsnio ypatybes.

Tačiau žiniasklaidos priemonių žymėjimas dideliu ar mažu faktu yra daug jautresnis. Tai turi daryti profesionalūs žurnalistai, besivadovaujantys griežtomis metodikomis, ir tai yra daug laiko reikalaujantis procesas. Dėl to sudėtinga sukurti tvirtą mokymo duomenų korpusą, iš dalies todėl tyrimo modelio tikslumas yra toks mažas. Akivaizdžiausias būdas padidinti tikslumą yra gauti daugiau treniruočių duomenų, sako Nakovas

Šiuo metu „Media Bias Fact Check“, organizacija, pasirinkta pateikti pagrindinę tiesą tyrimui, įvertino 2500 žiniasklaidos šaltinių – mašininio mokymosi terminų trūkumas. Tačiau Nakovas sako, kad organizacijos duomenų bazė sparčiai auga. Be to, kad gautų daugiau mokymo duomenų, mokslininkai taip pat siekia pagerinti savo modelio našumą naudodami daugiau kintamųjų, kai kurie iš jų apibūdina svetainės struktūrą, ar joje yra kontaktinės informacijos, ir turinio paskelbimo bei ištrynimo būdus.

Jie taip pat tik pradeda kurti naujienų kaupimo platformą, kuri suteikia skaitytojams svarbių užuominų apie kiekvienos istorijos ir bendrinamo šaltinio patikimumą.

Nepaisant to, kad liko nuveikti, Nakovas mano, kad tokia technologija gali padėti gana greitai išspręsti netikrų naujienų epidemiją, jei tokios platformos kaip „Facebook“ ir „Twitter“ nuoširdžiai stengsis. Tai tarsi kova su nepageidaujamu elektroniniu paštu, rašė jis „Skype“ žinutėje. Mes niekada visiškai nesustabdysime netikrų naujienų, bet galime jas suvaldyti.

paslėpti