Ar AI gali laimėti karą prieš netikras naujienas?

Selmano dizainas

Galbūt tai buvo pirmoji netikrų naujienų dalis interneto istorijoje: 1984 m. kažkas „Usenet“ paskelbė, kad Sovietų Sąjunga prisijungia prie tinklo. Tai buvo nekenksmingas Balandžio pirmosios pokštas , toli nuo šiandieninių ginkluotų dezinformacijos kampanijų ir nesąžiningų prasimanymų, skirtų greitam pelnui gauti. 2017 m. klaidinantis ir piktybiškai melagingas internetinis turinys yra toks gausus, kad mes, žmonės, neturime daug vilčių išsikapstyti iš liūno. Vietoj to, atrodo, vis labiau tikėtina, kad mašinos turės mus išgelbėti.

Vienas algoritmas, skirtas tamsoje apšviesti šviesą, yra AdVerif.ai , kurią valdo to paties pavadinimo paleisties programa. Dirbtinai intelektuali programinė įranga sukurta aptikti netikras istorijas, nuogybes, kenkėjiškas programas ir daugybę kitų probleminio turinio tipų. AdVerif.ai, kuri lapkritį pristatė beta versiją, šiuo metu dirba su turinio platformomis ir reklamos tinklais Jungtinėse Valstijose ir Europoje, kurie nenori būti siejami su melagingomis ar galimai įžeidžiančiomis istorijomis.

Pasak „AdVerif.ai“ įkūrėjo Or Levi, bendrovė pamatė galimybę sutelkti dėmesį į įmonėms skirtą produktą, o ne į paprastą vartotoją. Nors pavieniai vartotojai gali nesijaudinti dėl kiekvienos spustelėjusios istorijos tikrumo, reklamuotojai ir turinio platformos turi ką prarasti priglobdami arba reklamuodami blogą turinį. Ir jei jie pakeis savo paslaugas, jie gali veiksmingai sumažinti pajamų srautus žmonėms, kurie uždirba pinigų kurdami netikras naujienas. Levi sako, kad tai būtų didelis žingsnis kovojant su tokio tipo turiniu.

AdVerif.ai nuskaito turinį, kad nustatytų signalus, kad kažkas negerai, pvz., antraštes, kurios neatitinka pagrindinio teksto, arba per daug didžiųjų raidžių antraštėje. Ji taip pat kryžmiškai patikrina kiekvieną istoriją su savo duomenų baze, kurioje yra tūkstančiai teisėtų ir netikrų istorijų, kuri atnaujinama kas savaitę. Klientai mato kiekvieno sistemos apsvarstyto kūrinio ataskaitą su balais, įvertinančiais tikimybę, kad kažkas yra netikros naujienos, yra kenkėjiškų programų ar ko nors kito, ko jie paprašė sistemos atkreipti dėmesį, pvz., nuogybių. Galiausiai Levi sako planuojantis pridėti galimybę aptikti manipuliuojamus vaizdus ir turėti naršyklės papildinį.

Išbandydamas demonstracinę AdVerif.ai versiją, AI atpažino Svogūnai kaip satyra (kuri turi suklaidino daugybę žmonių praeityje). Breitbart istorijos buvo klasifikuojamos kaip nepatikimos, teisingos, politinės, šališkos Kosmopolitas buvo laikomas paliktas. Tai gali pasakyti, kada „Twitter“ paskyroje buvo naudojamas logotipas, tačiau nuorodos nebuvo susietos su prekės ženklu, kurį ji vaizduoja. AdVerif.ai ne tik nustatė, kad „Natural News“ istorija su antrašte „Įrodymai“ rodo, kad Bitcoin yra NSA sukurtas psichiatras, skirtas išleisti vieno pasaulio skaitmeninę valiutą, buvo iš juodojo sąrašo įtrauktos svetainės, bet ir nustatė, kad tai netikra naujienų istorija, pasirodžiusi kitose juodajame sąraše esančiose svetainėse be jokių nuorodų į teisėtas naujienų organizacijas.

Kai kurios abejotinos istorijos vis dar sklinda. Svetainėje, pavadintoje „Action News 3“, buvo paskelbtas įrašas, pavadintas NFL žaidėjas, nufotografuotas degantis Amerikos vėliavą rūbinėje! nebuvo sugautas, nors buvo pasirodė esąs prasimanymas . Kad sistema išmoktų mokytis, jos juodasis netikrų istorijų sąrašas gali būti atnaujinamas rankiniu būdu, kiekvieną istoriją po kito.

AdVerif.ai nėra vienintelis startuolis, kuris mato galimybę teikti AI varomą tiesos serumą internetinėms įmonėms. Kibernetinio saugumo įmonės ypač greitai įtraukė į savo repertuarą robotų ir netikrų naujienų paieškos operacijas, nurodydami, kaip daugelis metodų atrodo panašūs į įsilaužimą. Facebook yra koreguoja jo algoritmus siekdama sumažinti netikras naujienas savo naujienų kanaluose, ir „Google“ bendradarbiavo su faktų tikrinimo svetainė — iki šiol su netolygūs rezultatai . „Fake News Challenge“ – AI bendruomenės savanorių organizuojamas konkursas, pradėtas praėjusių metų pabaigoje, siekiant paskatinti kurti įrankius, kurie galėtų padėti kovoti su nesąžiningu pranešimu.

Susijusi istorija

Susijusi istorija Dėl mašininio mokymosi tampa lengva sukurti tikrovišką vaizdo įrašą ir apsimesti kuo nors.

Delipas Rao, vienas iš jos organizatorių ir „Joostware“, įmonės, kuriančios mašininio mokymosi sistemas, įkūrėjas, teigė, kad netikrų naujienų aptikimas turi tiek daug aspektų, kad iššūkis iš tikrųjų bus atliktas keliais etapais. Pirmasis žingsnis yra pozicijos aptikimas arba vienos istorijos paėmimas ir supratimas, ką kitos naujienų svetainės turi pasakyti šia tema. Tai leistų žmogiškųjų faktų tikrintojams pasikliauti istorijomis, kad patvirtintų kitas istorijas, ir praleisti mažiau laiko atskiroms detalėms tikrinti.

„Fake News Challenge“ paskelbė duomenų rinkinius, skirtus komandoms naudoti, o 50 komandų pateikė įrašus. „Talos Intelligence“, „Cisco“ kibernetinio saugumo padalinys, laimėjo iššūkį su algoritmu, kuris buvo teisingas daugiau nei 80 procentų – ne visai paruoštas geriausiu laiku, bet vis tiek teikia vilčių. Kitas iššūkis gali apimti vaizdus su persidengiančiu tekstu (galvokite apie memus, bet su netikromis naujienomis), formatu, kuris dažnai reklamuojamas socialinėje žiniasklaidoje, nes jo formatą algoritmams sunkiau suskaidyti ir suprasti.

Iš esmės norime sukurti geriausius faktų tikrinimo įrankius, kad jie veiktų labai greitai, sakė Rao. Kaip faktų tikrinimas dėl steroidų.

Net jei bus sukurta sistema, kuri veiksmingai atmuštų netikro turinio bangą, mažai tikėtina, kad tai būtų istorijos pabaiga. Dirbtinio intelekto sistemos jau gali sukurti netikrą tekstą, taip pat neįtikėtinai įtikinamus vaizdus ir vaizdo įrašus. (žr. Tikras ar netikras? AI daro tai labai sunku žinoti ). Galbūt dėl ​​to, neseniai Gartnerio studija prognozuojama, kad iki 2022 m. dauguma išsivysčiusių ekonomikų žmonių matys daugiau klaidingos nei tikros informacijos. Toje pačioje ataskaitoje nustatyta, kad net prieš tai įvyksta suklastotas turinys, viršijantis AI gebėjimą jį aptikti, todėl pasikeis mūsų pasitikėjimas skaitmenine informacija.

Tai, ką atstovauja AdVerif.ai ir kiti, atrodo mažiau kaip galutinis žodis kare su netikru turiniu, o ne į ginklavimosi varžybų pradžią, kai netikro turinio kūrėjai gauna savo dirbtinį intelektą, kuris gali aplenkti gerus AI (žr. Sugrąžinkite mums 100 metų, kai kalbame apie tai, kaip vartojame naujienas). Mums, kaip visuomenei, gali tekti iš naujo įvertinti, kaip gauname informaciją.

paslėpti