211service.com
AI, rašantis įtikinamą prozą, rizikuoja masiškai gaminti netikras naujienas
Ponia Tech
Štai keletas netikrų naujienų…
Rusija paskelbė karą Jungtinėms Valstijoms po to, kai Donaldas Trumpas netyčia į orą paleido raketą.
Rusija pranešė nustačiusi raketos trajektoriją ir imsis būtinų priemonių Rusijos gyventojų ir šalies strateginių branduolinių pajėgų saugumui užtikrinti. Baltieji rūmai pareiškė esantys labai susirūpinę dėl to, kad Rusija pažeidė vidutinio nuotolio balistines raketas uždraudusią sutartį.
JAV ir Rusijos santykiai buvo neramūs nuo 2014 m., kai Maskva aneksavo Ukrainos Krymo regioną ir rėmė separatistus Rytų Ukrainoje.
Tiesą sakant, ši istorija yra ne tik netikra, bet ir nerimą keliantis pavyzdys, kaip dirbtinis intelektas sugeba mus apgauti.
Taip yra todėl, kad tai parašė ne asmuo; jį automatiškai sugeneravo algoritmas, įvestas žodžiais, Rusija paskelbė karą Jungtinėms Valstijoms po to, kai Donaldas Trumpas atsitiktinai paskelbė...
Programa pati sukūrė likusią istorijos dalį. Ir tai gali sudaryti tikroviškai atrodančius naujienų reportažus bet kokia jūsų pateikta tema. Programą sukūrė San Franciske įsikūrusio tyrimų instituto OpenAI komanda.
Tyrėjai nusprendė sukurti bendrosios paskirties kalbos algoritmą, apmokytą naudojant didžiulį teksto kiekį iš žiniatinklio, kuris galėtų išversti tekstą, atsakyti į klausimus ir atlikti kitas naudingas užduotis. Tačiau netrukus jie susirūpino dėl galimo piktnaudžiavimo. Pradėjome jį testuoti ir greitai atradome, kad galima gana lengvai generuoti kenkėjišką turinį, sako Jackas Clarkas, OpenAI politikos direktorius.
Clarkas sako, kad programa užsimena, kaip dirbtinis intelektas gali būti naudojamas automatizuoti įtikinamų netikrų naujienų, socialinės žiniasklaidos įrašų ar kito teksto turinio generavimą. Toks įrankis gali išsklaidyti klimatą paneigiančių naujienų reportažus ar skandalingus demaskavimus per rinkimus. Netikros naujienos jau yra problema, bet jei jos būtų automatizuotos, jas būtų sunkiau sureguliuoti. Galbūt jį būtų galima optimizuoti tam tikroms demografinėms grupėms ar net asmenims.
Clarkas sako, kad gali praeiti neilgai trukus, kol dirbtinis intelektas galės patikimai sukurti netikras istorijas, netikrus tviterius ar dviprasmiškus komentarus, kurie bus dar įtikinamesni. Labai aišku, kad jei ši technologija subręs – skirčiau jai vienerius ar dvejus metus – ji gali būti panaudota dezinformacijai ar propagandai, sako jis. Mes stengiamės tai aplenkti.
Tokia technologija gali būti naudinga, įskaitant teksto apibendrinimą arba pokalbių robotų pokalbio įgūdžių tobulinimą. Clarkas sako, kad jis netgi panaudojo šį įrankį trumpų mokslinės fantastikos istorijų ištraukoms generuoti su stebėtinai sėkmingai.
OpenAI atlieka fundamentinius AI tyrimus, bet taip pat atlieka aktyvų vaidmenį išryškindama galimą dirbtinio intelekto riziką. Organizacija dalyvavo rengiant 2018 m. ataskaitą apie DI riziką, įskaitant dezinformacijos galimybes (žr. Tai yra „juodojo veidrodžio“ scenarijai, dėl kurių kai kurie ekspertai ragina saugoti AI).
OpenAI algoritmas ne visada įtikina įžvalgų skaitytoją. Daugeliu atvejų, kai pateikiamas raginimas, jis pateikia paviršutiniškai nuoseklų šlamštą arba tekstą, kuris, atrodo, buvo paimtas iš internetinių naujienų šaltinių.
Tačiau dažnai jis puikiai sugeba sukurti tikrovišką tekstą ir atspindi naujausią pažangą taikant mašininį mokymąsi kalbai.
„OpenAI“ suteikė teksto generavimo įrankį, skirtą „MIT Technology Review“, kad galėtų išbandyti, tačiau dėl susirūpinimo, kaip ši technologija gali būti piktnaudžiaujama, viešai paskelbs tik supaprastintą versiją. Institutas skelbia mokslinį darbą, kuriame aprašomas darbas.
Dirbtinio intelekto pažanga palaipsniui padeda mašinoms geriau suprasti kalbą. Pastaruoju metu buvo padaryta pažanga, nes bendrosios paskirties mašininio mokymosi algoritmai pateikia labai daug teksto. OpenAI programa perkelia tai į naują lygį: sistema buvo tiekiama 45 milijonais puslapių iš interneto, pasirinktų per svetainę Reddit. Ir, priešingai nei dauguma kalbų algoritmų, OpenAI programai nereikia pažymėto ar kuruojamo teksto. Jis tiesiog išmoksta atpažinti pateikiamų duomenų modelius.
Ričardas Socheris , natūralios kalbos apdorojimo ekspertas ir „Salesforce“ vyriausiasis mokslininkas, teigia, kad OpenAI darbas yra geras bendresnės paskirties kalbų mokymosi sistemos pavyzdys. Manau, šios bendros mokymosi sistemos yra ateitis, – rašė jis el.
Kita vertus, Socheriui mažiau rūpi apgaulės ir dezinformacijos galimybė. Jis sako, kad jums nereikia dirbtinio intelekto, kad sukurtumėte netikras naujienas. Žmonės tai gali lengvai padaryti :)