Naujas įrankis naudoja AI, kad nustatytų AI parašytą tekstą

Kategorija: Dirbtinis intelektas Paskelbta liepos 26 d

Dirbtinio intelekto algoritmai gali sukurti pakankamai įtikinamą tekstą, kad apgautų eilinį žmogų – potencialiai sudarytų būdą masiškai skelbti netikras naujienas, netikras apžvalgas ir netikras socialines paskyras. Laimei, dirbtinis intelektas dabar taip pat gali būti naudojamas netikram tekstui atpažinti.

Naujienos: Tyrėjai iš Harvardo universitetas ir MIT-IBM Watson AI laboratorija turėti sukūrė naują įrankį Norėdami pastebėti tekstą, kuris buvo sukurtas naudojant AI. Jis vadinamas milžinišku kalbos modelio testavimo kambariu (GLTR), kuriame išnaudojamas faktas, kad AI teksto generatoriai remiasi statistiniais teksto modeliais, o ne tikrąja žodžių ir sakinių reikšme. Kitaip tariant, įrankis gali nustatyti, ar jūsų skaitomi žodžiai atrodo per daug nuspėjami, kad būtų parašyti žmogaus ranka.

Kontekstas: Dezinformacija vis labiau automatizuojama, o technologijos, reikalingos netikram tekstui ir vaizdams generuoti, sparčiai tobulėja. AI varomi įrankiai, tokie kaip šis, gali tapti vertingais ginklais kovojant su netikrų naujienų, gilių klastotėmis ir Twitter robotais.

Apsimetinėja: OpenAI mokslininkai neseniai pademonstravo algoritmą galintis susapnuoti stebėtinai tikroviškus ištraukas . Jie įtraukė didžiulius kiekius teksto į didelį mašininio mokymosi modelį, kuris išmoko atpažinti statistinius tų žodžių modelius. Harvardo komanda sukūrė savo įrankį naudodama OpenAI kodo versiją, kuri buvo išleista viešai.

Kiek nuspėjama: GLTR išryškina žodžius, kurie, statistiškai tikėtina, bus tekste po ankstesnio žodžio. Kaip parodyta aukščiau esančioje ištraukoje (nuo Begalinis yra) , labiausiai nuspėjami žodžiai yra žali; mažiau nuspėjamos yra geltonos ir raudonos spalvos; ir mažiausiai nuspėjamos yra violetinės spalvos. Išbandžius teksto fragmentus, parašytus pagal OpenAI algoritmą, jis randa daug nuspėjamumo. Tikruose naujienų straipsniuose ir mokslinėse santraukose yra daugiau netikėtumų.

Protas ir mašina: GLTR tyrėjai taip pat atliko kitą eksperimentą. Jie paprašė Harvardo studentų atpažinti dirbtinio intelekto sukurtą tekstą – iš pradžių be įrankio, o paskui jį paryškinant. Mokiniai patys sugebėjo aptikti tik pusę visų padirbinių, tačiau gavę įrankį – 72 proc. Mūsų tikslas – sukurti žmogaus ir dirbtinio intelekto bendradarbiavimo sistemas, – sako darbe dalyvaujantis doktorantas Sebastianas Gehrmannas.

Jei jus domina, galite išbandykite patys .