211service.com
Melo detektoriai visada buvo įtariami. AI pablogino problemą.
Nikolajus Ortega
Prieš tai, kai poligrafas jį pripažino kaltu, Emmanuelis Mervilusas dirbo kepimo aliejaus įmonėje Niuarko uoste, Naujajame Džersyje. Jis uždirbdavo 12 USD per valandą perkraustydamas dėžes, bet to nepakako. Jo brolis ir sesuo buvo per jauni dirbti, o mama kovojo brangiai su vėžiu. Tačiau jo bosas uoste jam pasakė, kad jis yra kitas eilėje į techniko pareigas, kurios bus padidintos iki 25 USD per valandą.
Mervilus vis dar laukė šios akcijos 2006 m. spalio 19 d., kai su draugu sustojo prie Dunkin’ Donuts netoliese esančioje Elizabete, Naujajame Džersyje. Po kelių minučių, jiems einant gatve, prie jų priėjo du policijos pareigūnai ir apkaltino juos, kad prieš kelias minutes peiliu apiplėšė vyrą netoli netoliese esančios geležinkelio stoties.
Nukentėjusysis Mervilą ir jo draugą atpažino iš tolo. Labai norėdamas įrodyti savo nekaltumą, Mervilus pasiūlė pasitikrinti poligrafu. Policija sutiko, tačiau likus kelioms dienoms iki tyrimo Mervilo mama mirė. Jis buvo sutrikęs ir sunerimęs, kai policija jį pririšo prie prietaiso. Jis neišlaikė testo, paprašė jį atlikti dar kartą ir buvo atsisakyta.
Mervilui patvirtinus savo nekaltumo pareiškimą, jo byla buvo iškelta į teismą. Poligrafą suvedęs leitenantas teisme tikino, kad prietaisas – patikimas tiesos indikatorius. Jis sakė, kad niekada per savo karjerą nebuvo matęs atvejo, kai kas nors rodytų apgaulės požymius, ir [vėliau] paaiškėjo, kad jie buvo teisūs. Prisiekusieji pripažino Mervilą kaltu – susvyravo, vėliau nustatė apeliacinis teismas, dėl klaidingo pasitikėjimo poligrafu. Teisėjas jam skyrė 11 metų nelaisvės.
Tikėjimas, kad apgaulę galima aptikti analizuojant žmogaus kūną, įsitvirtino šiuolaikiniame gyvenime. Nepaisant daugybės tyrimų, kuriuose abejojama dėl poligrafo pagrįstumo, kasmet su šiuo prietaisu atliekama daugiau nei 2,5 milijono patikrų, o poligrafo testai yra 2 milijardų dolerių vertės pramonė. JAV federalinės vyriausybės agentūros, įskaitant Teisingumo departamentą, Gynybos departamentą ir CŽV, naudoja įrenginį tikrindamos potencialius darbuotojus. Remiantis 2007 m. Teisingumo departamento duomenimis, daugiau nei trys ketvirtadaliai visų miestų policijos ir šerifų departamentų taip pat naudojo melo detektorius, kad patikrintų samdomus asmenis.
Tačiau poligrafo aparatai vis dar per lėti ir sudėtingi naudoti sienos kirtimo punktuose, oro uostuose ar didelėse žmonių grupėse. Todėl per pastarąjį dešimtmetį atsirado naujos kartos melo detektoriai, pagrįsti dirbtiniu intelektu. Jų šalininkai tvirtina, kad jie yra greitesni ir tikslesni nei poligrafai.
Tiesą sakant, psichologinis darbas, kuriuo grindžiamos šios naujos AI sistemos, yra dar silpnesnis nei tyrimas, kuriuo grindžiamas poligrafas. Yra nedaug įrodymų, kad jų duodamais rezultatais galima pasitikėti. Nepaisant to, dirbtinio intelekto suteikiamas modernumas priverčia šias sistemas įvesti į nustatymus, kurių poligrafas negalėjo prasiskverbti: sienos kirtimo, privačių darbo pokalbių, paskolų patikros ir ieškinių dėl draudimo sukčiavimo. Korporacijos ir vyriausybės pradeda jais pasikliauti priimdamos sprendimus dėl klientų, darbuotojų, piliečių, imigrantų ir tarptautinių lankytojų patikimumo. Bet ką daryti, jei melas yra per sudėtingas, kad bet kuri mašina galėtų patikimai identifikuoti, kad ir koks pažangus būtų jos algoritmas?
Senovės Kinijoje inkvizitoriai prašė įtariamų melagių įsidėti ryžių į burną, kad pamatytų, ar jiems sekiojasi. The Romėnų žygdarbiai Viduramžių moralinių pasakėčių antologija pasakoja apie kareivį, kurio tarnautojas matavo žmonos pulsą, kad išsiaiškintų, ar ji neištikima.
Anglų kalbos vertimas Romėnų žygdarbiai arba Romėnų darbai – istorijų rinkinys, iš pradžių išleistas lotynų kalba XIII amžiaus pabaigoje arba XIV amžiaus pradžioje. Wikimedia Commons
Jungtinėms Valstijoms įžengus į Pirmąjį pasaulinį karą, Harvardo mokslininkas Williamas Marstonas pradėjo naudoti kraujospūdį matuojančius aparatus, siekdamas išsiaiškinti apgaulę. Po kelerių metų, įkvėptas Marstono darbo, policijos pareigūnas Johnas Augustusas Larsonas, ką tik baigęs fiziologijos mokslų daktaro laipsnį Kalifornijos universitete Berklyje, sukūrė aparatą, kurį pavadino kardio-pneumo psichograma, kuri nuolat rodė tiriamojo kraujospūdis, pulsas ir kvėpavimo dažnis. Larsonas teigė, kad šie rodmenys buvo dar geresnis apgaulės rodiklis nei vien kraujospūdis.
Larsonas pirmą kartą panaudojo mašiną, kad ištirtų vagystę moterų bendrabutyje Berklyje, o per metus jis buvo panaudotas nuteistam vyrą San Franciske, kuris buvo apkaltintas kunigo nužudymu. Iki 1930-ųjų vienas iš Larsono globotinių pardavinėjo nešiojamą versiją policijos skyriams visoje šalyje, pridėdamas jutiklį, kuris matavo galvaninės odos reakcijos pokyčius – kuo daugiau tiriamasis prakaituoja, tuo oda bus laidesnė. Aštuntajame dešimtmetyje milijonai privataus sektoriaus darbuotojų reguliariai tikrindavosi poligrafu savo darbdavių nurodymu.
Dauguma poligrafo testų šiandien turi tą pačią pagrindinę struktūrą kaip ir Larsono: egzaminuotojas užduoda daugybę klausimų, kad išmatuotų normalią tiriamojo fiziologinę būseną, stebėdamas, kol aparatas šiuos matavimus perrašo kaip bangos formos linijas puslapyje arba ekrane. Tada egzaminuotojas ieško staigių šių lygių šuolių ar kritimų, kai tiriamasis atsako į klausimus apie įtariamus nusikaltimus ar jausmus.
Tačiau psichologai ir neurologai kritikavo poligrafą beveik nuo to momento, kai Larsonas pristatė savo išradimą visuomenei. Nors kai kuriems melagiams gali pakisti širdies ritmas ar kraujospūdis, yra mažai įrodymų, kad tokie pokyčiai nuolat koreliuoja su apgaule. Daugelis nekaltų žmonių tampa nervingi klausinėjant, o praktikuoti melagiai gali nuslopinti arba sukelti pokyčius jų kūne, kad suklaidintų testą. Poligrafai taip pat gali būti sumuštam pateikė prikandęs liežuvį , užlipus ant koto, arba galvodamas apie savo didžiausią baimę . Prietaisai visada rizikuoja gauti klaidinančius kintamuosius net atliekant kontroliuojamus laboratorinius eksperimentus, o realiame gyvenime jie vis tiek yra mažiau patikimi: kadangi nusikaltėliai, įveikę testą, beveik niekada nepraneša policijai, kad yra kalti, o nekalti įtariamieji dažnai melagingai prisipažįsta, kai nepavyko testų, nėra būdo pasakyti, kaip gerai jie iš tikrųjų veikė.
Leonarde'as Keeleris, poligrafo išradėjo Johno Larsono globotinis, atliko testą Bruno Hauptmannui, kuris buvo suimtas, nuteistas ir įvykdytas mirties bausmė už Charleso Augusto Lindbergho jaunesniojo pagrobimą. Hauptmannas išlaikė savo nekaltumą iki pat mirties. Viešasis domenas
Dėl šių apribojimų daugumoje Amerikos teismų poligrafo testai ilgą laiką buvo nepriimtini, nebent abi šalys sutinka juos įtraukti. Nuo 1988 m. federaliniai įstatymai draudžia privatiems darbdaviams poligrafuoti savo darbuotojus (išskyrus tuos, kurie dirba jautrius darbus, pvz., ginkluoti sargybiniai ar vaistų platintojai, ir kai kuriuos darbuotojus, kurie įtariami vagyste ar sukčiavimu). Amerikos psichologų asociacija įspėja: Dauguma psichologų sutinka, kad yra mažai įrodymų, kad poligrafo testai gali tiksliai aptikti melą, o Nacionalinės mokslų akademijos 2003 m. ataskaitoje, kurioje atkartoja ankstesnius vyriausybės tyrimus, žinoma, kad prietaisas aptinka melagius daug greičiau nei tikimybę. , nors ir gerokai žemiau tobulumo; Pagrindinis ataskaitos autorius tuo metu sakė, kad nacionalinis saugumas yra pernelyg svarbus, kad jį būtų galima palikti tokiam bukam instrumentui.
Bet galbūt instrumentas neturi būti toks bukas. Tokį pažadą duoda vis daugiau įmonių, norinčių parduoti melo aptikimo technologijas tiek vyriausybėms, tiek komercinėms pramonės šakoms. Galbūt, anot jų, tam tikri sudėtingi elgesio tikų modeliai galėtų patikimiau signalizuoti apie melą nei tiesiog padidėjęs pulsas ar kraujospūdis. Ir galbūt sudėtingas algoritmas galėtų pastebėti tuos modelius.
Nuo 1969 iki 1981 metų serijinis žudikas, pravarde Jorkšyro skerdikas, plėšė jaunas moteris Anglijos šiaurėje, nužudydamas mažiausiai 13 ir pamėgindamas nužudyti dar mažiausiai septynias. Policija apklausė jį ir paleido devynis skirtingus kartus, kol tęsėsi jo žudynės. Paskutinė jo auka buvo Jacqueline Hill, 20-metė Lidso universiteto studentė, kuri buvo nužudyta 1980 m. lapkritį. Po kelių mėnesių policija pagaliau sučiupo jį, kai jis ruošėsi nužudyti prostitutę netoliese esančiame Šefilde.
Kai 1980 m. rudenį Janet Rothwell atvyko į Lidso universitetą, ji gyveno bendrabutyje, esančiame šalia Hill’s. Ją persekiojo Hillo nužudymas.
Ji sugavo autobusą iš universiteto bibliotekos maždaug tuo pačiu metu kaip ir aš, sakė Rothwellas, ir buvo nužudyta išlipusi iš autobuso. Vėliau Rothwellas sužinojo, kiek laiko užtruko sugauti žudiką. Ji prisiminė, kad pagalvojau, ar kompiuteris gali pažymėti tam tikrą elgesio nenuoseklumą, kad įspėtų policiją?
Dešimtojo dešimtmečio pabaigoje Rothwellas galiausiai baigė Mančesterio Metropoliteno universiteto (MMU) mokyklą. Ji susipažino su Zuhairu Bandaru, irakiečių ir britų dėstytoju, dirbančiu informatikos skyriuje. Bandaras neseniai patyrė eurekos akimirką, kai rinkodaros įmonė paprašė jo sukurti elementarų prietaisą, skirtą įvertinti vartotojų susidomėjimą produktais, kuriuos jie mato ekrane.
FTB nuotrauka, kurioje moteris daro poligrafą. Federalinis tyrimų biuras
Jie duos klientui delninį įrenginį, sakė Bandaras, ir, jei pritartų, paspaustų 1; jei nepatinka jie spaudžia 2. Pagalvojau, kam mums reikalingi delniniai prietaisai, jei jau yra veido išraiškos? Bandar paprašė Rothwell likti MMU baigus magistro studijas, siekti daktaro laipsnio ir padėti jam sukurti programinę įrangą, kuri galėtų analizuoti veidus ir išgauti informaciją. Jų nuomone, apgaulė buvo ne mažiau pastebima nei džiaugsmas ar pyktis. Visa tai sukurtų tam tikrą nesuderinamumą – elgesio modelius, tiek verbalinius, tiek neverbalinius, kuriuos kompiuteris galėtų pastebėti.
2000-ųjų pradžioje Rothwellas išmokė neuroninį tinklą stebėti veido judesius, tokius kaip mirksėjimas ir raudonis, o vėliau kompiuteriui padavė kelias dešimtis žmonių, sąžiningai ir nesąžiningai atsakančių į tuos pačius klausimus, klipų. Siekdamas nustatyti, kas bendro tarp melagių, kompiuteris ištyrė asmens veido judesius, santykius tarp tų judesių ir santykius tarp tų santykių, sugalvodamas teoriją, pernelyg sudėtingą, kad ją būtų galima suformuluoti įprasta kalba. Tokiu būdu išmokusi sistema galėtų panaudoti savo žinias klasifikuodama naujus dalykus kaip apgaulingus ar teisingus, analizuodama po kadro vykstančius jų išraiškų pokyčius.
2006 m. atliktame tyrime sistema, pavadinta „Silent Talker“, buvo skirta atspėti, ar tiriamasis meluoja, ar sako tiesą. Kol Rothwellas prie jo dirbo, jis niekada nepasiekė daugiau nei 80 % tikslumo – taip pat nepasiekė daug geresnių dalykų, kuriuos vėliau paskelbė tyrimų grupė. Rothwellas taip pat man pasakė, kad tai visiškai sugedo, jei dalyvis nešiojo akinius, ir ji atkreipė dėmesį: „Turite atsiminti, kad apšvietimo sąlygos buvo tokios pačios ir interviu buvo pagrįsti surežisuota vagyste. Tačiau net ankstyvoje stadijoje, primena Rothwellas, Bandaras norėjo turėti komercinį produktą; Kartą jis su kolega jai pristatė vaizdo įrašą, kuriame užfiksuota moteris, įtariama apgaudinėjusi savo vyrą, ir paprašė, kad „Silent Talker“ jį analizuotų, kaip ir filme. Romėnų žygdarbiai .
Rothwellas turėjo abejonių. Mačiau, kad programinė įranga, jei ji veiktų, gali būti įkyri, sakė ji. Nemanau, kad kokia nors sistema kada nors galėtų būti 100 %, o jei [sistema] suklys, rizika santykiams ir gyvybei gali būti katastrofiška. 2006 m. ji paliko universitetą; baigusi audiologės studijas, ji susirado darbą ligoninėje Džersio saloje, kur gyvena iki šiol.
2003 m. MMU paskelbė pranešimą spaudai, kuriame ši technologija buvo naujas išradimas, dėl kurio poligrafas pasens. Buvau šiek tiek šokiruotas, sakė Rothwellas, nes maniau, kad dar per anksti.
Pirmaisiais metais po rugsėjo 11 d. JAV vyriausybė ėmėsi daug pastangų apgaulės aptikimo technologijų srityje, o Tėvynės saugumo departamentas (DHS), Gynybos departamentas (DoD) ir Nacionalinis mokslo fondas išleido milijonus dolerių tokiems tyrimams. . Šios agentūros finansavo kiosko AVATAR sukūrimą Arizonos universitete. AVATAR, kuris analizavo veido išraiškas, kūno kalbą ir žmonių balsus, kad priskirtų tiriamiesiems „patikimumo balą“, buvo išbandytas JAV oro uostuose. Tuo tarpu Izraelyje DHS padėjo finansuoti startuolį WeCU („mes matome jus“), kuris pardavė tikrinimo kioską, kuris sukeltų fiziologinį atsaką tiems, kurie ką nors slepia. 2010 m. straipsnis „Fast Company“. . (Nuo to laiko bendrovė uždaryta.)
Bandaras pradėjo bandyti komercializuoti technologiją. Kartu su dviem savo mokiniais, Jimu O'Shea ir Keeley Crockett, jis įtraukė Silent Talker kaip įmonę ir pradėjo ieškoti klientų, įskaitant policijos skyrius ir privačias korporacijas, siekdamas psichologinio profiliavimo technologijos. Silent Talker buvo vienas pirmųjų dirbtinio intelekto melo detektorių, pasirodžiusių rinkoje. Pasak bendrovės, pernai technologija, gauta iš Silent Talker, buvo panaudota kaip dalis iBorderCtrl – Europos Sąjungos finansuojamos mokslinių tyrimų iniciatyvos, kurios metu sistema buvo išbandyta savanoriams prie Graikijos, Vengrijos ir Latvijos sienų. Bandaras sako, kad bendrovė šiuo metu derasi dėl šios technologijos pardavimo advokatų kontoroms, bankams ir draudimo bendrovėms, atlikdama pokalbių darbo vietoje testus ir sukčiavimo patikrinimus.
Bandaras ir O'Shea daugelį metų pritaikė pagrindinį algoritmą naudoti įvairiuose nustatymuose. Jie bandė jį parduoti policijos skyriams Mančesterio ir Liverpulio metropolinėse zonose. Neoficialiai kalbamės su labai vyresnio amžiaus žmonėmis, JK leidiniui sakė bendrovė Inžinierius 2003 m., pažymėdami, kad jų tikslas buvo tai išbandyti tikruose interviu. 2013 m. balta knyga O'Shea paskelbta savo svetainėje pasiūlė, kad „Silent Talker“ galėtų būti panaudota mūsų pajėgoms, dislokuotoms užsienyje, apsaugoti nuo Green-on-Blue („Insider“) atakų. (Terminas žalias ant mėlynos dažniausiai vartojamas kalbant apie uniformuotų Afganistano karių išpuolius prieš savo buvusius sąjungininkus.)
Grupė taip pat paskelbė eksperimentinius rezultatus, rodančius, kaip „Silent Talker“ gali būti naudojamas tiek supratimui, tiek aptikimui nustatyti. 2012 m. atliktame tyrime, kuris pirmasis parodė šioje srityje naudojamą „Silent Talker“ sistemą, komanda dirbo su sveikatos priežiūros nevyriausybine organizacija Tanzanijoje, siekdama užfiksuoti 80 moterų veido išraiškas, kai jos lankė internetinius ŽIV gydymo ir prezervatyvų naudojimo kursus. Idėja buvo nustatyti, ar pacientai suprato gydymą, kurį jie gaus – kaip pažymima tyrimo įvade, dalyvių supratimo vertinimas informuoto sutikimo proceso metu vis dar yra labai svarbi sritis. Kai komanda pateikė kryžmines nuorodas į dirbtinio intelekto spėliones apie tai, ar moterys suprato paskaitas, gaudamos trumpų egzaminų po paskaitų balus, jie nustatė, kad 80 % tiksliai nuspėjo, kas išlaikys, o kas – nesėkmę.
Mančesteryje parengtas algoritmas, teigiama pranešime spaudai, užtikrintų efektyvesnį ir saugesnį sausumos sienų kirtimą ir prisidėtų prie nusikalstamumo ir terorizmo prevencijos.
Tanzanijos eksperimentas paskatino „Silent Talker“ įtraukti į „iBorderCtrl“. 2015 m. Athos Antoniades, vienas iš besikuriančio konsorciumo organizatorių, elektroniniu paštu kreipėsi į O’Shea, paklausdamas, ar Tyliojo pašnekovo komanda nori prisijungti prie įmonių ir policijos pajėgų grupės, pretenduojančios gauti ES dotaciją. Ankstesniais metais didėjantis transporto priemonių srautas į ES priblokšdavo agentus sąjungos pasienio šalyse, todėl ES siūlė 4,5 mln. ir taip prisidėti prie nusikalstamumo ir terorizmo prevencijos. Antoniadas manė, kad „Silent Talker“ galėtų atlikti lemiamą vaidmenį.
Kai 2018 m. spalį projektas pagaliau paskelbė apie viešą bandomąjį projektą, Europos Komisija netruko papasakoti apie unikalaus sistemos metodo apgaulės aptikimo sėkmės istoriją. pranešime spaudai , aiškindamas, kad technologija analizuoja keliautojų mikrogestus, kad išsiaiškintų, ar pašnekovas meluoja. Mančesteryje parengtas algoritmas, toliau pranešime spaudai, užtikrintų veiksmingesnį ir saugesnį sausumos sienų kirtimą ir prisidėtų prie nusikalstamumo ir terorizmo prevencijos.
O'Shea man pasakė, kad pagrindinis programos algoritmas gali būti naudojamas įvairiuose kituose nustatymuose – reklamuojant, atliekant draudimo išmokų analizę, ieškant darbo ieškančių asmenų ir vertinant darbuotojus. Man buvo sunku pasidalyti didžiuliu jo tikėjimu jo išmintimi, bet net kai jis su mumis kalbėjomės telefonu, „Silent Talker“ jau tikrino savanorius ES sienos kirtimo punktuose; įmonė neseniai pradėjo veikti 2019 m. sausio mėn. Taigi nusprendžiau nuvykti į Mančesterį, kad įsitikinčiau.
„Silent Talker“ biurai yra maždaug už mylios nuo Mančesterio Metropoliteno universiteto, kuriame dabar O'Shea yra vyresnioji dėstytoja. Kasdienį technologijos vystymą jis perėmė iš Bandar. Įmonė įsikūrusi gyvenamajame rajone esančiame mūriniame biurų parke sumirksėti ir praleisti, gatve nuo kebabų restorano ir priešais futbolo aikštę. Viduje „Silent Talker“ biuras yra vienas kambarys su keliais kompiuteriais, rašomaisiais stalais su portfeliais ir aiškinamaisiais plakatais apie 2000-ųjų pradžios technologiją.
Kai rugsėjį apsilankiau bendrovės biure, su O'Shea ir Bandar atsisėdome konferencijų salėje koridoriuje. O'Shea buvo griežtas, bet šiek tiek susiraukšlėjęs, plikas, išskyrus keletą plaukų kuokštų ir Van Dyke'o barzdą. Pokalbį jis pradėjo tvirtindamas, kad nekalbėtume apie projektą „iBorderCtrl“, vėliau jo kritikus pavadino klaidingai informuotais. Jis kalbėjo apie sistemos AI sistemos galią ilgomis, digresuojančiomis liestinėmis, retkarčiais cituodamas skaičiavimo pradininką Alaną Turingą ar kalbos filosofą Johną Searle'ą.
Mašinos ir žmonės turi intencionalumą – įsitikinimus, troškimus ir ketinimus, susijusius su pasaulio objektais ir dalykų padėtimi, sakė jis, gindamas sistemos priklausomybę nuo algoritmo. Todėl sudėtingos programos reikalauja abipusio svorio abiejų idėjoms ir ketinimams.
O'Shea pademonstravo sistemą, pateikdamas jai analizuoti vaizdo įrašą, kuriame vyras atsako į klausimus, ar jis pavogė 50 USD iš dėžutės. Programa apjuosė geltoną kvadratą aplink vyro veidą ir du mažesnius kvadratus aplink akis. Jam kalbant, adata ekrano kampe pasislinko iš žalios į raudoną, kai jis pateikė klaidingus atsakymus, ir vėl tapo vidutiniškai oranžinės spalvos, kai jis nekalbėjo. Pasibaigus interviu, programinė įranga sugeneravo grafiką, kuriame nubraižyta apgaulės tikimybė laiko atžvilgiu. Teoriškai tai pasireiškė, kai jis pradėjo ir nustojo meluoti.
Jam kalbant, adata ekrano kampe pasislinko iš žalios į raudoną, kai jis pateikė klaidingus atsakymus, ir vėl tapo vidutiniškai oranžinės spalvos, kai jis nekalbėjo.
Sistema gali veikti tradiciniame nešiojamajame kompiuteryje, sako O'Shea, o vartotojai moka apie 10 USD už analizuojamo vaizdo įrašo minutę. O'Shea man pasakė, kad programinė įranga atlieka tam tikrą preliminarų vietinį vaizdo įrašo apdorojimą, siunčia užšifruotus duomenis į serverį, kur jie toliau analizuojami, o tada siunčia rezultatus atgal: vartotojas mato apgaulės tikimybės grafiką, padengtą apačioje. vaizdo įrašo.
Pasak O'Shea, sistema stebi maždaug 40 fizinių kanalų dalyvio kūne – nuo greičio, kuriuo žmogus mirksi, iki galvos kampo. Kiekvienam naujam veidui ji pateikia apgaulės teoriją, kurią sukūrė peržiūrint melagių ir tiesos sakytojų mokymo duomenų rinkinį. Matuodama tiriamojo veido judesius ir laikysenos pokyčius daug kartų per sekundę, sistema ieško judesių modelių, atitinkančių tuos, kuriais dalijasi melagiai treniruočių duomenyse. Šie raštai nėra tokie paprasti, kaip akys brūkštelėjo link lubų arba galva pakreipiama į kairę. Jie panašesni į modelių modelius, daugialypius skirtingų judesių ryšius, per daug sudėtingus, kad žmogus galėtų juos stebėti – tipiškas mašininio mokymosi sistemų bruožas.
AI užduotis yra nustatyti, kokie judesių modeliai gali būti siejami su apgaule. Psichologai dažnai sako, kad reikia turėti kažkokį sistemos veikimo modelį, sakė O'Shea, bet mes neturime veikiančio modelio ir mums jo nereikia. Leiskime dirbtiniam intelektui tai išsiaiškinti. Tačiau jis taip pat sako, kad kanalų ant veido pateisinimas kyla iš akademinės literatūros apie apgaulės psichologiją. A 2018 m. straipsnis apie „Silent Talker“. , jo kūrėjai teigia, kad jų programinė įranga daro prielaidą, kad tam tikros psichinės būsenos, susijusios su apgaulingu elgesiu, paskatins pašnekovo [nežodinį elgesį], kai jis apgaudinėjamas. Tarp tokių elgesio būdų yra kognityvinis krūvis arba papildoma psichinė energija, kurios tariamai reikia meluoti, ir malonumo apgaudinėjimas, arba malonumas, kurį asmuo tariamai patiria sakydamas sėkmingą melą.
Psichologas Paulas Ekmanas, kurio „mikroraiškų“ teorija yra daug ginčytina, konsultavosi su daugybe JAV vyriausybinių agentūrų. Wikimedia / Momopuppycat
Tačiau Mastrichto universiteto Nyderlanduose psichologijos profesorius Ewoutas Meijeris teigia, kad pagrindas manyti, kad toks elgesys yra universalus, geriausiu atveju yra nestabilus. Idėja, kad veide galima aptikti elgsenos nutekėjimų, kyla iš amerikiečių psichologo Paulo Ekmano, kuris devintajame dešimtmetyje palaikė dabar žinomą mikroraiškos teoriją, arba nevalingus veido judesius, kurie per maži kontroliuoti. Ekmano tyrimai padarė jį perkamiausiu autoriumi ir įkvėpė televizijos kriminalinę dramą Meluok Man . Jis konsultavo daugybę JAV vyriausybinių agentūrų, įskaitant DHS ir DARPA. Remdamasis nacionaliniu saugumu, jis tyrimų duomenis laikė paslaptyje. Tai sukėlė ginčytinas diskusijas apie tai, ar mikroraiškos turi kokią nors prasmę.
Silent Talker AI seka visų rūšių veido judesius, o ne Ekmanui būdingas mikroišraiškas. Šiuos aukšto lygio ženklus suskaidėme į savo mikrogestu rinkinį ir išmokėme dirbtinio intelekto komponentus, kad juos sujungtume į prasmingus orientacinius modelius, el. laiške rašė įmonės atstovas. O'Shea teigia, kad tai leidžia sistemai pastebėti apgaulingą elgesį net tada, kai subjektas tik žiūri aplinkui arba juda kėdėje.
Meijeris sako, kad daug kas priklauso nuo to, ar turite technologinį, ar psichologinį klausimą, perspėdamas, kad O'Shea ir jo komanda gali ieškoti technologijų, kad gautų atsakymus į psichologinius klausimus apie apgaulės prigimtį. AI sistema gali pranokti žmones aptikdama [veido išraiškas], bet net jei taip būtų, tai vis tiek nepasakys, ar iš jų galite daryti išvadą, ar kas nors yra apgaulinga... apgaulė yra psichologinis konstruktas. Ne tik nėra bendro sutarimo kurios posakiai koreliuoja su apgaule, priduria Meijeris; net nėra bendro sutarimo ar jie daro. El. laiške bendrovė teigė, kad tokia kritika nėra aktuali „Silent Talker“ ir kad naudojama statistika nėra tinkama.
Televizijos drama Meluok Man buvo iš dalies pagrįstas Ekmano mikroraiškos teorija. „Fox“ studijos
Be to, Meijeris atkreipia dėmesį į tai, kad algoritmas vis tiek bus nenaudingas sienos kirtimo punktuose ar darbo pokalbiuose, nebent jis bus apmokytas naudojant tokį patį įvairų duomenų rinkinį, kurį jis vertins realiame gyvenime. Tyrimai rodo, kad veidų atpažinimo algoritmai blogiau atpažįsta mažumas, kai jos buvo išmokytos naudoti daugiausia baltų veidų rinkinius, ką pripažįsta pats O'Shea. „Silent Talker“ atstovas spaudai rašė el. laiške: „Mes atlikome kelis eksperimentus su mažesnio įvairaus imties dydžiu“. Tai sudaro šimtus. Kai kurie iš jų yra akademiniai ir buvo paskelbti [sic], kai kurie yra komerciniai ir yra konfidencialūs.
Tačiau visi paskelbti tyrimai, pagrindžiantys Tyliojo pašnekovo tikslumą, gaunami iš nedidelių ir dalinių duomenų rinkinių: pavyzdžiui, 2018 m. straipsnyje 32 žmonių treniruočių populiacijoje buvo dvigubai daugiau vyrų nei moterų ir tik 10 dalyvių iš Azijos / arabų. nėra juodaodžių ar ispanų kalbų. Nors šiuo metu programinė įranga turi skirtingus vyrų ir moterų analizės parametrus, O'Shea teigė, kad nėra tikras, ar jai reikia nustatymų dėl etninės kilmės ar amžiaus.
Po to, kai 2018 m. buvo paskelbtas bandomasis „iBorderCtrl“, aktyvistai ir politikai pasmerkė programą kaip precedento neturintį orvelišką stebėjimo valstybės išplėtimą. Sophie in 't Veld, olandė, Europos Parlamento narė ir centro kairiosios partijos Demokratai 66 lyderė, laiške Europos Komisijai teigė, kad „Silent Talker“ sistema gali pažeisti daugelio sieną kertančių keliautojų pagrindines teises ir kad Tokios organizacijos kaip „Privacy International“ pasmerkė tai kaip dalį platesnės tendencijos naudoti neskaidrias ir dažnai nepakankamas automatizuotas sistemas vertinant, vertinant ir klasifikuojant žmones. Panašu, kad opozicija nustebino konsorciumą „iBorderCtrl“: nors iš pradžių Europos Komisija tvirtino, kad „iBorderCtrl“ sukurs sistemą, kuri pagreitintų sienos kirtimą, dabar atstovas sako, kad programa yra grynai teorinis tyrimo projektas. 2018 m. pabaigoje Antoniades Nyderlandų laikraščiui sakė, kad apgaulės aptikimo sistema galiausiai gali nepatekti į dizainą, tačiau šio rašymo metu „Silent Talker“ vis dar reklamavo savo dalyvavimą „iBorderCtrl“. savo svetainėje .
Kad ir kaip dažnai kritikai, tokie kaip Wilde'as, tai paneigtų, svajonė apie tobulą melo detektorių tiesiog nemiršta, ypač kai ją apšviečia dirbtinio intelekto blizgesys.
„Silent Talker“ yra nauja seno sukčiavimo versija, teigia Berlyne gyvenanti amerikiečių akademinė ir privatumo aktyvistė Vera Wilde, kuri padėjo pradėti kampaniją prieš „iBorderCtrl“. Tam tikrais atžvilgiais tai ta pati apgaulė, bet su prastesniu mokslu. Poligrafo testo metu egzaminuotojas ieško fiziologinių įvykių, kurie, kaip manoma, yra susiję su apgaule; AI sistemoje egzaminuotojai leidžia kompiuteriui pačiam išsiaiškinti koreliacijas. Kai O'Shea sako, kad jis neturi teorijos, jis klysta, ji tęsia. Jis turi teoriją. Tai tiesiog bloga teorija.
Kad ir kaip dažnai kritikai, tokie kaip Wilde'as, tai paneigtų, svajonė apie tobulą melo detektorių tiesiog nemiršta, ypač kai ją apšviečia dirbtinio intelekto blizgesys. Po to, kai 2000-aisiais DHS išleido milijonus dolerių apgaulės tyrimams universitetuose finansuoti, ji bandė sukurti savo elgesio analizės technologijos versiją. Ši sistema, vadinama „Future Attribute Screening Technology“ (FAST), siekė panaudoti AI ieškant nusikalstamų polinkių subjekto akių ir kūno judesiuose. (Ankstyvojoje versijoje buvo reikalaujama, kad pašnekovai atsistotų ant Wii Fit balanso lentos, kad galėtų įvertinti laikysenos pokyčius.) Trys mokslininkai, kalbėję netyčia aptardami įslaptintus projektus, teigė, kad programa niekada nebuvo pradėta įgyvendinti – skyriuje buvo per daug nesutarimų. ar naudoti Ekmano mikroraiškas kaip elgesio analizės gaires. Departamentas nutraukė programą 2011 m.
Nepaisant FAST nesėkmės, DHS vis dar domisi melo aptikimo metodais. Pavyzdžiui, praėjusiais metais ji sudarė 110 000 USD vertės sutartį su žmogiškųjų išteklių įmone, kad ji apmokytų savo pareigūnus aptikti apgaulę ir paskatinti atsaką atliekant elgesio analizę. Tuo tarpu kitos vyriausybės dalys vis dar sveria dirbtinio intelekto sprendimus. Army Research Laboratory (ARL) šiuo metu yra sudariusi sutartį su Rutgers universitetu sukurti AI programą, skirtą aptikti melą saloniniame žaidime Mafia, kaip dalį didesnio bandymo sukurti kažką panašaus į Google Glass, įspėjantį apie porą kišenvagių. sausakimšas turgus, pasak Purush Iyer, ARL skyriaus viršininko, atsakingo už projektą. Nemesysco, Izraelio įmonė, parduodanti dirbtinio intelekto balso analizės programinę įrangą, man pasakė, kad jos technologiją naudoja Niujorko policijos departamentai ir vidurio vakarų šerifai, kad apklaustų įtariamuosius, taip pat skolų išieškojimo skambučių centrai, kad išmatuotų skolininkų emocijas. telefono skambučiai.
Tiesioginė ir potencialiai pavojinga dirbtinio intelekto melo aptikimo ateitis yra ne vyriausybės, o privačioje rinkoje. Politikai, palaikantys tokias iniciatyvas kaip iBorderCtrl, galiausiai turi atsakyti rinkėjams, o daugumai dirbtinio intelekto melo detektorių gali būti uždrausta patekti į teismą pagal tą patį teisinį precedentą, kuris reglamentuoja poligrafą. Tačiau privačios korporacijos susiduria su mažiau suvaržymų naudodamos tokią technologiją kandidatams į darbą ir potencialiems klientams tikrinti. „Silent Talker“ yra viena iš kelių įmonių, teigiančių, kad siūlo objektyvesnį būdą aptikti nenormalų ar apgaulingą elgesį, suteikdama klientams rizikos analizės metodą, apimantį ne tik kredito balus ir socialinės žiniasklaidos profilius.
Programinė įranga sukuria daug klaidingų teigiamų rezultatų.
Montanoje įsikūrusi įmonė Neuro-ID atlieka pelės judesių ir klavišų paspaudimų AI analizę, kad padėtų bankams ir draudimo bendrovėms įvertinti sukčiavimo riziką, paskolos prašytojams skirdama pasitikėjimo balą nuo 1 iki 100. Vaizdo įraše bendrovė man parodė, kai klientas Internetinė paskolos paraiška užtrunka papildomai, kol užpildomas namų ūkio pajamų laukelis, o tai darant judinant pelę, sistema į tai atsižvelgia į jos patikimumo balą. Jis pagrįstas bendrovės įkūrėjų atliktais tyrimais, kurie teigia įrodantys ryšį tarp pelės judesių ir emocinio susijaudinimo: vienas dokumentas, kuriame teigiama, kad apgaulė gali padidinti normalų judėjimo atstumą, sumažinti judėjimo greitį, padidinti reakcijos laiką ir rezultatą. daugiau kairiųjų paspaudimų. Tačiau pačios bendrovės testai atskleidė, kad programinė įranga sugeneruoja daug klaidingų teigiamų rezultatų: vieno atvejo tyrimo metu, kai Neuro-ID apdorojo 20 000 paraiškų elektroninės prekybos svetainei gauti, mažiau nei pusė pareiškėjų, gavusių žemiausius balus (5–5). 10) pasirodė esąs nesąžiningas, ir tik 10% balų nuo 20 iki 30 gavusių asmenų turėjo sukčiavimo riziką. Pačios įmonės pripažinimu, programinė įranga pažymi pareiškėjus, kurie gali pasirodyti nekalti, ir leidžia įmonei naudoti šią informaciją, kad galėtų stebėti, kaip jai patinka. Nėra tokio dalyko kaip elgesiu pagrįsta analizė, kuri būtų 100% tiksli, man pasakė atstovas. Rekomenduojame tai naudoti kartu su kita informacija apie pareiškėjus, kad priimtumėte geresnius sprendimus ir veiksmingiau gautumėte [apgaulingus klientus].
Jutoje įsikūrusi startuolis „Converus“ parduoda programinę įrangą „EyeDetect“, kuri matuoja tiriamojo vyzdžių išsiplėtimą pokalbio metu, kad nustatytų pažinimo krūvį. Kaip ir „Silent Talker“, įrankis prasideda nuo prielaidos, kad melas reikalauja daugiau pažinimo nei tiesos sakymas. Pasak a 2018 metų straipsnis Wired, Solt Leik Sičio ir Kolumbo (Džordžija) policijos skyriai naudojo EyeDetect kandidatų į darbą tikrinimui. „Converus“ taip pat sakė „Wired“, kad „McDonald's“, „Best Western“, „Sheraton“, „IHOP“ ir „FedEx“ naudojo savo programinę įrangą Panamoje ir Gvatemaloje taip, kad tai būtų buvę neteisėta JAV.
Pareiškime, kurį jis man pateikė, nurodė bendrovė į mažai studijos kurie rodo, kad „EyeDetect“ pasiekia maždaug 85 % tikslumą identifikuojant melagius ir tiesos sakytojus, o pavyzdžiai yra iki 150 žmonių. Įmonės prezidentas Toddas Mickelsenas sako, kad jo įmonės algoritmas buvo išmokytas šimtams tūkstančių interviu. Tačiau Charlesas Hontsas, Boise State universiteto psichologijos profesorius, kuris taip pat yra Converus patariamojoje taryboje, teigė, kad šie rezultatai neįrodė, kad EyeDetect galima pasikliauti lauko interviu. Man atrodo, kad EyeDetect sistema yra tikrai įdomi, bet, kita vertus, aš jos nenaudoju, sakė jis. Manau, kad duomenų bazė vis dar yra gana maža, ir ji daugiausia yra iš vienos laboratorijos. Kol jis nebus išplėstas ir kiti žmonės jo nepakartos, aš nenorėčiau jo naudoti šioje srityje.
Arizonos universiteto mokslininkai, sukūrę AVATAR sistemą, taip pat įkūrė privačią įmonę „Discern Science“, kuri sieks parduoti savo apgaulės aptikimo technologiją. Praėjusiais metais pristatytas Discern parduoda šešių pėdų aukščio kioską, panašų į originalų AVATAR; pagal straipsnį laikraštyje „Financial Times“ bendrovė sudarė jungtinės veiklos sutartį su aviacijos pramonės partneriu, siekdama parduoti įrankį oro uostams. Sistema priemones veido judesiai ir balso stresas, kad nepastebimai rinktų informaciją iš tiriamojo pokalbio atstumu, remiantis reklamine medžiaga. Kaip ir „Silent Talker“ bei „Converus“, „Discern“ teigia, kad ši technologija gali patikimai aptikti apie 85 % melagių ir tiesos sakytojų, tačiau vėlgi, jos rezultatai niekada nebuvo atkartoti atskirai. Bent viena iš įvesties kiosko buvo naudojama pakartotinai parodyta būti nepatikimas . (Hontsas taip pat pažymėjo, kad beveik nepalaikoma veido judesių analizė, pvz., AVATAR's ir Silent Talker's – ten buvo tiek daug nesėkmių, kad būtų galima pakartoti, sakė jis.)
Kiekvienas, kuris jums sako, kad turi prietaisą, kuris yra tiesioginis melo detektorius, yra šarlatanas.
Paklaustas apie įmonės kiosko mokslinį pagrindą, „Discern“ tyrėjas Judee Burgoon pabrėžė, kad jie tik vertina, o ne įpareigoja tiesą ir melą. Jos teigimu, tokios sistemos kaip AVATAR ir Silent Talker negali tiesiogiai išmatuoti apgaulės ir pridūrė, kad kiekvienas, kuris jums sako, kad turi prietaisą, kuris yra tiesioginis melo detektorius, yra šarlatanas. Tačiau rinkodaros medžiagoje „Discern“ pristato įrankį kaip patikimą melo detektorių: įmonės svetainę pretenzijas kad jis gali padėti atskleisti paslėptus planus ir kad moksliškai įrodyta, kad jo algoritmai apgaulę aptinka greičiau ir patikimiau nei bet kuri kita alternatyva.
Apeliacinis teismas panaikino Emmanuelio Mervilus teistumą 2011 m., paleisdamas jį iš kalėjimo ir nurodęs nagrinėti iš naujo; jis buvo atlikęs daugiau nei trejus metus nuo paskirtos bausmės. Antrajame 2013 m. teismo posėdyje prisiekusieji svarstė tik 40 minučių, kol jį išteisino. Jei ne poligrafas ir atkaklus tikėjimas jo tikslumu, jis galbūt niekada nebūtų įkėlęs kojos į teismo salę pirmą kartą. Mervilus padavė į teismą jį iš pradžių sulaikiusius ir apklaususius policijos pareigūnus, teigdamas, kad jie pažeidė jo teisę į tinkamą procesą, nes, siekdami užsitikrinti apkaltinamąjį nuosprendį, naudojo poligrafo testus, kurie, kaip žinojo, yra klaidingi. Byla bus nagrinėjama taikos konferencijoje kovo 13 d.
Net jei plačiai paplitęs „Silent Talker“ ir panašių sistemų naudojimas nesukels daugiau nekaltų žmonių, tokių kaip Mervilus, teistumo, jis vis tiek gali padėti sukurti naujos rūšies socialinį slapuką, priversantį žmones pasitikrinti, ar prieš išsinuomojus automobilį ar išimant automobilį. paskola.
Teisme turite perduoti daiktinius įrodymus, pavyzdžiui, plaukus ir kraują, sako Wilde'as. Bet jūs taip pat turite teisę tylėti, teisę nekalbėti prieš save. Mervilus nusprendė atlikti poligrafo testą, darydamas prielaidą, kad, kaip ir DNR tyrimas, jis parodys, kad jis nekaltas. Ir nors įrenginys suklydo, į kalėjimą jį nusiuntė ne pati mašina. Prisiekusieji tikėjo, kad testo rezultatai buvo patikimesni nei bylos faktai.
Pagrindinė AI melo aptikimo prielaida yra ta, kad melas yra tam, kad jį būtų galima pamatyti naudojant tinkamus įrankius. Psichologai vis dar nežino, kiek pagrįstas šis teiginys, tačiau tuo tarpu tikėjimo jo pagrįstumu gali pakakti, kad nusipelnę kandidatai būtų atimti į darbą ir paskolą, o nekalti žmonės negalėtų kirsti valstybių sienų. Pažadas atidaryti langą į kitų vidinį gyvenimą yra pernelyg viliojantis, kad jį praleistume, net jei niekas negali būti tikras, koks aiškus tas langas.
Tai yra minčių skaitymo pažadas, sako Wilde'as. Matote, kad tai netikra, bet tai yra tai, ką jie parduoda.