Ar tikrai kolegijos turėtų dėti išmaniuosius garsiakalbius bendrabučiuose?

Kai 2018 m. rudenį Mateo Catano grįžo į sent Luiso universiteto bakalauro studijas antrus metus, jis atsidūrė su nauju kambarioku – ne kitu studentu, o bekūnėmis smegenimis Amazon Echo Dot pavidalu.

Anksčiau tą vasarą SLU informacinių technologijų skyrius įrengė apie 2300 išmaniųjų garsiakalbių – po vieną kiekviename universiteto rezidencijos kambaryje, todėl mokykla buvo pirmoji šalyje. Kiekviename įrenginyje buvo iš anksto užprogramuoti atsakymai į maždaug 130 su SLU susijusių klausimų, pradedant bibliotekos darbo valandomis ir baigiant registratoriaus biuro vieta (mokykla pavadino šią AskSLU). Įrenginiai taip pat apima pagrindinius balso įgūdžius, prieinamus kituose taškuose, įskaitant signalus ir priminimus, bendrą informaciją ir galimybę transliuoti muziką.

Ši istorija buvo mūsų 2020 m. sausio mėn. numerio dalis

• Žr. likusią numerio dalį
• Prenumeruoti

Catano „Dot“ buvo sveikintinas papildymas. Jam patiko ryte pirmiausia išgirsti orą ir žinoti, kurios valgyklos dirba. Ir, jei jis atviras, jam patiko kompanija. „AskSLU“ neabejotinai privertė mane jaustis mažiau vienišas, sako jis. Ir man patiko, kad esu pirmame universitete, kuris tai padarė.

Catano reakcija buvo būtent tokia, kokios tikėjosi SLU administratoriai. Šį rudenį jėzuitų institucija paskelbė apie planus išplėsti savo „Echo Dots“ balso įgūdžius įtraukiant tekstinių pranešimų ir pokalbių roboto funkcijas.

Neturi supratimo apie ilgalaikį poveikį

Esame ant naujos išmaniųjų garsiakalbių eros universiteto miestelyje slenksčio. Tokios plačios mokyklos kaip Arizonos valstijos universitetas, Lankasterio universitetas JK ir Rosso universiteto medicinos mokykla Barbadose universiteto miestelyje įdiegė balso įgūdžių technologiją. Kai kurie, įskaitant Šiaurės rytų universitetą, žengė dar žingsnį į technologiją ir dabar suteikia studentams prieigą prie finansinių duomenų, kursų tvarkaraščių ir pažymių bei neapmokėtų mokesčių per balso įrenginius.

2018 m. pabaigoje Bostono Emersono koledžas paskelbė, kad yra vienas iš 18 „Amazon“ dotacijos gavėjų, skirtų tobulinti balso technologijas miesteliuose, kuri yra technologijų milžinės „Alexa Innovation Fellowship“ dalis. „Emerson“ sukūrė specialią balso laboratoriją, kurioje studentai gali bendrauti ir eksperimentuoti su „Alexa“ įgūdžiais, ir planuoja įdiegti „Alexa“ įrenginius tokiose vietose kaip teatrai ir už liftų bankų ribų.

Kai kurių šių mokyklų administratoriai man pasakė, kad jie tiki, kad „Alexa“ padidins priėmimą ir sumažins mokyklos nebaigusių asmenų skaičių. Kai kurie taip pat teigė manantys, kad balso technologijos gali padidinti jų mokinių sėkmę ir bendrą laimę.

Tačiau miestelyje yra daugybė žmonių, kurie mato tamsiąją pusę.

Kalbant apie klausymosi įrenginių diegimą ten, kur vyksta jautrūs pokalbiai, mes tiesiog neįsivaizduojame, kokį ilgalaikį poveikį „Amazon“ įrašyti ir saugomi pokalbiai gali turėti jų ateičiai – netgi, galbūt, sveikatai ir gerovei, sako Russellas. Newmanas, Emersono profesorius, tyrinėjantis komunikacijos ir komunikacijos politikos politinę ekonomiją.

Mes vis dar iš tikrųjų nežinome, kiek duomenų balso įgūdžių prieglobos, pvz., „Amazon“ arba „Amazon“ pasitikinčios trečiosios šalys, surenka ir ką jos daro su ta informacija.

Kiti fakulteto nariai, su kuriais kalbėjausi, pakartojo Newmano prieštaravimus. Ką daryti, jei iš studentų pokalbių surinkti duomenys turėtų įtakos jų galimybėms vėliau gauti būsto paskolą ar darbą? O jeigu būtų panaudota prieš užsienio studentus, kad jie būtų deportuoti, galbūt į gimtąsias šalis, kur jie galėtų būti įkalinti už savo politines pažiūras?

Teisingai. Taigi, atsižvelgiant į visą riziką, kodėl kolegijos taip nori užpildyti savo miestelius mikrofonais su dirbtiniu intelektu? Kas jiems iš to?

AI į pagalbą

Kolegijos ir universitetai susiduria su keliomis gresiančiomis krizėmis. Po kelerius metus besitęsiančio besimokančiųjų skaičiaus JAV mokyklose mažėja stojančiųjų skaičius – tikimasi, kad per ateinantį dešimtmetį ši tendencija pablogės. 2019 m. lapkričio mėn. specialiojoje Aukštojo mokslo kronikos ataskaitoje prognozuojamas spartus mažėjimas net ir išrankiausiose šalies institucijose. Institucijų pajamos sustojo – „Moody’s Investors Service“ paskelbė neigiamą aukštojo mokslo perspektyvą 2019 finansiniams metams, išskyrus pietų universitetus. Trejus metus Švietimo departamentas siekė sumažinti milijardus iš finansinės pagalbos ir paramos neturtingesniems studentams, nors Kongresas atmetė sumažinimus. Valstybės įnašai į valstybinių universitetų biudžetus atsiliko nuo praėjusio nuosmukio. Privačioms kolegijoms taip pat sunku; daugiau nei ketvirtadalis jų dabar yra minusuose. Pastaraisiais metais 20 privačių, pelno nesiekiančių kolegijų uždarė duris, o daug daugiau svarsto galimybę susijungti ar konsoliduoti.

Tuo tarpu pusė visų studentų, įstojusių į kolegiją, nebaigia studijų per šešerius metus. Tyrėjai pateikia įvairių paaiškinimų. Ajovos universiteto edukologijos profesorius Nickas Bowmanas atkreipia dėmesį į tai, kad šiandieniniai studentai yra vyresni nei tradiciniai 18–22 metų amžiaus. Daugelis dirba visą darbo dieną. Kai kurie rūpinasi vaikais, broliais ir seserimis arba senstančiais tėvais. Vidutinė 35 000 USD skola studentų paskolai po ketverių metų mokykloje gali būti viliojanti.

Daugeliui kolegijų administratorių AI siūlo patrauklius sprendimus šioms keblioms problemoms spręsti. Vinstono-Seilemo valstijos universitetas, istoriškai juodaodžių universitetas, kuriame daug mažas pajamas gaunančių ir pirmosios kartos kolegijų studentų, turėjo nuolatinių problemų, padedančių kiekvienam stojančiam į klasę pasiekti pagrindinius terminus, pavyzdžiui, pateikti vidurinės mokyklos nuorašus ir skiepijimo įrašus, pildyti finansinės pagalbos formas ir sudaryti. būsto indėlių. Supratome, kad daugelis mūsų studentų gali nesuprasti stojimo į koledžą proceso ir negali pasikliauti šeimomis ar paramos sistemomis, kurios jiems tai iššifruotų, sako Jay Davis, universiteto ryšių su žiniasklaida vadovas.

Prieš dvejus metus WSSU bendradarbiavo su technologijų įmone AdmitHub, kad pasiūlytų dirbtinio intelekto pokalbių robotą Winston, kuris padėtų studentams naršyti registracijos procese. Davis teigia, kad programa sėkmingai atsako į maždaug tris ketvirtadalius studentų klausimų ir kad labai išaugo studentų, kurie atitinka savo finansinius reikalavimus ir pateikia visus patvirtinamuosius dokumentus, reikalingus paraiškai užpildyti, skaičius. Šiais metais WSSU rengia didžiausią pirmųjų kursų klasę per daugiau nei dešimtmetį, ir Davisas sako, kad Winstonas suvaidino svarbų vaidmenį.

Prieiga prie jūsų žodžių, amžinai

Kelias valandas praleidau žaisdamas su pokalbių robotais keliose kolegijose ir universitetuose. Jie visi turėjo klausimų apie mokyklos talismaną, kur galėčiau rasti vakarienę ir kada bus kitas sporto ar absolventų tinklo renginys. Bet jie apjuodino kitus. Kai vienam pasakiau, kad sergu, jis informavo, kad studentų sveikatos centras neišduos raštiško pasiteisinimo dėl praleistų pamokų. Paklausiau, kur yra studentų sveikatos centras; ji atsakė būsimų studentų kelionių į universitetą metu. Kitam pasakiau, kad jaučiuosi prislėgtas, ir tai nukreipė mane į federalinę studentų finansinės pagalbos programą.

Kitoje šių įrenginių pusėje esantys universiteto programuotojai man pasakė, kad įgūdžiai tobulės, kai jais naudosis vis daugiau studentų – žinoma, todėl dirbtinis intelektas toks efektyvus. Tačiau dėl to grėsmės mūsų privatumui yra tokios tikros, sako Vitalijus Shmatikovas, Kornelio technikos kompiuterių mokslų profesorius. Technikos įmonės, sako Shmatikovas, yra labai neskaidrios privatumo ir saugumo atžvilgiu. Tai, ką jis ir kiti mokslininkai apie juos sužinojo, daugiausia yra apverstos inžinerijos ir tam tikrų išprususių spėjimų būdu, o išvados labai rūpi Shmatikovui.

Pradedantiesiems, anot jo, įmonės, tokios kaip „Amazon“, moko savo kalbos atpažinimo algoritmus remdamosi ankstesnių vartotojų sąveikų įrašais, kad, pavyzdžiui, geriau suprastų klausimo tikslą. Jis sako, kad visos dalyvaujančios įmonės labai neaiškios, kiek duomenų keliauja tarp jų. Vartotojui nėra pažado, kad jo duomenys nepateks iš konkretaus įrenginio, sako Shmatikovas. Mes vis dar iš tikrųjų nežinome, kiek duomenų surenka balso įgūdžių prieglobos serveriai, pvz., „Amazon“ arba trečiosios šalys, kurios remiasi „Amazon“, arba ką jie daro su ta informacija. „Amazon“ neatsakė į kelis prašymus pakomentuoti.

Shmatikovas sako, kad pagrįsta manyti, kad įmonės debesyje yra datos ir laiko žymomis pažymėti studentų prašymų išmaniajam garsiakalbiui įrašai, o įrenginiai gali net įrašyti pokalbius, kuriuos studentas galėjo turėti su kitais žmonėmis prieš kalbėdamas ar po jo. Tobulėjant balso atpažinimo ir vietos nustatymo įgūdžiams, bus vis labiau įmanoma šiuos įrašus susieti su atskiru asmeniu. Tai nėra panašu į mokyklą, kuri ieško jūsų spintelės; tai labiau panašu į mokyklos amžiną įrašą apie viską, kas kada nors buvo jūsų spintelėje ir ką jūs ir jūsų draugai pasakėte kiekvieną kartą, kai ją atidarote, o tada leidote daugybei komercinių subjektų ieškoti šios informacijos.

Arizonos valstijos universiteto ir Sent Luiso universiteto pareigūnai teigia, kad nesusieja tokios informacijos, kaip studentų finansiniai duomenys, sveikatos įrašai ir pažymiai (duomenys žinomi kaip autentifikuoti, nes studentas reikalauja susieti su asmeninėmis paskyromis), kol jie labiau įsitikinę apsaugos priemonės. Northeastern naudojamą technologiją sukūrė nedidelė komanda, kuriai vadovavo Somen Saha, tuometis universiteto darbuotojas. Galiausiai „Saha“ sukūrė nepriklausomą įmonę „n-Powered“, kuri sukūrė programą „MyHusky“, kurią galima įsigyti per „Alexa“. Tačiau privatumo puslapyje taip pat pripažįstama, kad mes naudojame „Amazon“ platformą, kad tai veiktų. „Amazon“ saugo informaciją apie naudojimą, kurią paprašius galima išvalyti.

Shmatikovas teigia, kad universiteto programinės įrangos naudojimas ir pokalbių robotų naudojimo apribojimas bendriems klausimams gali apriboti technologijų įmonės prieigą prie studentų informacijos, tačiau tai neišspręs problemos iki galo. Jis atkreipia dėmesį į jautrius klausimus, pvz., ar sveikatos centras siūlo atlikti STD tyrimus ar receptus tokioms ligoms, kaip šizofrenija, gydyti: techniškai tai nėra susiję su konkrečiu studentu, tačiau nėra labai sunku suprasti, kas klausia, ir studentai gali to nesuvokti. tai ne visada anoniminės užklausos. Be to, sako Shmatikovas, kol tokia įmonė kaip „Amazon“ studentų raginimus konvertuoja į duomenų signalus, ji turi prieigą prie studento informacijos visam laikui.

Baisūs padariniai

Privatumas kelia susirūpinimą bet kuriam dirbtinio intelekto įrenginio naudotojui, tačiau fakultetas, su kuriuo kalbėjau apie šią istoriją, tvirtina, kad aukštajam mokslui yra ypač baisių padarinių.

Kolegijos studentai yra bene geidžiamiausia vartotojų kategorija, sako Emersono Newmanas. Juos yra sunkiausia pasiekti ir jie greičiausiai nustato tendencijas. Dėl to, anot jo, jų duomenys yra vieni vertingiausių ir greičiausiai bus išgaunami ar parduodami. O švietimo įstaigoms prisidėti prie studentų pavertimo prekėmis siekiant bendros naudos, anot jo, iš esmės prieštarauja jų misijoms.

Sarah T. Roberts, UCLA informacijos studijų docentė, teigia, kad mokyklos, kurios sudaro sutartis su technologijų įmonėmis, bent jau gali kelti pavojų savo studentų gerovei. Studento laikas kolegijoje ar universitete naudojamas idėjoms tyrinėti ir naujoms tapatybėms išbandyti, nesvarbu, ar tai būtų politiniai įsitikinimai, ar lytis ir seksualumas, sako Robertsas. Žinojimas, kad jie įrašomi taip, neabejotinai neleis mokiniams jaustis galintis pasakyti savo mintis. Taip pat verta prisiminti, sako ji, kad daugelis studentų atvyksta iš šalių, kuriose gali būti pavojinga atskleisti savo seksualumą ar politinius įsitikinimus.

Šiaurės rytuose vienas studentas sukūrė internetinę peticiją, reikalaudamas, kad universitetas pašalintų visus „Alexa“ įrenginius. Iš dalies rašoma: „Alexas“ yra gerai dokumentuoti kaip slapti klausymosi įrenginiai, naudojami „Amazon“ rinkodaros taktikai patobulinti... Šiaurės rytų universitetas bent jau verčia studentų erdvėse naudoti pašalinį įrenginį, kurio niekas neprašė. Blogiausiu atveju jie beatodairiškai pažeidžia savo studentų bendruomenės privatumą įmonės aukotojo nurodymu. Gruodžio pradžioje peticija turėjo 125 parašus.

Emersone studentai ir kiti fakulteto nariai prisijungė prie Newman, kurdami komitetą, kuris rengtų universiteto miestelio privatumo politiką. Jis sako, kad bent jau norėtų, kad visur, kur būtų pasiklausymo įrenginys, būtų pastatyti įspėjamieji ženklai. Jis sako, kad iki šiol administracija bendradarbiavo, o bet kokių įrenginių diegimas buvo atidėtas.

Mums reikia saugaus būdo eksperimentuoti su šiomis technologijomis ir suprasti jų naudojimo pasekmes, o ne tik tęsti aklą žygį į stebėjimą siekiant pelno, sako Newmanas. Tai sudėtingos programos, turinčios visą gyvenimą trunkančių pasekmių jų analizuojamiems asmenims, iki kol kas nežinomų pabaigos. Čia visi turime būti tikrai protingi ir apgalvoti.

Kathryn Miles yra laisvai samdoma rašytoja ir autorė Quakeland: kelyje į kitą niokojantį Amerikos žemės drebėjimą . Jos istorija „The Little Coin That Ate Kvebekas“ pasirodė 2018 m. gegužės–birželio mėn.

paslėpti