211service.com
Kodėl AI kelia grėsmę demokratijai ir ką galime padaryti, kad tai sustabdytume
Futuristė ir Niujorko universiteto profesorė Amy Webb apie artėjančią dirbtinio intelekto katastrofą ir kodėl vis dar yra vilties, kad jos galima išvengti. 2019 m. vasario 26 d
Amy Webb, futuristė ir NYU profesorė Elena Seibert
Amy Webb, futuristė, NYU profesorė ir apdovanojimus pelniusi autorė, didžiąją pastarojo dešimtmečio dalį praleido tyrinėdama, diskutuodama ir susitikdama su žmonėmis ir organizacijomis apie dirbtinį intelektą. Ji sako, kad pasiekėme karštligės ribą visame AI srityje. Dabar laikas atsitraukti ir pamatyti, kur tai vyksta.
Tai jos naujosios knygos uždavinys, Didysis devynetas: kaip technikos titanai ir jų mąstymo mašinos gali iškreipti žmoniją , kur ji iš paukščio skrydžio žvelgia į tendencijas, kurios, kaip ji perspėja, technologijų vystymąsi nukreipė į pavojingą kelią. JAV „Google“, „Microsoft“, „Amazon“, „Facebook“, IBM ir „Apple“ (G-MAFIA) kenčia nuo nepaliaujamų trumpalaikių kapitalistinės rinkos reikalavimų, todėl ilgalaikis, apgalvotas dirbtinio intelekto planavimas tampa neįmanomas. Kinijoje Tencent, Alibaba ir Baidu konsoliduoja ir gauna didžiulius duomenų kiekius, kad paskatintų vyriausybės autoritarines ambicijas.
Jei nepakeisime šios trajektorijos, teigia Webbas, galime patekti tiesiai į katastrofą. Tačiau dar yra laiko veikti ir kiekvienam atlikti savo vaidmenį. MIT Technology Review susėdo su ja pasikalbėti apie tai, kodėl ji nerimauja ir ką, jos nuomone, galime dėl to padaryti.
Šie klausimai ir atsakymai buvo sutrumpinti ir redaguoti siekiant aiškumo.
Jūs minite, kad šiuo metu matome nerimą keliančių technologinių, politinių ir ekonominių tendencijų konvergenciją. Ar galite išplėsti, kokios yra technologijų tendencijos?
Kai kalbėsite su šioje srityje dirbančiu tyrėju, jie jums pasakys, kad praeis labai daug laiko, kol pamatysime daugybę pažadų, susijusių su dirbtiniu intelektu: tokius dalykus kaip visiškas automatizavimas transporto priemonėse, absoliutus pripažinimas ar dirbtinis bendras intelektas – AGI – sistemos, gebančios pažinti ir labiau panašų į žmogų mąstymą.
Žvelgiant į horizontą tą dieną, kai turime kažkokį vaikščiojantį, kalbantį aparatą ar mašiną bekūniu balsu, priimančiu savarankiškus sprendimus, šiek tiek prasmės. Jau dabar matome milijardus mažyčių patobulinimų, kurie laikui bėgant darys sudėtingesnį poveikį ir sukurs sistemas, galinčias savarankiškai priimti daug sprendimų vienu metu.
Pavyzdžiui, „DeepMind“ komanda sunkiai dirbo, mokydama mašinas, kaip įveikti žaidimus žaidžiančius žmones. Jie šoktelėjo gana toli į priekį tokiose srityse kaip hierarchinis sustiprinimo mokymasis ir daugiafunkcinis mokymasis. Naujausia AlphaGo algoritmo versija AlphaZero gali išmokti žaisti tris žaidimus vienu metu be žmogaus. Tai gana didelis šuolis. Taip pat yra labai nauja generatyvinių priešingų tinklų sritis, kur naudodami tinkamo dydžio vaizdų korpusą dabar galite sukurti žmonių veidus, kurie atrodė labai, labai tikroviškai.
Šie pasiekimai nėra tokie seksualūs ar jaudinantys, kaip mums buvo pasakyta apie AGI. Bet jei galite pažvelgti į 40 000 pėdų vaizdą, galite matyti, kad mes patenkame į situaciją, kai sistemos priims sprendimus už mus. Ir mes turime sustoti ir paklausti savęs, kas atsitinka, kai tos sistemos atideda žmogaus strategiją kažko mums visiškai nežinomo labui.
Ką apie politines ir ekonomines tendencijas? Ar galite apibūdinti tuos, kurie jums kelia didžiausią nerimą?
Jungtinėse Valstijose laisvas idėjų srautas gali plisti nevaržomai. Taip buvo įkurtas Silicio slėnis. Tai išugdė ir konkurenciją, ir naujoves, todėl pasiekėme ten, kur esame dabar, naudodami AI tarp kitų technologijų.
„Didysis devynetas: kaip technikos titanai ir jų mąstymo mašinos gali iškreipti žmoniją“, Amy Webb
Tačiau JAV taip pat kenčia nuo tragiško įžvalgumo stokos. Užuot sukūrusi didelę DI ar mūsų ilgalaikės ateities strategiją, federalinė vyriausybė atėmė finansavimą iš mokslo ir technologijų tyrimų. Taigi pinigai turi būti iš privataus sektoriaus. Tačiau investuotojai tikisi ir tam tikros grąžos. Tai yra problema. Negalite planuoti savo mokslinių tyrimų ir plėtros proveržių, kai dirbate su pagrindinėmis technologijomis ir moksliniais tyrimais. Būtų siaubinga, jei didžiosios technologijų įmonės turėtų prabangą dirbti tikrai sunkiai, nerengdamos kasmetinės konferencijos, kuri parodytų savo naujausią ir didžiausią sėkmę. Vietoj to dabar turime daugybę blogų sprendimų, kuriuos kažkas iš G-MAFIA priėmė, tikriausiai dėl to, kad jie dirbo greitai, pavyzdžių. Pradedame matyti neigiamus padarinius, atsirandančius dėl įtampos tarp tyrimų, kurie naudingi žmonijai, ir investuotojų džiuginimo.
Dabar tai būtų pakankamai blogai, kaip yra, tiesa? Tačiau visa tai vyksta tuo pačiu metu, kai Kinijoje konsoliduojama didžiulė galia. Kinija turi nepriklausomą turto fondą, skirtą fundamentiniams pagrindiniams DI tyrimams. Jie išmeta milžiniškas pinigų sumas į DI. Ir jie turi visiškai kitokią idėją nei JAV, kai kalbama apie privatumą ir duomenis. Tai reiškia, kad jie turi daug daugiau duomenų, kuriuos galima išgauti ir patobulinti. Turėdama centrinę instituciją, vyriausybei labai lengva išbandyti ir kurti AI paslaugas, apimančias 1,3 mlrd. žmonių duomenis. Ir tai tik jų šalyje.
Tada jie turi juostos ir kelio iniciatyvą, kuri atrodo kaip tradicinė infrastruktūros programa, bet iš dalies taip pat yra skaitmeninė. Tai ne tik kelių ir tiltų tiesimas; tai taip pat apie 5G tinklų kūrimą ir šviesolaidžio klojimą bei apie duomenų gavybą ir rafinavimą užsienyje. Šių technologijų diegimas kelia pavojų žmonėms, kuriems rūpi, pavyzdžiui, žodžio laisvė ir Vakarų demokratijos idealai.
Kodėl turėtume siekti Vakarų demokratinių idealų?
Tai puikus klausimas. Aš gyvenau Kinijoje, Japonijoje ir, žinoma, Jungtinėse Valstijose. Ir jūs galėtumėte pažvelgti į mūsų šalies būklę šiuo metu ir tai, kas vyksta Kinijoje, ir susimąstyti, ar tai tikrai blogiausia? Beje, Kinijos socialinių kreditų vertinimo sistema amerikiečiams skamba keistai ir siaubingai, tačiau daugelis žmonių nesuvokia, kad atsiskaitymas ir elgesio stebėjimas kaimuose ir bendruomenėse amžinai buvo Kinijos kultūros dalis. Socialinio kredito balas tai tiesiog automatizuoja. Taip, tai nuostabus klausimas.
Spėju, ką sakyčiau, jei pažiūrėčiau į idealizuotą Kinijos komunizmo versiją ir į idealizuotą Vakarų demokratijos versiją, rinkčiausi Vakarų demokratiją, nes manau, kad ten yra geresnė galimybė laisvam idėjų srautui ir kasdienai. žmonėms, kad pasisektų. Manau, kad žmonių skatinimas už asmeninius ir asmeninius pasiekimus yra puikus būdas pakelti visuomenę, padeda išnaudoti savo individualų potencialą.
Ar tai teisingas palyginimas, kuria kryptimi šiandien eina pasaulis su AI? Ar turėtume lyginti idealizuotas Kinijos komunizmo versijas su Vakarų demokratija, ar blogiausias jų versijas?
Tai puikus klausimas, nes galite teigti, kad AI ekosistemos dalys jau daro tikrai neigiamą poveikį Vakarų demokratiniams idealams. Akivaizdu, kad viskas, kas nutiko „Facebook“, yra pavyzdys. Bet taip pat pažiūrėkite, kas vyksta su anti-vaxxer bendruomene. Jie skleidžia visiškai neteisingą informaciją apie vakcinas ir pagrindinius mokslus. Mūsų amerikietiškos tradicijos sakys, kad žodžio laisvė, platformos yra platformos, turime leisti žmonėms išreikšti save. Na, iššūkis yra tas, kad algoritmai pasirenka redakcinį turinį, dėl kurio žmonės priima labai blogus sprendimus ir dėl to serga vaikai.
Problema ta, kad mūsų technologijos darosi vis sudėtingesnės, tačiau mūsų mąstymas apie tai, kas yra žodžio laisvė ir kaip atrodo laisvosios rinkos ekonomika, nepasidarė toks sudėtingas. Mes linkę griebtis labai paprastų interpretacijų: žodžio laisvė reiškia, kad bet kokia kalba yra laisva, nebent ji prieštarauja šmeižto įstatymui, ir tuo istorija. Tai dar ne istorijos pabaiga. Turime pradėti sudėtingesnį ir protingesnį pokalbį apie mūsų dabartinius įstatymus, naujas technologijas ir apie tai, kaip galime pasiekti, kad šie du susitiktų.
Kitaip tariant, jūs tikite, kad iš ten, kur esame dabar, išsivystysime į labiau idealizuotą Vakarų demokratijos versiją. Ir jums tai labiau patiktų idealizuotam Kinijos komunizmui.
Taip, aš tikiu, kad tai įmanoma. Man didžiulis rūpestis yra tai, kad visi laukia, kad mes tempiame savo kulnus ir prireiks tikros katastrofos, kad žmonės imtųsi veiksmų, tarsi vieta, į kurią atvykome, nebūtų katastrofiška. Bet faktas, kad tymai man sugrįžo į Vašingtono valstiją yra katastrofiška baigtis. Taip pat ir tai, kas atsitiko po rinkimų. Nepriklausomai nuo to, kurioje politinio spektro pusėje esate, neįsivaizduoju, kad šiandien kas nors mano, kad dabartinis politinis klimatas yra geras mūsų ateičiai.
Taigi aš visiškai tikiu, kad yra kelias į priekį. Tačiau turime susiburti ir įveikti atotrūkį tarp Silicio slėnio ir DC, kad visi galėtume nukreipti valtį ta pačia kryptimi.
Ką rekomenduojate daryti vyriausybei, įmonėms, universitetams ir individualiems vartotojams?
AI vystymosi kelias yra problema, ir kiekvienas iš mūsų yra suinteresuotas. Tu, aš, mano tėtis, mano gretimas kaimynas, vaikinas iš Starbucks, pro kurį dabar einu. Taigi ką turėtų daryti kasdieniai žmonės? Geriau žinokite, kas ir kaip naudoja jūsų duomenis. Skirkite kelias minutes ir perskaitykite protingų žmonių parašytus darbus ir skirkite kelias minutes, kad išsiaiškintumėte, apie ką mes iš tikrųjų kalbame. Prieš palikdami savo gyvenimą ir pradėdami dalytis savo vaikų nuotraukomis, darykite tai informuotai. Jei jums viskas gerai, ką tai reiškia ir ką tai gali reikšti vėliau, gerai, bet pirmiausia turėkite šias žinias.
Įmonės ir investuotojai negali tikėtis, kad gaminį skubins vėl ir vėl. Tai mus paruošia problemoms kelyje. Taigi jie gali atlikti tokius veiksmus kaip sustiprinti įdarbinimo procesus, žymiai padidinti savo pastangas didinti įtrauktį ir užtikrinti, kad jų darbuotojai labiau atspindėtų realų pasaulį. Jie taip pat gali įjungti kai kuriuos stabdžius. Bet kokia investicija į dirbtinio intelekto įmonę, projektą ar bet ką, kas tai gali būti, taip pat turėtų apimti finansavimą ir laiką, skirtą tokiems dalykams kaip rizika ir šališkumas.
Universitetai savo programose turi sukurti erdvę hibridiniams laipsniams. Jie turėtų paskatinti CS studentus studijuoti lyginamąją literatūrą, pasaulio religijas, mikroekonomiką, kultūrinę antropologiją ir panašius kursus kitose katedrose. Jie turėtų remti dviejų studijų programas informatikos ir tarptautinių santykių, teologijos, politikos mokslų, filosofijos, visuomenės sveikatos, švietimo ir panašių srityse. Etikos nereikėtų dėstyti kaip atskiros pamokos, kurią reikia tiesiog pažymėti sąraše. Mokyklos turi paskatinti net kadencinius profesorius savo kursuose vesti sudėtingas diskusijas apie šališkumą, riziką, filosofiją, religiją, lytį ir etiką.
Viena didžiausių mano rekomendacijų yra GAIA, tai aš vadinu Global Alliance on Intelligence Augmentation, sukūrimas. Šiuo metu žmonių visame pasaulyje požiūris ir požiūris į duomenų rinkimą ir dalijimąsi, ką galima ir turėtų būti automatizuotas ir kaip gali atrodyti apskritai išmaniųjų sistemų ateitis, labai skiriasi. Taigi manau, kad turėtume sukurti kažkokią centrinę organizaciją, kuri galėtų sukurti pasaulines normas ir standartus, kažkokius apsauginius turėklus, kad dirbtinio intelekto sistemose būtų persmelkti ne tik Amerikos ar Kinijos idealai, bet ir pasaulėžiūra, kuri daug labiau reprezentuotų visus.
Visų pirma, turime būti pasirengę galvoti apie tai daug ilgesniu laikotarpiu, o ne tik po penkerių metų. Turime nustoti sakyti: „Na, mes negalime numatyti ateities, todėl nesijaudinkime dėl to dabar“. Tiesa, mes negalime numatyti ateities. Bet mes tikrai galime geriau planuoti.
Sutrumpinta šios istorijos versija iš pradžių pasirodė mūsų AI informaciniame biuletenyje „Algoritmas“. Jei norite, kad jis būtų pristatytas tiesiai į gautuosius, prisiregistruokite čia nemokamai.