211service.com
AI dabar tikras: pokalbis su Sophie Vandebroek
Kodėl niekada nebus kitos AI žiemos ir ką IBM ir MIT daro kartu, kad tai užtikrintų.
2019 m. vasario 28 d
Rėmėja Darktrace
Dirbtinis intelektas daugiau kartų nei beveik bet kuri kita inovacijų sritis atlaikė pasikartojančius pernelyg išpūstų vilčių ciklus, kuriuos sekė nusivylimas, pesimizmas ir finansavimo mažinimas. Tačiau Sophie Vandebroek, IBM besiformuojančių technologijų partnerysčių viceprezidentė, mano, kad dirbtinio intelekto žiemos tikrai yra praeitis, nes dabar yra daug skaičiavimo galios ir duomenų, skirtų neuroniniams tinklams apmokyti.
Šiame epizode Vandebroek dalijasi realių programų, kurias įgalino šis pokytis, pavyzdžiais – nuo vaizdo atpažinimo iki pokalbių robotų. Ji aprašo naujosios MIT-IBM Watson AI Lab misiją – 240 milijonų dolerių, 10 metų IBM mokslininkų ir MIT dėstytojų bei studentų bendradarbiavimą siekiant sutelkti dėmesį į pagrindinius pasiekimus, dėl kurių dirbtinis intelektas taps naudingesnis ir patikimesnis visose pramonės šakose nuo sveikatos priežiūros iki finansavimas saugumui.
Šį epizodą jums pristatė „Darktrace“, pasaulinė kibernetinės gynybos dirbtinio intelekto technologijų lyderė. „Darktrace“ būstinė yra San Franciske ir Kembridže, JK, ir turi beveik 2500 klientų visame pasaulyje, kurie naudoja programinę įrangą, kad aptiktų ir reaguotų į kibernetines grėsmes, kylančias jų verslui, vartotojams ir įrenginiams. „Darktrace“ sukūrė novatorišką mašininio mokymosi technologiją, kuri gali pastebėti neįprastą veiklą, naudodama metodą, pagrįstą žmogaus imuninės sistemos modeliu. Antroje laidos pusėje „Darktrace“ generalinė direktorė Nicole Eagan paaiškina, kaip veikia „Darktrace“ technologija ir kodėl įmonės turi įnešti naujų apsaugos priemonių į šiandienines kibernetinio ginklavimosi lenktynes.
RODYTI PASTABAS IR NUORODAS
MIT-IBM Watson AI laboratorija
PILNAS ATRAŠAS
Elizabeth Bramson-Boudreau: Iš „MIT Technology Review“ aš esu Elizabeth Bramson-Boudreau, o tai yra „Business Lab“ laida, kuri padeda verslo lyderiams suprasti naujas technologijas, atsirandančias iš laboratorijos ir į rinką. Šį epizodą jums pristatė „Darktrace“, pasaulinė kibernetinės gynybos dirbtinio intelekto technologijų lyderė. Vėliau programoje kalbėsiu su „Darktrace“ generaline direktore Nicole Eagan. Ji parodys, kaip AI ir mašininio mokymosi pažanga suteikia mums naujų būdų, kaip apsiginti nuo įsilaužėlių ir kibernetinių nusikaltėlių.
Elžbieta: Tačiau pirmasis mūsų svečias atvyko iš vieno naujausių dirbtinio intelekto tyrimų centrų – MIT-IBM Watson AI .Lab, vos už kelių kvartalų nuo mūsų biurų Kembridže, Masačusetso valstijoje. Tai yra daugiau nei 50 naujų projektų, kuriuose dalyvauja IBM mokslininkai ir MIT fakultetas, vieta, kurių tikslas – tobulinti pagrindines dirbtinio intelekto technologijas. Su mumis pasikalbėti nori viena iš tų pastangų architektų, daktarė Sophie Vandebroek.
Elžbieta: Šiuo metu Sophie yra IBM besiformuojančių technologijų partnerysčių viceprezidentė, o kompiuterių pramonėje ji žinoma dėl savo išskirtinės istorijos, skatinančios naujoves – ne tik IBM, bet ir Xerox, kur ji daugiau nei dešimtmetį praleido kaip Xerox vyriausioji technologijų pareigūnė. Ji buvo PARC Inc., garsios laboratorijos, anksčiau žinomos kaip Xerox PARC, direktorė. 2011 m. ji buvo įtraukta į Moterų technologijų šlovės muziejų. Laikydamiesi MIT IBM Watson AI laboratorijos temų, pradėjome kalbėti apie tai, kaip DI vystosi ir kodėl ji keičia įmones tokiais būdais, kuriuos dauguma vadovų tik pradeda suprasti.
Elžbieta: Sophie, ačiū, kad atėjai čia pasikalbėti su mumis ir sveiki.
Sophie Vandebroek: O, man labai malonu čia būti. Buvau aistringas jūsų žurnalo skaitytojas, todėl labai džiaugiuosi galėdamas dalyvauti podcast'e.
Elžbieta : Tikiuosi, kad galėsite pasikalbėti ne tik su manimi, bet ir su žmonėmis, kurie klausosi šio podcast'o apie tai, kur eina dirbtinis intelektas, ir apie tai, kokiame etape mes esame DI kūrimo etape. Žinau, kad daugelis žmonių kalba apie tai, kaip dirbtinis intelektas buvo ant darbo transformacijos slenksčio, tik tam, kad tos viltys išnyktų. Ar galime atsidurti kitoje iš šių situacijų, kai ji išnyksta, ar dabar viskas kitaip?
Sofija: Dabar tai labai skiriasi, AI yra tikras. Ir taip, žodis dirbtinis intelektas buvo sukurtas beveik prieš 70 metų. Tai praėjo daug dešimtmečių. Taigi, kas atsitiko? Kodėl tai nebuvo tikra tada ir kodėl tai tikra dabar? Yra dvi pagrindinės priežastys, kodėl dabar tai tikra. Ir taip yra dėl eksponentinių dėsnių. Pirmasis yra Moore'o įstatymas, kurį mes visi labai gerai žinome ir mylime. Tranzistorius, pagrindinis tranzistorius, buvo išrastas šeštajame dešimtmetyje. Iki 1975 m. centimetro kvadratiniame luste buvo 1000 tranzistorių. Šiandien IBM kuriamame centimetro kvadratiniame luste yra 10 milijardų tranzistorių, o dėl skaičiavimo galios turime kišenėse mobiliuosius įrenginius, naujausią didelio našumo kompiuterį Summit, žinote, tą IBM kompiuterį, kurį Oak. Neseniai įsigyta Ridge National Lab. Jis atlieka 200 petaflopų, tai yra 200 tūkstančių trilijonų skaičiavimų per sekundę. Aš turiu galvoje, labai greitai.
Sofija: Taigi turime tūrį, turiu omenyje didžiulę skaičiavimo galią, kuri yra labai svarbi, kad dirbtinis intelektas būtų tikras. Be to, antrasis įstatymas, kuris yra Metcalfe'o įstatymas. Bobas Metcalfe'as, kuris taip pat ilgą laiką buvo Bostono bendruomenės narys, dirbo „Xerox PARC“ ir, kaip žinote, prieš prisijungdamas prie IBM, kelis dešimtmečius „Xerox“ dirbau glaudžiai bendradarbiaudamas su PARC komanda, kai jis išrado Ethernet. Ir Ethernet prijungtas... Ethernet reikšmė, tinklo vertė yra proporcinga 2 ir n su n, įrenginių skaičiui tinkle. Taigi tai vadinama Metcalfe dėsniu, ir jis reiškė ne tik eternetą, bet, žinoma, World Wide Web, socialinius tinklus, ir sukūrė daug labai vertingų įmonių, kurias šiandien visi žinome.
Sofija: Bet be to, ji sukūrė didžiulį duomenų kiekį, tiesa? Taigi žiniatinklyje esantys duomenys kartu su struktūriniais skaitmeniniais duomenimis, kuriuos šiandien turi daugelis įmonių, daugelis įmonių pradėjo skaitmeninti visus savo darbo procesus kartu su visais duomenimis gaunami iš jutiklių su daiktų internetu ir jutikliais, gamyba ir fotoaparatais, kurie yra visur. fotoaparatai ir tt Duomenų yra didžiulis kiekis, iš tikrųjų jis eksponentiškai išaugo per pastarąjį dešimtmetį ar daugiau dabar. Taigi „AI žiemos“ įvyko, nes iš tikrųjų nebuvo skaičiavimo galios ir duomenų šiems neuroniniams tinklams apmokyti. Ir šiandien turime skaičiavimo galią. Mes turime duomenis. Ir per pastaruosius penkerius metus neuroninių tinklų srityje buvo padaryta didžiulė pažanga, nes pirmą kartą 2012 m. tai buvo giliai besimokantis neuroninis tinklas, kuris veikė grafiniame apdorojimo bloke, GPU. pirmą kartą laimėjo įvaizdžio atpažinimo konkursą. Ir iš tikrųjų šiose siaurose srityse dirbtinis intelektas pasižymi nepaprastai aukšta kokybe ir dideliu greičiu. Taigi dėl šių priežasčių, šių dviejų eksponentų, AI yra tikras. Ir iš tikrųjų aš sakyčiau, kad pats dirbtinis intelektas dabar yra eksponentinės kreivės pradžioje, kad mes sukuriame eksponentiškai greitas naujas įžvalgas, kurias asmenys, nesvarbu, kurioje pramonės šakoje dirbate, gali panaudoti priimdami greitus sprendimus realiuoju laiku. Be to, tai gali paspartinti atradimų procesą gyvosios gamtos mokslų tyrimuose ir apskritai. Taigi jis naudojamas. Ir jis tikrai gali paveikti kelias sritis.
Elžbieta: Taigi tai puikus paaiškinimas, kas iš tikrųjų lėmė šį pokytį ir kodėl AI šiandien yra tokia visur paplitusi verslo lyderių tema. Ką tai leidžia, ką dirbtinis intelektas leidžia verslui, ką prieš dešimtmetį buvo sunku ar net neįmanoma padaryti?
Sofija: Taip, tai leidžia įmonėms padidinti savo veiksmingumą ir efektyvumą pelningumo požiūriu. Tačiau tai taip pat leidžia jiems sukurti visiškai naujus verslo modelius ir naujas pajamų galimybes. Pateiksiu pirmojo pavyzdį. Pavyzdžiui, virtualūs agentai, tinkantys šiai siauro AI kategorijai, kurią ką tik įveikėme, šiandien esame plataus AI fazėje ir apie tai galime kalbėti prieš pereidami prie bendro dirbtinio intelekto. Tačiau virtualūs agentai arba pokalbių robotai, kuriuos daugelis iš mūsų šiandien žino ir su kuriais bendraujame kaip klientų serverių dalis, prieš dešimtmetį tiesiog neegzistavo. Viską atliko skambučių centro agentai, kurie turėjo panaudoti dideles duomenų bazes, kad gautumėte atsakymus į jūsų klausimus ir pan. Na, šiandien didžiąją dalį to virtualieji agentai gali padaryti labai efektyviai ir efektyviai. Tiesą sakant, kai kurie iš šių virtualių agentų šiandien labai greitai įvertins, ar esate ekstravertas, ar intravertas, ir pritaikys savo kalbą pagal savo stilių.
Sofija: Taip pat automatika. Pavyzdžiui, jei šiandien važiuojate automobiliu per rinkliavos punkto, tai visiškai automatinis valstybinio numerio ženklų atpažinimas ir nuskaitymas, todėl už važiavimą per rinkliavų punktus iš tikrųjų turėsite sumokėti už važiavimą per rinkliavos punktus. Vėlgi, dauguma šių procesų praeityje buvo atliekami rankiniu būdu. Nuotraukos būtų padarytos su valstybiniais numeriais, siunčiamos apdoroti į Indiją, o tada keturi iš penkių žmonių, jei jūsų valstybinis numeris bus įvestas į sistemą, jums bus išrašyta sąskaita. Tai visi šie transakciniai, įprasti, labai siauri, labai specifiniai procesai, kurie šiandien yra automatizuoti.
Elžbieta: Visa tai skamba fantastiškai. Ir kaip verslo vadovas galiu manyti, kad žinote, kodėl nenorėčiau matyti didesnio efektyvumo. Tačiau ar yra dalykų, apie kuriuos turėčiau pagalvoti apie mašininiu mokymusi pagrįstų įrankių riziką?
Sofija: Taip, rizikos tikrai yra. Ir daugelis įmonių – IBM tai yra svarbiausia. Kuriame įrankius ir galimybes kaip IBM OpenScale dalį arba turime kitų įrankių rinkinių, kuriuos pabrėšiu. Vienas iš jų – padėti įmonėms susidoroti su rizika. Tai taip pat pradeda domėtis įmonių valdybomis ir direktoriais, siekiant užtikrinti, kad būtų pašalintos šios rizikos, susijusios su dirbtinio intelekto diegimu ir įtraukimu į organizaciją. Leiskite man pabrėžti keletą. Pirmas dalykas yra užtikrinti, kad algoritmai, AI algoritmai būtų teisingi – kad AI algoritmo rezultatas, kadangi AI padeda žmonėms priimti sprendimus, kad sprendimai būtų teisingi ir etiški bei nešališki. Taigi ką tik paleidome atvirąjį kodą, bet kas gali padėti mums jį patobulinti, todėl IBM tyrinėjo atvirojo kodo AI Fairness 360 Toolkit, kuriame galite įtraukti savo algoritmą ir tada patikrinama, ar nėra įvairių paklaidų. Šiandien tikriname, ar nėra šališkumo dėl lyties, amžiaus, rasės ir kitų dalykų, pvz., pašto kodo. Kai kurios šališkumo priežastys yra tai, kad duomenų rinkinys, su kuriuo ugdomas argumentas, ypač įmonėse – įmonės neturi didžiulių duomenų kiekių, kaip vartotojų pasaulyje, tiesa, kur gali būti daug kačių nuotraukų. išmokyti vaizdo algoritmą atpažinti katę. Įmonės, kuriose įmonė, tarkime, ligoninė, mokykla ar įmonė, turi ribotą duomenų kiekį algoritmams apmokyti, todėl duomenų įvairovė ir įtraukimas į duomenų rinkinį gali būti nepakankamas, todėl iš tikrųjų algoritmai tampa šališkas.
Sofija: Pavyzdžiui, žmogiškųjų išteklių skyriai pradeda naudoti AI, kad padėtų ieškoti naujų darbuotojų. Taigi, jei jūsų šaltinis programinės įrangos kūrėjams, naudojantiems dirbtinio intelekto algoritmą, kuris gali būti apmokytas jūsų duomenimis, algoritmas sužinos, kad dauguma programinės įrangos kūrėjų yra vyrai, nes būtent juos samdėte anksčiau. Taigi kyla pavojus, kad algoritmai gali rekomenduoti, kad jūsų kitam samdomam darbuotojui, peržiūrėjus visus gyvenimo aprašymus, jie proporcingai rekomenduotų daugiau vyrų nei moterų programinės įrangos inžinerijos darbams. Visi žinome, kad programinės įrangos inžinieriui lytis nėra svarbi. Taip atsitiko, kad istoriniai duomenys buvo šališki. Taigi įrankiai tada rekomenduos turėti įvairesnį duomenų rinkinį.
Elžbieta: Gerai, taigi, kokios yra kitos rizikos?
Sofija: Gerai. Kita rizika yra ta, kad šiandieniniai algoritmai, ypač gilus mokymasis ir neuroniniai tinklai, yra tarsi juodosios dėžės. Taigi rizika yra ta, kad algoritmas jums atsakys. Taip, jūs gaunate paskolą arba ne, jūs negaunate paskolos, arba taip, jūs sergate odos vėžiu, nes siauras AI geriau nei žmonės nustato odos vėžį. Bet tai negali paaiškinti. Jame nepaaiškinama, kodėl ir kaip buvo gautas toks atsakymas. Taigi paaiškinamumas yra labai svarbus. Taigi yra rizika, kad savo versle negalėsite paaiškinti, kaip buvo gauti tam tikri atsakymai. Ir iš tikrųjų Europos Sąjungoje su GDPR, Bendraisiais duomenų apsaugos reglamentais, tai yra reikalavimas. Įmonės net negali naudoti AI, jei negali paaiškinti savęs. Viską reikia mokėti paaiškinti.
Elžbieta: Taigi papasakokite šiek tiek apie MIT-IBM Watson Lab ir jos misiją.
Sofija: Taip. Ačiū už klausimą. Tai labai įdomi IBM tyrimų ir MIT partnerystė, kurią užmezgėme prieš kiek daugiau nei metus. Taigi tai yra 240 milijonų USD įsipareigojimas IBM per 10 metų ir tai yra unikali laboratorija, universiteto ir pramonės bendradarbiavimo laboratorija pasaulyje. Kito tokio nėra. Tiesą sakant, aš ir MIT inžinerijos dekanė Anantha [Chandrakasan] pradėjome mąstyti 2017 m. vasarą, manau, kad tai buvo...
Sofija: Jūs man pasakėte, kad viskas įvyko gana greitai.
Elžbieta: Tai įvyko per tris savaites. Galbūt keturias savaites turėčiau, jei įskaičiuočiau pietus su Anantha, kol mūsų vyresnioji viceprezidentė pirmadienio rytą kalbėjosi su MIT prezidentu, o po trijų savaičių penktadienį sutartis buvo pasirašyta. Taip yra iš tikrųjų, vizija buvo sukurti šią jungtinę maždaug 100 tyrėjų laboratoriją, tarp tyrėjų buvo IBM mokslininkai, MIT profesoriai ir studentai, o rugsėjį šventėme pirmąsias metines. Praėjusį 2018 m. rugsėjį. Ir iš tikrųjų turime 49 bendrus projektus, kurie šiandien yra aktyvūs, kuriuose dalyvauja apie 100 žmonių arba 100 žmonių. Ir tai tikrai yra mokslinių tyrimų projektai, o ne taikomosios technologijos. Mes tikrai norėjome įsitikinti, kad tie 50 projektų sprendžia sudėtingiausias AI problemas. Ir jie daro būtent tai.
Sofija: Taigi yra keturi ramsčiai. Mes nustatėme keturis ramsčius. Vienas iš jų yra susijęs su pagrindiniais AI algoritmais ir būtent ten, kur mes sprendžiame šias sudėtingas problemas, pvz., AI, kuri gali paaiškinti save. Arba mokymasis iš mažų duomenų, įvairios metodikos, kaip mokytis iš mažų duomenų, pavyzdžiui, ligoninės turi nedidelį pacientų, bet nedidelį duomenų rinkinį.
Elžbieta: Norint išspręsti anksčiau minėtą problemą dėl to, kad įmonėje jos nėra, dažnai nepakanka duomenų, kad būtų galima iš tikrųjų išmokyti algoritmus.
Sofija: Ne taip, kaip tai buvo daroma praeityje dešinėje siauroje AI fazėje. Dabar esame šiame plataus AI etape, kai sistemos turės mokytis iš mažų duomenų. Taigi keli projektai MIT-IBM Watson AI laboratorijoje taip pat yra susiję su tuo.
Sofija: Antrasis ramstis – dirbtinio intelekto taikymas pramonės šakose. Šiandien mes žiūrime į tris pramonės šakas: sveikatos priežiūrą ir gyvosios gamtos mokslus, nes IBM Watson Health verslo padalinio būstinė yra Kembridže, Masačusetso valstijoje. Pramonei taikomas dirbtinis intelektas taip pat yra saugumas, taikomas saugumo įmonėms. Ir, žinoma, saugumas yra aktualus visoms pramonės šakoms. Ir tada trečioji pramonės šaka, į kurią daugiausia dėmesio skiriame, yra finansinės paslaugos, taigi finansai ir ekonomika. Taigi tai yra antrasis ramstis. MIT-IBM Watson AI laboratorijoje yra keturi ramsčiai.
Sofija: Trečiasis yra, mes tai vadiname AI fizika. Kokie yra techninės įrangos iššūkiai norint efektyviai ir efektyviai treniruotis debesyse ir pakraštyje. Ir tada ketvirtoji kategorija, dėl kurios aš labai džiaugiuosi, yra kategorija, kurią vadiname AI įgalinta gerove arba DI įgalinta bendra gerove. Tai vėlgi žiūri į šiuos iššūkius, kaip sukurti AI sistemas, kurios turi tikrai moralinių vertybių, kurios gali priimti etinius sprendimus. Pavyzdžiui, kokia yra darbo vietų ateitis, yra projektas, kurį turime šioje kategorijoje. Taip, tai yra keturi ramsčiai: pagrindiniai AI algoritmai, AI fizika, DI pramonės šakoms ir DI sukurtas klestėjimas. Ir dabar, kai atšventėme savo pirmąjį jubiliejų, ką tik susitarėme tarp MIT ir IBM, kad atversime duris kitoms didelėms įmonėms, kurios tikrai nori būti pažangiausiomis dirbtinio intelekto tyrimų srityje, prisijungti prie mūsų laboratorijos. Taigi, prie to ir dirbame toliau.
Elžbieta: Dvi sritys, apie kurias mes, MIT Technology Review, praleidžiame daug laiko, yra kriptovaliutos arba blokų grandinė ir kvantinė kompiuterija. Labai norėčiau išgirsti, ką jūs visi veikiate tose srityse. Ir galbūt galime pradėti nuo kriptovaliutų. Ir manau, kad man kiltų klausimas: kaip mes manome, kad „blockchain“ yra daugiau nei smalsumas, o iš tikrųjų kažkas, kas yra patikima ir stabili ir gali pagerinti verslo kontekstą, kuriame ji naudojama?
Sofija: Taip, jūs pasakėte tinkamą žodį. Taigi viskas priklauso nuo pasitikėjimo. Kai IBM, kai kalbame apie blokų grandinę, tiesą sakant, blokų grandinę, keletą metų tyrimų laboratorijose buvo atliekama daug blockchain tyrimų, o IBM dabar sukūrė verslą maždaug prieš dvejus su puse metų – blokų grandinės verslo padalinį. Matau trijų rūšių sritis, kuriose šiandien naudojama blokų grandinė arba kur eksperimentuojama daug prototipų. Viena iš jų yra kriptovaliutos, tokios kaip Bitcoin. Ir taip dauguma žmonių žino „blockchain“, jie galvoja apie „Bitcoin“. Ir tai yra visa kriptovaliutų sritis. Mes IBM nesidomime kriptovaliuta, nes mūsų klientai nesidomi kriptovaliuta. Mus domina pagrindinė „blockchain“ platforma. Tiesą sakant, didžioji dalis pagrindinės platformos buvo sukurta atvirojo kodo sistemoje „Hyperledger“, kurią valdo „Linux Foundation“, o IBM daug prisidėjo prie kodo, ir mes tai darysime ir toliau. Kitas yra blokų grandinė, ši pagrindinė platforma, naudojama vertės grandinėse, siekiant stebėti vertingas prekes ar vertingas skaitmenines prekes, kai jos patenka iš vietos į vietą, kur jos naudojamos. Ir galiu pateikti keletą pavyzdžių. Ir trečioji sritis, kurioje tai vertinga, ypač finansinių paslaugų pramonėje, yra skaitmeninė tapatybė. Ir galiu pateikti keletą pavyzdžių. Tačiau įmones domina galimybė sudaryti patikimus sandorius tarp partnerių, kurie iš prigimties gali nepažįstami vienas kito, pavyzdžiui, mažos įmonės ar didesnės įmonės, platintojai ar ūkininkai.
Sofija: Ir taip paskirstytu būdu sukuriamas pasitikėjimas. Taigi blokų grandinės tinklai, kuriuos sukūrėme kartu su savo klientais, yra privatūs tinklai. Jie nėra atviri visiems prisijungti. Jie yra privatūs. Tai tik leistinas tinklas. Vienas iš pirmųjų pavyzdžių, kurį padarėme prieš daugelį metų ir dabar veikia, yra maisto saugos blokų grandinės tinklas, kurį sukūrėme su Walmart. „Walmart“ buvo šio „blockchain“ tinklo ramstis, o tinkle yra daug „Walmart“ tiekėjų. O ten seka maistą nuo ūkio iki stalo. Ir ypač čia siekiama, kad jei kaip E. coli protrūkis ar bet kokia kita maisto saugos problema...
Elžbieta: Romėnų salotos.
Sofija: Taip, romėnų salotos. Aš turiu galvoje, tai vyksta visą laiką. Žinojome, kad protrūkis buvo kažkur Kalifornijoje, bet viskas, įskaitant salotas, užaugintas čia, Masačusetse, buvo paimta iš lentynos. Štai kas nutinka šiandien. Reikia daug laiko atsekti, kur įvyko protrūkis. Bet jei per dvi minutes ar greičiau stebite visas savo prekes per blokų grandinę, galite greitai atsekti, iš kur atkeliavo šios konkrečios salotos. Tada vis tiek reikia įeiti ir pažiūrėti, kuriame grandinės taške nuo ūkio iki parduotuvės iki stalo E. coli iš tikrųjų užteršė maistą. Bet tai lengviau nei iš pradžių išsiaiškinti, iš kur tai atsirado. Teisingai.
Elžbieta: Puiku. Tikrai nuostabu girdėti apie jus ir turėti galimybę vėl su jumis pasikalbėti. Ir puiku, kad laboratorija visai šalia. Tai nuostabus objektas ir malonu, kad esate kaimynystėje. Taigi ačiū.
Sofija: O, labai ačiū. Man tai buvo didelis malonumas.
Elžbieta: Šį epizodą jums pristatė „Darktrace“, pasaulinė kibernetinės AI technologijos lyderė. „Darktrace“ būstinė yra San Franciske, Kembridže, Anglijoje. Ji turi apie 2500 klientų visame pasaulyje, kurie naudoja savo programinę įrangą, kad aptiktų ir reaguotų į kibernetines grėsmes savo verslui, vartotojams ir įrenginiams. „Darktrace“ sukūrė naujovišką mašininio mokymosi technologiją, kuri gali pastebėti neįprastą veiklą. Norėdami sužinoti daugiau apie tai, kaip tai veikia, kalbėjausi su bendrovės generaline direktore Nicole Eagan.
Elžbieta: Smagu, kad galiu pasikalbėti.
Nicole Eagan: Jokiu problemu.
Elžbieta: Vertink, kad tai darai. Darktrace jūs lyginate savo kibernetinio saugumo prekės ženklą su žmogaus imunine sistema. Ir tikiuosi, kad galite mums paaiškinti, ką tuo nori pasakyti.
Nicole: Taigi, kas iš tikrųjų atsitiko, manau, kad saugumo pramonė buvo apsėsta stengdamasi, kad blogi vaikinai nepatektų į juos. Ir tai, ką mes supratome, yra tai, kad daug kartų labai sudėtingi užpuolikai, tokie kaip nacionalinės valstybės, pateks į bet kurį norimą tinklą. Taigi nusprendėme pakeisti problemą atvirkščiai ir manyti, kad blogiukai buvo viduje arba galės patekti į vidų. Tai paskatino mus iš tikrųjų pagrįsti savo dirbtinį intelektą žmogaus imuninės sistemos principais. Taigi, jei galvojate apie žmogaus organizmo imuninę sistemą, jis turi įgimtą savęs jausmą, leidžiantį žinoti, kas nėra aš, ir labai tiksliai bei greitai reaguoti. Būtent taip veikia mūsų dirbtinis intelektas. Tai įterpta kiekvienoje mūsų klientų įmonėje ir tik mokomasi savęs jausmo, kas yra normalu. Tai, ką mes vadiname kiekvieno vartotojo ir įrenginio, prijungto prie to tinklo, „gyvenimo modeliu“. Ir tai leidžia mums rasti neįprastų dalykų ir tiesiogine prasme sustabdyti išpuolius arba juos neutralizuoti.
Elžbieta: Ir kaip apskritai vertinate kibernetinių atakų pokyčius šiais laikais, nesvarbu, ar jos kyla iš nacionalinių valstybių, ar iš atskirų blogiukų, kibernetinių nusikaltėlių?
Nicole: Neseniai buvau susitikęs su vieno iš mūsų klientų vyriausiuoju apsaugos pareigūnu ir manau, kad jis puikiai tai apibūdino. Jis pasakė, tik pagalvokite, kažkur kitur pasaulyje yra komanda, kuri visą darbo dieną galvoja apie tai, kaip pavogti jūsų intelektinę nuosavybę arba kaip nors gauti iš jūsų informaciją. Ir tai iš tikrųjų yra su kuo įmonės kovoja, ir to priežastis yra kibernetinės ginkluotės lenktynės, kai esame įpratę, kad vyriausybės kovoja prieš vyriausybes – nors tai vis dar vyksta, dabar turime visiškai naują dimensiją, kur nacionalinės valstybės iš tikrųjų yra galimai užpuolė įmones. Ir tai reiškia, kad tas skaitmeninis mūšio laukas tikrai pasikeitė ir daugumai korporacijų praeityje tikrai nereikėjo gintis. Dabar jūs tai apsunkinate ir derinate su tuo, kad šios nacionalinės valstybės daugeliu atvejų taip pat gali būti organizuotos su labai stipriu pasauliniu kibernetinių nusikaltimų žiedu. Ir toks bendradarbiavimas tarp tų subjektų taip pat yra tarsi nauja dimensija. Taigi tai, su kuo susiduria įmonės, yra gana nauja ir gana nauja, palyginti su išpuoliais, kurie buvo įvykdyti gal prieš penkerius ar 10 metų.
Elžbieta: Gerai. Taigi, kalbant apie tai, ką daro Darktrace, ar naudojate dirbtinį intelektą, kad aptiktumėte ataką, apsigintumėte nuo atakos, ar abu?
Nicole: Tai puikus klausimas. Žinote, aš manau, kad kai kuriais atvejais įmonės naudoja dirbtinį intelektą tiesiog automatizuoti žmogaus procesus. Taigi, pavyzdžiui, kiekviena įmonė paprastai turi saugos operacijų centrą. Ten dirbs daug grėsmių analitikų ir reaguotojų į incidentus. Ir yra vienas požiūris, kuris gerai sako, kodėl gi nepasimokius iš veiksmų, kurių jie imasi vadinamajame „Playbook“, kad reaguotų į pažeidimus ir jį automatizuotų. Ir tai gali šiek tiek padidinti efektyvumą. Tačiau tuo pat metu tai nepakeis žaidimo. Kitas dalykas, kurį mačiau naudojamą dirbtiniu intelektu, iš esmės yra visų istorinių atakų, įvykusių prieš kitus žmones, kitas įmones, analizavimas ir bandymas panaudoti tai kaip būsimų grėsmių rodiklį. Dabar, nors tai skamba labai įdomiai ir praktiškai, iš tikrųjų atrodo, kad jis iš esmės yra ydingas ir taip yra todėl, kad atakos taip greitai keičiasi. Tiesą sakant, daugeliu atvejų yra tik naujų atakų atmainų, kai pakeičiama viena kodo eilutė, o dabar vadinamieji parašai nebeatitinka. Taigi mūsų atveju naudojame daugybę neprižiūrimų, prižiūrimų ir gilaus mokymosi būdų, kad galėtume ne tik rasti atakas, bet ir turėti dirbtinį intelektą, kaip ištirti ataką. Ir taip pat svarbiausia, kaip iš tikrųjų imtis veiksmų. Ir tai labai retai. Tiesą sakant, nėra jokios kitos įmonės, kuri nenaudoja dirbtinio intelekto.
Elžbieta: Teisingai. Taigi jūs darote abu dalykus. Jūs ir aptinkate, ir imasi veiksmų.
Nicole: Mes iš tikrųjų naudojame dirbtinį intelektą, kad aptiktų, ištirtų ir imtųsi veiksmų. Ir ta paskutinė dalis, imtis veiksmų, yra tikrai sunki ir tikrai įdomi. Tai puiku, nes jis gali labai greitai reaguoti į atakas, iš tikrųjų vidutiniškai jis gali reaguoti greičiau nei per dvi sekundes. Ir kai šios atakos juda mašinos greičiu, tai labai svarbu. Bet kitas dalykas, kurį mes nustatėme, iš praktinės perspektyvos, yra tai, kad saugos organizacijos žmonėms tai užtrunka – galbūt tai pirmas kartas, kai jie dirba su dirbtiniu intelektu ir yra papildomi – jiems reikia šiek tiek laiko. iš tikrųjų sukurti tą pasitikėjimą. Taigi iš tikrųjų sukūrėme visiškai naują galimybę teikti rekomendacijas. Ką daryti, jei dirbtinis intelektas rekomenduoja, kokių veiksmų imtųsi, o žmogus tai patvirtins? Ir kai žmonės pradeda matyti, oho, kiekvieną kartą pateikia teisingą rekomendaciją, jie sukuria pasitikėjimą ir įjungia jį į vadinamąjį aktyvųjį režimą. Taigi manau, kad per pastaruosius penkerius metus tai padarę beveik 2 500 įmonių, mes tikrai gerai supratome, ko reikia norint sukurti pasitikėjimo ryšį, tačiau taip pat mūsų algoritmai tapo tikrai stiprūs ir tikrai protingi reaguodami į šiuos išpuolius. realiu laiku.
Elžbieta: Taigi, gerėjant gynybai, ar ne teisinga sakyti, kad atakos taip pat gerės, galbūt naudojant dirbtinį intelektą kovojant su į DI orientuota ar DI organizuota kibernetinė gynyba?
Nicole: Jūs esate visiškai teisus, nors tai dar ankstyvos dienos ir matėme tik požymių, kad tai gali eiti ta linkme, taip pat matėme tokius dalykus kaip elgesio atakos, per kurias AI iš tikrųjų gali išmokti jūsų stiliaus ir bendravimo būdo. kurį naudojate, tarkime, el. Šiame etape tai buvo šiek tiek pagrindinis mašininis mokymasis. Tačiau mes visiškai tikimės, kad bus visiškai nauja atakų kategorija, vadinama įžeidžiančiu AI. Tai reiškia, kad užpuolikai kaip atakų dalį pradės naudoti įvairias mašininio mokymosi formas, AI ir galiausiai gilų mokymąsi. Taigi tai per naktį pakeis visą šią pramonę. Ir aš manau, kad iš esmės tai daugelis vadovų tikriausiai dar nesvarstė.
Elžbieta: Teisingai. Taigi tai labai įdomu, nes kai kalbėjote apie tai, kaip „Darktrace“ įvertina, kokia yra „įprasta veikla“ tinkle, man atrodo, kad gali būti ir kitų tos informacijos ar tos įžvalgos panaudojimo atvejų. Ir man įdomu, ar ne tik kibernetinis saugumas, bet ir pagalvojote apie įprastą veiklą, kuri padėtų tvarkyti kitus dalykus, pvz., atitikties reikalavimams ar rizikos valdymą, panašius dalykus.
Nicole: absoliučiai. Manau, kad buvo įdomu tai, kad savo klientų vardu sukūrėme tikrai unikalų duomenų rinkinį. Taigi kiekvienas iš jų, kuris šiandien naudoja Darktrace saugumui, iš tikrųjų turi integruotą dirbtinį intelektą, kuris mokosi savęs jausmo ir nuolat mokosi bei atnaujina. Ir tai yra duomenų rinkinys, kurį galima naudoti kitiems dalykams. Jis galėtų būti naudojamas siekiant atitikties reglamentams. Tiesą sakant, kai kurie „Darktrace“ klientai šiandien naudojasi mumis siekdami laikytis HIPAA ir HITRUST sveikatos priežiūros srityje arba tokių dalykų kaip DFS, kuris yra Niujorko valstijos finansinių paslaugų reglamentas. Taigi jau matome pirmuosius rodiklius, kaip galima panaudoti šiuos dirbtinio intelekto modelius ir tą unikalų duomenų rinkinį. Manau, kad vienas tikrai įdomus naudojimo atvejis yra susijungimai ir įsigijimai. Kai kurios įmonės naudoja mus deramo patikrinimo etapuose, kad susijungimai ir įsigijimai iš tikrųjų būtų geriau matomi tikslinio turto aplinkoje. Ir šiandien jie naudojasi tuo, kad iš tikrųjų sužinotų, ar tame tinkle gali būti konkurentas arba nacionalinė valstybė, kuri, pavyzdžiui, bandytų pavogti intelektinę nuosavybę. Tačiau yra daug platesnių susijungimų ir įsigijimų deramo patikrinimo tipų, kuriems jis gali būti naudojamas. Ir galiausiai, kai kurie klientai naudojasi mumis siekdami laikytis duomenų privatumo, pvz., GDPR, matydami, koks srautas gali patekti į Europą ir iš jos. Taigi visiškai manau, kad nors šiandien mes tik atrakiname šio duomenų rinkinio ir mūsų dirbtinio intelekto modelių, skirtų kibernetiniam saugumui, galią, ateityje galėtume priimti sprendimą, kad padėtume klientams naudoti kitus raktus jį atrakinti ir suteikti papildomos vertės.
Elžbieta: Ir su ta informacija daryti skirtingus dalykus. Taip, tai žavu. Nicole, labai ačiū, kad kalbėjai su manimi apie tai.
Nicole: Labai ačiū, Elizabeth.
Elžbieta: Štai šiai „Verslo laboratorijos“ serijai. Aš esu jūsų šeimininkė Elizabeth Bramson-Boudreau. Esu „MIT Technology Review“ generalinis direktorius ir leidėjas. Mes buvome įkurti 1899 m. Masačusetso technologijos institute. Mus galite rasti spaudoje, žiniatinklyje, dešimtyse tiesioginių renginių kiekvienais metais, o dabar ir garso formatu. Norėdami gauti daugiau informacijos apie žurnalą ir laidą, apsilankykite mūsų svetainėje TechnologyReview.com. Mūsų laida pasiekiama visur, kur gaunate podcast'us. Jei jums patiko šis epizodas, tikimės, kad skirsite šiek tiek laiko įvertinti ir peržiūrėti mus „Apple Podcasts“. „Business Lab“ yra „MIT Technology Review“ produkcija. Prodiuseris yra Wade'as Roushas, padedamas Mindy Blodgett. Ypatingas ačiū mūsų svečiams Sophie Vandebroek ir Nicole Eagan. Ir ačiū mūsų rėmėjui „Darktrace“, pasauliniam kibernetinės gynybos dirbtinio intelekto technologijų lyderiui. Ačiū, kad išklausėte. Greitai grįšime su nauja serija.