Apdorojimas įrenginyje ir dirbtinis intelektas vyksta kartu

Bendradarbiaujant su Qualcomm

Nesvarbu, ar naudojate autonominę transporto priemonę, naudojate veido atpažinimą norint pasiekti banko sąskaitą, ar saugote įrenginį nuo greitai kintančių saugumo grėsmių, dirbtinis intelektas (AI) vaidina didesnį vaidmenį mūsų gyvenime. Anksčiau šiam apdorojimui buvo reikalinga debesies galia, tačiau dabartiniai įrenginiai, tokie kaip išmanieji telefonai ir dronai, yra pritaikyti vykdyti daug skaičiavimo reikalaujančias AI operacijas. Tiesą sakant, daugeliu atvejų kraštinis įrenginys yra tinkamiausia platforma dirbtinio intelekto valdomoms programoms paleisti.

Realybė tokia, kad šiandien atsiranda daugiau dirbtinio intelekto programų, nei daugelis iš mūsų supranta. Kai įrenginyje įdiegtas dirbtinis intelektas, jis gali labai išplėsti ir pagerinti mūsų gyvenimą – užfiksuoti ryškesnius vaizdus ir vaizdo įrašus, bendrauti su mumis natūraliau, suvokti aplinką ir savarankiškai saugiai nukreipti mus į tikslą.

AI yra skėtinis terminas, skirtas aprėpti viską, kas padeda įrenginiui atkartoti žmogaus smegenis, sako Gary Brotman, Qualcomm produktų valdymo direktorius. Mašinų mokymasis (ML) yra plati metodų ir algoritmų klasė, skirta išspręsti problemas, dėl kurių dirbtinis intelektas yra įmanomas. Klasė, į kurią daugiausia dėmesio skiriame, yra gilusis mokymasis (DL) ir pasikartojantys neuroniniai tinklai (RNN), veikiantys tikrame įrenginyje.

Žymiai patobulinus AI algoritmus ir įrenginyje atliekamą apdorojimą, du esminius ingredientus, kad dirbtinis intelektas būtų paplitęs visur, naudotojams suteikiama sklandesnė ir patrauklesnė patirtis. Tai ypač aktualu, kai dirbtinio intelekto funkcionalumas perkeliamas į transporto priemones, buitinius įrenginius ir daiktų interneto (IoT) jutiklius. Dėl daugybės dirbtinio intelekto technologijų, pvz., ML, DL ir RNN, patobulintos suvokimo ir pažinimo galimybės dabar gali veikti moderniuose kraštiniuose įrenginiuose.

Pavyzdžiui, įrenginyje esantis AI gali pagerinti vaizdo atpažinimą ir pažangų vaizdo apdorojimą, pvz., sukurti „bokeh“ efektus (švelnus nefokusuotas fonas) ir stiliaus perkėlimą. Įrenginiai su dirbtiniu intelektu taip pat gali išmokti atpažinti raktinius žodžius ir balsus, pagerinti jų reakciją į vartotoją ir padėti versti užsienio kalbas.

Be to, dirbtinis intelektas gali padėti įrenginiams ir programoms geriau suvokti naudotojų nuostatas ir aplinką, suprasti ketinimus ir reaguoti kontekstą atitinkančiais būdais. AI jūsų įrenginyje suteikia daugiau konteksto patirties, sako Brotmanas. Ir laikui bėgant jūsų įrenginys galės numatyti ir geriau suprasti, ką ketinate daryti toliau.

AI tavo rankoje

Įrenginio AI turi keletą reikšmingų pranašumų. Pirmasis yra pasirodymas. Apdorojimas įrenginyje yra tiesiog greitesnis – jokios kelionės į debesį pirmyn ir atgal, sako Brotmanas. Kitas yra privatumas. Žmonės mielai dalijasi kai kuriais asmeniniais duomenimis, bet ne visais. Ir trečia – patikimumas. Mobilieji tinklai yra plačiai paplitę, tačiau nėra garantijos, kad visada turėsite ryšį.

Spektaklis: Dirbtinio intelekto algoritmų vykdymas įrenginyje (nepriklausomai nuo debesies) gali labai pagerinti reakcijos laiką ir efektyvumą, nes duomenų nereikia perkelti iš debesies į įrenginį ir atvirkščiai. Tai svarbu, nes mobiliojo AI galimybės paprastai priklauso nuo vartotojo patirties ir sprendimų priėmimo laiko.

AI programos paprastai veikia realiuoju laiku ir yra svarbios, sako Jeffas Gehlhaaras, „Qualcomm“ technologijų viceprezidentas. Daugelis AI naudojimo atvejų, kurie pagerina patirtį, negali sau leisti delsos.

Pavyzdžiui, autonominė transporto priemonė, kuriai reikia įjungti stabdžius, negali sau leisti net milisekundės delsos, kuri gali atsirasti dėl debesies apdorojimo. Kad transporto priemonė veiktų saugiai, sprendimai turi būti priimti per sekundės dalį.

Kalbant apie vartotojo patirtį, natūrali balso vartotojo sąsaja gali toleruoti tik tiek delsos. Vartotojai yra įpratę prie neatidėliotinų atsakymų, kai naudoja natūralios kalbos kalbos apdorojimo sąsają, o tinklo vėlavimų pasekmės sukels prastą patirtį.

Privatumas ir saugumas: Duomenų saugojimas įrenginyje užtikrina privatumą, o dirbtinis intelektas taip pat naudojamas biometriniam autentifikavimui naudojant balsą, pirštų atspaudus, rainelę ir veido atpažinimą. Naudoti veidą įrenginiui atrakinti tampa įprasta, sako Brotmanas. Be to, atsiranda 3D veido atpažinimo funkcija, užtikrinanti didesnį autentiškumą, leidžiantį atlikti mokėjimus mobiliaisiais telefonais.

Dirbtinio intelekto programų apdorojimas įrenginyje taip pat gali padidinti įrenginio ir duomenų saugumą, nes atidžiai stebima, ar elgiamasi netinkamai. AI gali padėti aptikti kenkėjiškas programas ir nenormalų elgesį, sako Gehlhaar. Galime išmokyti neuroninį tinklą, kad pamatytume, kaip blogai elgiasi veikėjai. Ir gali aptikti tą blogą elgesį, pvz., paklausti: „Kodėl mano fotoaparato programa atidaro mano kontaktų duomenų bazę?“

Patikimumas: Netgi pažangiausiose pasaulio vietose mobiliojo ryšio tinklo aprėptis nėra visur. Tačiau kalbant apie tam tikras AI valdomas galimybes, nėra vietos klaidoms. Autonominės transporto priemonės tiesiog negali sau leisti patirti nutrūkusio belaidžio ryšio signalo, kuris gali atsirasti įvažiuojant į tunelį ar automobilių stovėjimo aikštelę. Apdorojimas įrenginyje, be kitų perteklinių funkcijų, visada bus būtinas atliekant svarbius veiksmus, pvz., autonominį vairavimą.

AI pritaikymas Edge Devices

Nors šios AI funkcijos dabar gali veikti įrenginyje, debesys vis dar atlieka tam tikrą vaidmenį, ypač papildydami apdorojimą įrenginyje. Dirbtinio intelekto programos vis dar remiasi debesų platformomis, kad galėtų valdyti didelius duomenis ir mokyti neuroninių tinklų modelius, kurie lemia AI išvadas.

Patys „Edge“ įrenginiai taip pat turi būti įrengti, kad galėtų efektyviai vykdyti AI darbo krūvius. Pavyzdžiui, apdorojimas turi vykti laikantis platformos apribojimų, įskaitant energijos suvartojimą ir šilumines ribas. Programų procesoriai su įvairiais apdorojimo varikliais ypač tinka efektyviai vykdyti AI užduotis. Pavyzdžiui, „Qualcomm Snapdragon“ mobiliojoje platformoje yra trys atskiri apdorojimo varikliai – centrinis procesorius (CPU), grafikos apdorojimo blokas (GPU) ir skaitmeninis signalų procesorius (DSP) su vektorinio apdorojimo galimybėmis – visi jie atlieka pagrindinius vaidmenis. įrenginio AI.

Naudojant heterogeninį skaičiavimą, mikroschemoje yra daug skirtingų variklių, kad būtų galima efektyviausiai atlikti tam tikrą užduotį, sako Patas Lawloras, Qualcomm techninės rinkodaros vadovas. CPU, GPU ir DSP turi skirtingas stipriąsias ir silpnąsias puses ir gali veikti kartu arba atskirai, atsižvelgiant į AI užduotį. Jie papildo vienas kitą, o dirbtinio intelekto užduotys vykdomos naudojant atitinkamus variklius, kad būtų užtikrintas didelis našumas esant mažai galiai.

Padidinta apdorojimo galia, integruota į šiuolaikinių kraštinių įrenginių mikroschemų rinkinius, padeda jiems susidoroti su intensyviu apdorojimu. Pavyzdžiui, „Qualcomm Hexagon 685 DSP“, „Adreno 630 GPU“ ir „Kryo 385“ procesorius „Snapdragon 845“ gali užtikrinti iki dviejų ar trijų kartų greitesnį AI apdorojimą, palyginti su ankstesnės kartos modeliu. Pavyzdžiui, šešiakampis DSP iš pradžių buvo sukurtas daug vektoriaus matematikos darbo krūviams, pvz., garso apdorojimui, ir toliau tobulinamas, kad būtų galima išspręsti AI darbo krūvius, pvz., Neuroninių tinklų spartinimą atliekant AI išvadas.

Kas laukia mobiliojo AI?

Mobilusis AI yra sparčiai auganti rinka. Nuolat tobulėjant neuroniniams tinklams, DL algoritmams ir aparatūros projektavimui, pamatysime didelius tikslumo ir greičio patobulinimus bei naujų, įtraukiančių naudotojų patirtį.

Platesnėje mobilumo srityje 5G belaidžiai tinklai taip pat yra horizonte. AI pagerins ir padidins 5G ir atvirkščiai, sako Brotmanas. 5G leis įrenginiams laisviau bendrauti tarpusavyje ir dalytis duomenimis bei kontekstu. Vykdydami šią plėtrą patirsime visiškai prijungtą pažangių įrenginių visatą, kuri palengvins labiau suasmenintą, realiuoju laiku teikiamą naudotojo patirtį.

Mūsų gyvenimas šiandien yra turtingesnis dėl mūsų įrenginių galimybių, o mūsų ateitis vis labiau gerės dėl dirbtinio intelekto pažangos. Šių dviejų stiprių tendencijų suartėjimas jau formuoja mūsų asmeninio ir verslo gyvenimo patirtį.

Norėdami sužinoti daugiau apie įrenginio AI, apsilankykite qualcomm.com/artificial-intelligence .

paslėpti