Kodėl vaikams reikia ypatingos apsaugos nuo AI įtakos

Ludovic Toinel / Unsplash

Algoritmai gali pakeisti vaikų gyvenimo eigą. Vaikai bendrauja su Alexas, kurie gali įrašyti savo balso duomenis ir paveikti jų kalbą bei socialinį vystymąsi. Jie siunčia vaizdo įrašus „TikTok“ ir „YouTube“, kuriuos jiems siunčia rekomendacijų sistemos, kurios galiausiai formuoja jų pasaulėžiūrą.

Algoritmai taip pat vis dažniau naudojami siekiant nustatyti, koks yra jų išsilavinimas, ar jie gaus sveikatos priežiūrą ir net ar jų tėvai laikomi tinkamais jais rūpintis . Kartais tai gali turėti pražūtingų padarinių: pavyzdžiui, praėjusią vasarą tūkstančiams studentų neteko stojimo į universitetą po to algoritmai – naudojamas vietoj pandemijos atšauktų standartizuotų testų – netiksliai numatė jų akademinius rezultatus.

Kitaip tariant, vaikai dažnai yra priešakyje, kai kalbama apie naudojimąsi dirbtiniu intelektu ir juos naudojant, todėl jie gali susižaloti. Kadangi jie vystosi intelektualiai, emociškai ir fiziškai, jie yra labai formuojami, sako Steve'as Vosloo, Jungtinių Tautų vaikų fondo UNICEF skaitmeninio ryšio politikos specialistas.

Vosloo vadovavo rengiant a naujas gairių rinkinys Unicef ​​sukurta siekiant padėti vyriausybėms ir įmonėms kurti AI politiką, kurioje atsižvelgiama į vaikų poreikius. Rugsėjo 16 d. paskelbtos devynios naujos gairės yra kelių konsultacijų su politikos formuotojais, vaikų raidos tyrinėtojais, dirbtinio intelekto specialistais ir vaikais visame pasaulyje kulminacija. Juose taip pat atsižvelgiama į JT Vaiko teisių konvenciją – žmogaus teisių sutartį, ratifikuotą 1989 m.

Gairės nėra dar vienas AI principų rinkinys, iš kurių daugelis jau sako tuos pačius dalykus. Šių metų sausio mėn. Harvardo Berkmano Kleino centro apžvalga iš 36 žinomiausių dokumentų, kuriais vadovaujamasi nacionalinės ir įmonės AI strategijos, buvo nustatytos aštuonios bendros temos – tarp jų privatumas, saugumas, sąžiningumas ir paaiškinamumas.

Atvirkščiai, Unicef ​​gairės yra skirtos papildyti esamas temas ir pritaikyti jas vaikams. Pavyzdžiui, dirbtinio intelekto sistemos turėtų būti ne tik paaiškinamos – jos turėtų būti paaiškinamos vaikams. Jie taip pat turėtų atsižvelgti į unikalius vaikų vystymosi poreikius. Vaikai turi papildomų teisių nei suaugusieji, sako Vosloo. Apskaičiuota, kad jie taip pat sudaro bent trečdalį interneto vartotojų. Jis pažymi, kad čia nekalbame apie mažumos grupę.

Be AI daromos žalos mažinimo, principų tikslas yra skatinti kurti dirbtinio intelekto sistemas, kurios galėtų pagerinti vaikų augimą ir gerovę. Pavyzdžiui, jei jie yra gerai suprojektuoti, buvo įrodyta, kad dirbtinio intelekto mokymosi įrankiai tobulinti vaikų kritinio mąstymo ir problemų sprendimo įgūdžius , ir jie gali būti naudingi vaikams, turintiems mokymosi sutrikimų. Emociniai dirbtinio intelekto padėjėjai, nors ir gana besiformuojantys, galėtų teikti psichikos sveikatos paramą ir, kaip įrodyta, pagerina autistiškų vaikų socialinius įgūdžius. Veido atpažinimas, naudojamas su griežtais apribojimais, gali padėti atpažinti vaikus, kurie buvo pagrobti ar parduoti.

Vaikai taip pat turėtų būti mokomi apie AI ir skatinami dalyvauti jį plėtojant. Tai ne tik jų apsauga, sako Vosloo. Tai yra jų įgalinimas ir agentūros suteikimas formuoti savo ateitį.

Kalbant apie nepalankias grupes, žinoma, vaikai yra labiausiai nuskriausti.

Yi Zeng

Unicef ​​nėra vienintelis, kuris galvoja apie šią problemą. Likus dienai iki šių gairių projektų paskelbimo, Pekino dirbtinio intelekto akademija (BAAI), organizacija, remiama Kinijos mokslo ir technologijų ministerijos bei Pekino savivaldybės, paskelbė. AI principų rinkinys ir vaikams.

Pranešimas paskelbtas praėjus metams po BAAI išleidimo Pekino AI principai , suprantama kaip pagrindinės Kinijos nacionalinės AI plėtros vertybės. Nauji principai, išdėstyti specialiai vaikams, turi būti konkretus bendresnių principų įgyvendinimas, sako Yi Zeng, BAAI AI etikos ir tvaraus vystymosi tyrimų centro direktorius, vadovavęs jų projektui. Jie glaudžiai atitinka Unicef ​​gaires, taip pat paliečia privatumą, sąžiningumą, paaiškinamumą ir vaikų gerovę, nors kai kurios detalės labiau susijusios su Kinijos rūpesčiais. Pavyzdžiui, gairės, kaip pagerinti vaikų fizinę sveikatą, apima dirbtinio intelekto naudojimą siekiant padėti kovoti su aplinkos tarša.

Nors šios dvi pastangos nėra formaliai susijusios, laikas taip pat nėra atsitiktinis. Po AI principų antplūdžio per pastaruosius kelerius metus abu pagrindiniai rengėjai teigia, kad tolesnis logiškas žingsnis buvo sukurti labiau pritaikytas vaikams gaires. Kalbėdamas apie nepalankioje padėtyje esančias grupes, žinoma, vaikai yra labiausiai nuskriausti, sako Zeng. Štai kodėl mes tikrai turime [suteikti] ypatingą dėmesį šiai žmonių grupei. Rengdamos atitinkamus dokumentus komandos bendravo viena su kita. Kai Unicef ​​surengė konsultacinį seminarą Rytų Azijoje, Zeng dalyvavo kaip pranešėjas.

Unicef ​​dabar planuoja vykdyti bandomąsias programas su įvairiomis šalimis partnerėmis, kad stebėtų, kokios praktiškos ir veiksmingos jų gairės skirtinguose kontekstuose. BAAI sudarė darbo grupę, kurią sudaro kai kurių didžiausių šalies nacionalinę dirbtinio intelekto strategiją skatinančių įmonių atstovai, įskaitant švietimo technologijų įmonę TAL, buitinės elektronikos įmonę „Xiaomi“, kompiuterinės vizijos įmonę „Megvii“ ir interneto milžinę „Baidu“. Tikimasi, kad jie pradėtų paisyti savo produktų principų ir paveiktų kitas įmones bei organizacijas.

Tiek Vosloo, tiek Zengas tikisi, kad gairės padidins informuotumą apie šias problemas, išreikšdamos unikalius susirūpinimą, kurį AI kelia vaikams. Į tai ateiname plačiai atmerktomis akimis, sako Vosloo. Suprantame, kad tai yra nauja teritorija daugeliui vyriausybių ir įmonių. Taigi, jei laikui bėgant pamatysime daugiau pavyzdžių, kai vaikai įtraukiami į dirbtinio intelekto ar politikos kūrimo ciklą, labiau rūpinsimės, kaip renkami ir analizuojami jų duomenys – jei matysime, kad dirbtinis intelektas tapo lengviau paaiškinamas vaikams ar jų globėjams – būtų laimė. mums.

paslėpti