Kodėl dirbtinio intelekto tyrinėtojai neturėtų atsukti nugaros kariuomenei

JAV Kariuomenė

Neseniai daugiau nei 2400 DI tyrėjų pasirašė a įkeitimas žadėdamas nekurti vadinamųjų autonominių ginklų – sistemų, kurios pačios spręstų, ką žudyti. Tai įvyko po to, kai „Google“ nusprendė nepratęsti sutarties dėl Pentagono tiekimo dirbtiniu intelektu, kad būtų galima analizuoti dronų filmuotą medžiagą, po to, kai bendrovė patyrė spaudimą iš daugelio darbuotojų, kurie priešinosi jos darbui su projektu, žinomu kaip Maven.

Paulas Scharre'as, naujos knygos autorius, Army of None: autonominiai ginklai ir karo ateitis , mano, kad dirbtinio intelekto tyrėjai turi padaryti daugiau nei atsisakyti, jei nori pokyčių.

Paulius Šaras. Laimėkite McNamee / Getty Images

Armijos reindžeris Irake ir Afganistane, o dabar vyresnysis Naujojo Amerikos saugumo centro bendradarbis, Scharre'as teigia, kad dirbtinio intelekto ekspertai turėtų bendradarbiauti su politikos formuotojais ir kariniais specialistais, kad paaiškintų, kodėl tyrinėtojai yra susirūpinę, ir padėtų jiems suprasti apribojimai AI sistemų.

Scharre kalbėjosi su SU Technologijų apžvalga vyresnysis redaktorius Willas Knightas apie geriausią būdą sustabdyti potencialiai pavojingas AI ginklavimosi varžybas.

paulscharre.com

Kaip JAV kariuomenė nori kurti AI ginklus?

JAV gynybos lyderiai ne kartą pareiškė kad jų ketinimą yra sulaikyti žmogų ir atsakyti už mirtinos jėgos sprendimus. Dabar perspėjimas yra tas, kad jie taip pat pripažino, kad jei kitos šalys sukurs autonominius ginklus, jos gali būti priverstos sekti pavyzdžiu. Ir tai yra tikroji rizika – jei viena šalis peržengs šią ribą, kitos gali manyti, kad turi atsakyti tuo pačiu, kad išliktų konkurencingos.

Ar tikrai šiais pažadais galima pasitikėti?

Manau, kad aukšti JAV gynybos pareigūnai yra nuoširdūs, kad nori, kad žmonės liktų atsakingi už mirtinos jėgos panaudojimą. Karo profesionalai tikrai nenori, kad jų ginklai siautėtų. Tai pasakius, lieka atviras klausimas, kaip plačią sąvoką, pvz., žmogaus atsakomybę už mirtiną jėgą, paversti konkrečiomis inžinerinėmis gairėmis apie leidžiamus ginklus. Apibrėžimas, kas yra savarankiškas ginklas, jau ginčijamas, todėl gali būti skirtingų nuomonių, kaip tuos principus pritaikyti praktikoje.

Kodėl reikia įtraukti technologus?

DI tyrėjai turi dalyvauti šiuose pokalbiuose, nes jų techninės žinios yra gyvybiškai svarbios formuojant politikos pasirinkimą. Turime atsižvelgti į AI šališkumą, skaidrumą, paaiškinamumą, saugą ir kitas problemas. AI technologija šiandien turi šias dvi funkcijas – ji yra galinga, bet taip pat turi daug pažeidžiamumų, panašiai kaip kompiuteriai ir kibernetinė rizika. Deja, atrodo, kad vyriausybės gavo pirmąją šios žinutės dalį (AI yra galingas), bet ne antrąją (ji kelia pavojų). AI mokslininkai gali padėti vyriausybėms ir kariuomenei geriau suprasti, kodėl jie taip susirūpinę dėl šios technologijos ginklavimo padarinių. Kad tai būtų veiksminga, AI tyrėjai turi dalyvauti konstruktyviame dialoge.

Ką manote apie neseniai duotą pažadą prieš autonominius ginklus, kurį organizavo „Future of Life Institute“?

Tai ne pirmas AI mokslininkų raginimas veikti; jis grindžiamas ankstesniais atvirais laiškais apie autonominius ginklus 2015 m ir 2017 m . Tačiau šios raidės yra simbolinis gestas ir tikriausiai jų veiksmingumas mažėja. Šalys taip pat diskutuoja apie autonominius ginklus Jungtinėse Tautose nuo 2014 m., o dirbtinio intelekto mokslininkų spaudimas prideda svarbią pokalbio dimensiją, tačiau vis dar neturi paskatinti didžiųjų karinių galių pritarti visapusiškam draudimui. Būtų naudingiau, jei JT posėdžiuose dalyvautų daugiau dirbtinio intelekto tyrinėtojų ir padėtų politikos formuotojams suprasti, kodėl dirbtinio intelekto mokslininkai taip susirūpinę.

O kaip dėl „Google“ sprendimo nepratęsti sutarties su Pentagonu?

Tai šiek tiek nustebino, nes „Maven“ iš tikrųjų nenaudojo savarankiškų ginklų ar taikinių ir atrodė, kad jis atitinka neseniai išleistą „Google“ AI principai . Tačiau konkurencija dėl geriausių AI talentų yra nuožmi, ir aš įtariu, kad „Google“ negalėjo rizikuoti, kad kai kurie geriausi inžinieriai atsistatydins protestuodami.

Ar manote, kad tokie gestai padės sulėtinti autonominių ginklų kūrimą?

Kalbant apie Maveną, „Google“ nedalyvavo kuriant net žmogaus valdomus ginklus, tuo labiau autonominius ginklus, todėl tiesioginio ryšio ten nėra. Žinoma, įsipareigojimo laiškas yra tiesiogiai skirtas autonominiams ginklams. Tačiau nemanau, kad nė vienas iš jų turės didelės įtakos tam, kaip kariškiai į savo ginklus įtrauks dirbtinį intelektą ir autonomiją, nes ginklus greičiausiai gamins gynybos rangovai. Jei didžiosios technologijų įmonės, tokios kaip „Google“, atsisakys dirbti su kariuomene, tai gali sulėtinti AI technologijos įtraukimą į tokias gyvybiškai svarbias palaikymo funkcijas kaip duomenų analizė, kurią darė Mavenas. Tačiau galiausiai kitos įmonės imsis užpildyti spragą. Jau matėme kitas įmonių gana viešai pasakyti, kad nori dirbti su kariuomene.

Ar šios pastangos taip pat gali turėti nenumatytų pasekmių?

Daugelį teisėtų dirbtinio intelekto naudojimo būdų nusakius kaip nepriimtinus, gali susidaryti pleištas tarp techninių ir politikos bendruomenių ir pasunkinti pagrįstą diskursą. Inžinieriai absoliučiai turėtų susilaikyti nuo projektų, kurių jie negali paremti, tačiau kai tos asmeninės motyvacijos pereina į spaudimą kitiems dirbti su svarbiomis ir teisėtomis nacionalinio saugumo programomis, jie kenkia visuomenės saugumui ir pažeidžia kitų inžinierių teises vadovautis savo sąžine. Demokratinės šalys turės naudoti AI technologiją įvairiems svarbiems ir teisėtiems reikalams Nacionalinė apsauga tikslams – žvalgybai, kovai su terorizmu, sienų saugumui, kibernetiniam saugumui ir gynybai.

Ar JAV jau dalyvauja AI ginklavimosi varžybose su Kinija?

Kinija viešai paskelbė apie ketinimą tapti pasaulinis lyderis dirbtinio intelekto srityje iki 2030 m. ir plečia savo tyrimus bei įdarbina geriausius talentus iš viso pasaulio. Kinijos karinės ir civilinės sintezės modelis taip pat reiškia, kad dirbtinio intelekto tyrimai lengvai pateks iš technologijų įmonių į kariuomenę be tokių kliūčių, kurias kai kurie „Google“ darbuotojai siekia sukurti Jungtinėse Valstijose. Kinija turi jau prasidėjo padėti pagrindus DI įgalintai techno-stebėjimo valstybei.

Jei dirbtinio intelekto tyrėjų taktika pavyktų tik sulėtinti dirbtinio intelekto įrankių pritaikymą atvirose, demokratinėse visuomenėse, kuriose vertinamas etiškas elgesys, jų darbas galėtų prisidėti prie ateities, kurioje galingiausios technologijos yra režimų, kuriems mažiausiai rūpi etika, rankose. ir teisinės valstybės.

Savo knygoje nurodote, kad autonomiją apibrėžti gali būti sudėtinga. Ar tai neapsunkins diskusijos apie AI naudojimą kariniais tikslais?

Neseniai paskelbto įsipareigojimo prieš autonominius ginklus autoriai prieštarauja autonominiams ginklams, kurie nužudytų žmogų, tačiau pripažįsta, kad norint apsiginti nuo kitų tokių ginklų prireiks tam tikrų autonominių sistemų. Tai pilka zona, kurioje gali prireikti autonomijos apsiginti nuo ginkluotės, o žmogus vis dar yra laive, pavyzdžiui, nusitaikęs į naikintuvą ar povandeninį laivą, kur slypi tikrasis iššūkis. Subalansuoti konkuruojančius tikslus nėra paprasta, o politikos formuotojai, priimdami šią technologiją, susidurs su tikrais pasirinkimais.

Dirbtinio intelekto inžinieriai turės didžiausią įtaką formuojant šiuos pasirinkimus, jei užuot atsisakys, konstruktyvų, nuolatinį dialogą su politikos formuotojais. Dirbtinio intelekto tyrėjai, kuriems rūpi, kaip ši technologija naudojama, bus veiksmingesni, jei peržengs spaudimo kampanijas ir pradės padėti mokyti politikos formuotojus apie šiandieninę DI technologiją ir jos apribojimus.

paslėpti