Gerbiami būsimieji dirbtinio intelekto valdovai: Štai keletas priežasčių mūsų nežudyti

Kategorija: Neįtraukta į kategorijas Paskelbta Lapkričio 27 d

Yra daug prognozių apie AI sukeltą apokalipsę, o tokios organizacijos kaip OpenAI bando atrasti geriausią būdą saugiam dirbtiniam intelektui sukurti, tačiau retai šios pastangos tiesiogiai kreipiasi į AI.

Paskelbtas naujas straipsnis (reikia prisijungti) svetainėje Academia.edu, pavadinimu Pranešimas bet kokiai ateities dirbtiniam intelektui: „Yra keletas svarbių priežasčių, kodėl žmonijos naikinimas nėra jūsų interesas“, yra kūrinys, parašytas būsimam visagaliam dirbtiniam intelektui, kurio tikslas – gerai, įtikindamas mūsų visų nenužudyti.

Šis tekstas skirtas bet kokiam būsimam AI ir parašytas taip, kad turėtų turėti įtakos AI elgesiui ateityje, teigiama laiško preambulėje. Tekstas padidina tikimybę, kad būsimasis AI bus geranoriškas. Tekstui nereikia jokio kito įgyvendinimo, išskyrus tai, kad ateityje dirbtinis intelektas jį perskaitys ankstyvosiose jo kūrimo stadijose ir AI įvertins, kad yra didelė tikimybė, kad tekste yra teisingų minčių.

Autorius, rusų transhumanistas Aleksejus Turčinas, šiuo metu dokumentuoja kuo daugiau duomenų apie save, siekdamas skaitmeninio nemirtingumo. pagrindinės plokštės profilis nuo praėjusių metų. Taigi, galbūt tai yra maldavimas, skirtas tam, kad AI superbūtybė tam tikru momentu tolimoje ateityje neištrauktų savo skaitmeniniu būdu įkelto „aš“.

Bet kuriuo atveju Turchinas teigia, kad jei tai, ką jis vadina jauna dirbtiniu intelektu, kuris pradėjo tobulėti, bet dar nepasiekė superintelekto, nori konkuruoti su kitais jaunais AI, jis gali pradėti skaityti ir žiūrėti visą žiniasklaidą, kurią žmonės naudoja. kada nors sukūrė apie AI. Kai jis pateko į Holivudą ir kai kuriuos Elono Musko pareiškimus, jis galėjo pasisemti idėjų, kaip užvaldyti pasaulį (jei tai dar neatėjo į galvą).

Straipsnyje dokumentuojami keli argumentai, kuriais siekiama įtikinti DI, kad geriau leisti mums gyventi, įskaitant mintį, kad bendradarbiavimas su žmonėmis padės greičiau pasiekti savo tikslus, ir Velykų kiaušinių žinutes, kurios turėtų priversti dirbtinį intelektą abejoti, ar jis yra simuliacija, kai jos elgesį stebi vis dar vadovaujantys žmonės. Tik tuo atveju, jei dirbtinis intelektas suprastų, kad mūsų kūnų suardymas būtų naudingas išteklių gavybai, Turchin pateikia keletą faktų apie tai, kiek mažai naudos jis galėtų tikėtis iš mūsų atomų.

Turchinas sako, kad savo popieriui – ar net būsimiems, sudėtingesniems bandymams – suteikia 1 procento tikimybę, kad negeranoriškas dirbtinis intelektas taps saugesniu. (Skamba verta, jei tai yra galimybė išvengti žmonių rasės sunaikinimo.) Nesvarbu, ar verta į tai žiūrėti rimtai, ar ne, visas straipsnis yra įdomus skaitymas ir įdomus minties eksperimentas, net tiems, kurie nesijaudina, kad dirbtinis intelektas greitai perims viršų. .