DI mokslininkai nori tirti AI taip pat, kaip socialiniai mokslininkai tiria žmones

Konceptuali tyrėjo, studijuojančio AI, iliustracija Tsjisse Talsma

Daug rašalo buvo išlieta dėl dirbtinio intelekto sistemų juodosios dėžės pobūdžio ir dėl to, kad mums nepatogu, kad dažnai nesuprantame, kodėl jos priima tokius sprendimus. Kadangi algoritmai tarpininkauja viskam, pradedant socialine ir kultūrine, baigiant ekonomine ir politine sąveika, kompiuterių mokslininkai bandė reaguoti į didėjančius jų paaiškinamumo poreikius kurdami techninius metodus, padedančius suprasti jų elgesį.

Tačiau grupė mokslininkų iš akademinės bendruomenės ir pramonės dabar teigia, kad mums nereikia skverbtis į šias juodąsias dėžes, kad suprastume ir taip suvaldytume jų poveikį mūsų gyvenimui. Galų gale, tai ne pirmos nepastebimos juodosios dėžės, su kuriomis susidūrėme.

Jau šimtus metų kūrėme mokslinius juodųjų dėžių tyrimo metodus, tačiau iki šiol šie metodai pirmiausia buvo taikomi [gyvoms būtybėms], sako Nickas Obradovichas, MIT Media Lab tyrėjas ir vienas iš tyrimo autorių. naujas popierius paskelbta praėjusią savaitę Gamta . Galime panaudoti daug tų pačių įrankių, kad galėtume ištirti naujas juodosios dėžės AI sistemas.

Straipsnio autoriai, įvairi pramonės ir akademinės bendruomenės tyrėjų grupė, siūlo sukurti naują akademinę discipliną, vadinamą mašinų elgesiu. Ji tyrinėja AI sistemas taip pat, kaip mes visada tyrinėjome gyvūnus ir žmones: empiriniais stebėjimais ir eksperimentais.

Tokiu būdu mašinų elgsenos specialistas kompiuterių mokslininkui yra toks, kaip socialinis mokslininkas neurologui. Pirmuoju siekiama suprasti, kaip agentas - dirbtinis ar biologinis - elgiasi savo buveinėje, kai egzistuoja grupėse ir sąveikauja su kitais protingais agentais. Pastarasis siekia išskaidyti sprendimų priėmimo mechaniką, esančią už tokio elgesio.

Matome, kad daugėja mašinų su agentūra, mašinų, kurios yra aktoriai, priimantys sprendimus ir atliekantys veiksmus savarankiškai, sakė Iyad Rahwan, kitas Media Lab tyrėjas ir pagrindinis šio straipsnio autorius. tinklaraščio straipsnis kartu su leidiniu. Taigi jie turi būti tiriami kaip nauja veikėjų klasė, turinti savo elgesio modelius ir ekologiją.

Tai nereiškia, kad dirbtinio intelekto sistemos sukūrė tam tikrą laisvą valią. (Jie tikrai ne; jie yra tik šlovinti matematikos modeliai.) Tačiau tai reiškia, kad AI sistemos nelaikomos pasyviomis priemonėmis, kurias galima įvertinti tik pagal jų techninę architektūrą, našumą ir galimybes. Vietoj to jie turėtų būti laikomi aktyviais veikėjais, kurie keičia ir daro įtaką jų aplinkai ir aplinkiniams žmonėms bei mašinoms.

Taigi, kaip tai atrodytų? Mašinų elgesio specialistas gali apklausti, pavyzdžiui, balso asistentų poveikį vaiko asmenybės raidai. Arba jie gali ištirti, kaip internetinių pažinčių algoritmai pakeitė tai, kaip žmonės susitinka ir įsimyli. Galiausiai jie ištirtų atsirandančias savybes, atsirandančias dėl daugelio žmonių ir mašinų, gyvenančių kartu ir bendradarbiaujant.

Mes visi esame viena milžiniška žmogaus ir mašinos sistema, sako Obradovičius. Turime tai pripažinti ir pradėti tai mokytis.

Svarbu pažymėti, kad dauguma šių idėjų nėra naujos. Pavyzdžiui, robotai jau seniai tyrinėjo žmogaus ir kompiuterio sąveiką. O mokslo, technologijų ir visuomenės sritys turi tai, kas žinoma kaip veikėjų tinklo teorija, sistema, skirta apibūdinti viską socialiniame ir gamtos pasaulyje – ir žmones, ir algoritmus – kaip veikėjus, kurie kažkaip susiję vienas su kitu. Tačiau dažniausiai kiekviena iš šių pastangų buvo suskirstyta į atskiras disciplinas. Jų sujungimas po vienu skėčiu padeda suderinti jų tikslus, įteisinti bendrą kalbą ir skatinti tarpdisciplininį bendradarbiavimą. Tai padės mums rasti vienam kitą, sako Obradovičius.

Nepaisant to, kad dirbtinio intelekto tyrėjai yra skirtingos disciplinos, mašinų elgesio specialistai vis tiek turėtų glaudžiai su jais bendradarbiauti. Kadangi pastarieji atranda naujus būdus, kaip AI sistemos elgiasi ir veikia žmones, pirmosios gali panaudoti šiuos mokymus sistemos konstrukcijoms. Kuo daugiau kiekviena disciplina galės pasinaudoti kitos žiniomis, tuo labiau jie galės užtikrinti, kad dirbtinės medžiagos bus naudingos žmonėms, o ne pakenks.

Mums reikia mokslininkų iš visų elgesio ir skaičiavimo disciplinų patirties, sako Obradovičius. Suprasti, kaip gyventi su mašinomis, yra per didelė problema, kad kuri nors disciplina galėtų ją išspręsti viena.

paslėpti