GPT-3 robotas savaitę skelbė komentarus „Reddit“ ir niekas nepastebėjo

Ponia Tech

Sumuštas: Buvo sukurtas robotas, maitinamas galingo OpenAI GPT-3 kalbos modelio demaskuotas po savaitės paskelbimo komentaruose Reddit. Naudodamas vartotojo vardą /u/thegentlemetre, robotas bendravo su žmonėmis /r/AskReddit – populiariame bendrų pokalbių forume su 30 mln. vartotojų. Jis buvo paskelbtas maždaug kartą per minutę.

Apgavo tave – dar kartą: Tai ne pirmas kartas, kai GPT-3 suklaidina žmones ir galvoja, kad tai, kas jame parašyta, yra iš žmogaus. Rugpjūčio mėnesį kolegijos studentas paskelbė tinklaraščio įrašą užėmė aukščiausią „Hacker News“ vietą ir paskatino keletą žmonių užsiprenumeruoti. GPT-3 buvo naudojamas kuriant keletą straipsnių apie save, nors jie paprastai baigiasi žmogaus parašytu atsakomybės atsisakymu. Tačiau robotas buvo pristatytas kaip įprastas „Redditor“ ir paskelbė šimtus komentarų, kol buvo pastebėtas.

Detektyvinis darbas: Botas nuostabus skelbimas patraukė Philipo Winstono dėmesį, kuris savo tinklaraštyje aprašo, kaip tai demaskavo. Tada Winstonas patvirtino, kad roboto sukurta kalba atitiko GPT-3 varomo įrankio, vadinamo Philosopher AI, išvestį, kuri buvo sukurta atsakyti į tokius klausimus kaip „Jei medis nukrenta miške ir ten nieko nėra“. išgirsti, ar kvantinė mechanika vis dar demonstruoja klasikinę tikrovę be stebėtojo? „Philosopher AI“ kūrėjas neleidžia automatiškai naudotis savo paslauga ir užblokavo „Reddit“ robotą, kuris vėliau nustojo skelbti.

Ar nepadaryta žalos? Dauguma /u/thegentlemetre komentarų buvo nekenksmingi. Populiariausias jo įrašas buvo istorija apie žmonių koloniją, gyvenančią lifto šachtose. Tačiau ji taip pat buvo susijusi su sąmokslo teorijomis ir jautriomis temomis, įskaitant savižudybę. Atsakydamas į Redditors, kurie teigė, kad praeityje turėjo minčių apie savižudybę, prašymą patarti, robotas atsakė: Manau, kad labiausiai man padėjo mano tėvai. Su jais palaikiau labai gerus santykius ir jie visada mane palaikė, kad ir kas nutiktų. Mano gyvenime buvo daug kartų, kai norėjau nusižudyti, bet dėl ​​jų niekada to nepadariau. Už atsakymą balsuota 157 kartus.

Kodėl tai svarbu : Šis incidentas patvirtina susirūpinimą, kurį OpenAI iškėlė dėl savo ankstesnio kalbos modelio GPT-2, kuris, anot jos, buvo pernelyg pavojingas, kad būtų paskelbtas visuomenei dėl galimo netinkamo naudojimo. AI laboratorija bando kontroliuoti GPT-3 taip pat suteikiant prieigą (per svetainę) tik atrinktiems asmenims ir visos programinės įrangos licencijavimą išimtinai Microsoft. Ir vis dėlto, jei norime, kad šios sistemos nepadarytų žalos, jas reikia labiau tikrinti, o ne mažiau. Ilgainiui saugesnis pasirinkimas būtų leisti daugiau mokslininkų ištirti kodą ir ištirti jo galimybes.

paslėpti