Dirbtinis intelektas moko konsultantus, kaip elgtis su krizę ištiktais paaugliais

Ponia Tech | Atskleiskite, Pexels

Trevor projekte savanoriaujantys konsultantai turi būti pasiruošę pirmajam pokalbiui su LGBTQ paaugliu, kuris galbūt galvoja apie savižudybę. Taigi pirmiausia jie praktikuojasi. Vienas iš būdų, kaip jie tai daro, yra kalbėtis su išgalvotomis asmenybėmis, tokiomis kaip Riley, 16-metė iš Šiaurės Karolinos, kuri jaučiasi šiek tiek prislėgta ir prislėgta. Kai komandos narys vaidina Riley vaidmenį, stažuotojai gali įsigilinti į tai, kas vyksta: jie gali atskleisti, kad paauglys nekantrauja ateiti pas šeimą, neseniai papasakojo draugams ir tai nebuvo gerai, ir anksčiau, jei ne tada, yra turėjęs minčių apie savižudybę. akimirka.

Tačiau dabar Riley vaidina ne „Trevor Project“ darbuotojas, o veikia AI.

Kaip ir originali asmenybė, ši Riley versija, parengta remiantis tūkstančiais ankstesnių konsultantų ir organizacijos darbuotojų vaidmenų žaidimų nuorašų, vis dar turi būti šiek tiek įkalbinėjama, kad atsivertų ir būtų išdėstyta situacija, kuri gali patikrinti, ką mokiniai išmoko. apie geriausius būdus padėti LGBTQ paaugliams.

Patarėjai neturėtų spausti Riley išeiti. Tikslas yra patvirtinti Riley jausmus ir, jei reikia, padėti parengti planą, kaip išlikti saugus.

Krizių pagalbos linijos ir pokalbių paslaugos suteikia jiems esminį pažadą: susisiekite ir mes sujungsime jus su tikru žmogumi, kuris gali padėti. Tačiau poreikis gali viršyti net sėkmingiausių paslaugų pajėgumą. „Trevor Project“ mano, kad 1,8 milijono LGBTQ jaunuolių Amerikoje kasmet rimtai svarsto apie savižudybę. Esami 600 konsultantų, teikiančių pokalbiais pagrįstas paslaugas, negali patenkinti šio poreikio. Štai kodėl grupė, kaip ir vis daugiau psichikos sveikatos organizacijų, kreipėsi į dirbtinio intelekto įrankius, kad padėtų patenkinti paklausą. Tai labai prasminga plėtra, kartu kelianti klausimų, kaip dabartinė AI technologija gali veikti situacijose, kai kyla pavojus pažeidžiamų žmonių gyvybėms.

Rizikuoti – ir ją įvertinti

„Trevor Project“ mano, kad supranta šią pusiausvyrą ir pabrėžia tai, ko Riley nedaro.

Mes nesiruošėme ir nesiruošiame sukurti AI sistemos, kuri pakeistų patarėją arba tiesiogiai bendrautų su žmogumi, kuris gali ištikti krizę, sako Danas Fichteris, organizacijos DI vadovas. inžinerija. Šis žmogiškasis ryšys yra svarbus visose psichikos sveikatos tarnybose, tačiau jis gali būti ypač svarbus žmonėms, kuriems tarnauja Trevor projektas. Remiantis pačios organizacijos 2019 m. tyrimu, LGBTQ jaunimas, kurio gyvenime yra bent vienas priimantis suaugusysis, buvo 40% mažesnė tikimybė pranešti apie bandymą nusižudyti praėjusiais metais.

Dirbtinio intelekto pagrindu sukurtas mokymo vaidmenų žaidimas, vadinamas krizių kontaktų simuliatoriumi ir remiamas pinigų bei inžinerinės pagalbos iš Google, yra antrasis projektas, kurį organizacija sukūrė tokiu būdu: jame taip pat naudojamas mašininio mokymosi algoritmas, padedantis nustatyti, kam kyla didžiausia rizika. pavojaus. (Jis išbandė kelis kitus metodus, įskaitant daugelį nenaudojančių dirbtinio intelekto, tačiau algoritmas paprasčiausiai davė tiksliausias prognozes, kam kyla skubiausias poreikis.)

Dirbtinio intelekto pagrįstas rizikos vertinimas nėra naujiena savižudybių prevencijos tarnybose: Veteranų reikalų departamentas taip pat naudoja mašininį mokymąsi, kad nustatytų rizikos grupei priklausančius veteranus savo klinikinėje praktikoje, nes „New York Times“ pranešė praėjusių metų pabaigoje.

Nuomonės dėl tokio AI naudojimo naudingumo, tikslumo ir rizikos skiriasi. Tam tikrose aplinkose AI gali tiksliau nei žmonės įvertinti žmonių savižudybės riziką, teigia Thomas Joiner, Floridos valstijos universiteto psichologijos profesorius, tiriantis savižudišką elgesį. Realiame pasaulyje, kai yra daugiau kintamųjų, dirbtinis intelektas veikia taip pat gerai, kaip ir žmonės. Tačiau tai gali padėti greičiau įvertinti daugiau žmonių.

Taigi jį geriausia naudoti žmonių konsultantams padėti, o ne juos pakeisti. Trevor projektas vis dar remiasi žmonėmis, kad atliktų pilną rizikos vertinimą jauniems žmonėms, kurie naudojasi jo paslaugomis. Ir po to, kai konsultantai baigia vaidmenų žaidimus su Riley, tuos nuorašus peržiūri žmogus.

Kaip veikia sistema

Krizių kontakto simuliatorius buvo sukurtas todėl, kad vaidmenų žaidimai užima daug darbuotojų laiko ir apsiriboja įprastomis darbo valandomis, nors dauguma konsultantų planuoja savanoriauti naktinėse ir savaitgalio pamainose. Tačiau net jei tikslas buvo greičiau apmokyti daugiau konsultantų ir geriau pritaikyti savanorių grafikus, efektyvumas nebuvo vienintelis tikslas. Kūrėjai vis tiek norėjo, kad vaidmenų žaidimas jaustųsi natūraliai, o pokalbių robotas vikriai prisitaikytų prie savanorių klaidų. Natūralios kalbos apdorojimo algoritmai , kuris pastaruoju metu labai gerai mėgdžiojo žmonių pokalbius, atrodė kaip tinkamas iššūkiui. Išbandžius keletą variantų, „Trevor“ projektas įsitvirtino OpenAI GPT-2 algoritmas .

Susijusi istorija

Naujasis „OpenAI“ kalbų generatorius GPT-3 yra stulbinančiai geras ir visiškai beprasmis

AI yra didžiausias kada nors sukurtas kalbos modelis ir pagal poreikį gali sukurti nuostabų į žmogų panašų tekstą, tačiau nepriartins mūsų prie tikrojo intelekto.

Pokalbių robotas naudoja GPT-2 savo pradiniams pokalbio gebėjimams. Šis modelis yra apmokytas 45 milijonuose interneto puslapių, kuriuose jis mokomas pagrindinės anglų kalbos struktūros ir gramatikos. Tada „Trevor“ projektas jį toliau mokė apie visus ankstesnių Riley vaidmenų pokalbių nuorašus, kurie suteikė robotui medžiagos, reikalingos asmenybei imituoti.

Viso kūrimo proceso metu komanda buvo nustebinta, kaip gerai veikia pokalbių robotas. Nėra duomenų bazės, kurioje būtų saugoma išsami Riley biografijos informacija, tačiau pokalbių robotas išliko nuoseklus, nes kiekvienas nuorašas atspindi tą pačią siužetą.

Tačiau naudojant dirbtinį intelektą taip pat yra kompromisų, ypač jautriose situacijose su pažeidžiamomis bendruomenėmis. Yra žinoma, kad GPT-2 ir kiti panašūs į jį natūralios kalbos algoritmai apima labai rasistines, seksistines ir homofobines idėjas . Ne vienas pokalbių robotas tokiu būdu buvo pragaištingai suklaidintas, naujausias Pietų Korėjos pokalbių robotas vadinamas Lee Luda, kuris turėjo 20 metų universiteto studento asmenybę. Greitai išpopuliarėjęs ir bendravęs su vis daugiau vartotojų, jis pradėjo naudoti šmeižtus keistoms ir neįgaliųjų bendruomenėms apibūdinti.

„Trevor Project“ tai žino ir sukūrė būdus, kaip apriboti galimą bėdą. Nors Lee Luda turėjo kalbėtis su vartotojais apie bet ką, Riley susitelkė labai siaurai. Savanoriai per daug nenukryps nuo pokalbių, kurių buvo mokomi, o tai sumažina nenuspėjamo elgesio tikimybę.

Tai taip pat palengvina visapusišką pokalbių roboto testavimą, kurį, kaip teigia Trevor Project, daro. Šie naudojimo atvejai, kurie yra labai specializuoti, aiškiai apibrėžti ir sukurti visapusiškai, nekelia labai didelės rizikos, sako Nenad Tomasev, DeepMind tyrėjas.

Žmogus žmogui

Tai ne pirmas kartas, kai psichikos sveikatos srityje bandoma išnaudoti AI galimybes teikti visa apimančią, etišką pagalbą, nepakenkiant žmonėms, kuriems ji skirta padėti. Tyrinėtojai sukūrė daug žadančių būdų depresijos aptikimas iš regos ir klausos signalų derinio. Terapiniai robotai, nors ir neprilygsta profesionaliems žmonėms, yra statomi kaip alternatyva tiems, kurie negali kreiptis į terapeutą arba yra nepatogūs pasitikintis žmogumi.

Kiekvienas iš šių ir kitų panašių pokyčių reikalauja pagalvoti, kiek agentūrų AI įrankių turėtų turėti, kai reikia gydyti pažeidžiamus žmones. Atrodo, kad sutariama, kad šiuo metu technologija tikrai nėra tinkama pakeisti žmogaus pagalbą.

Vis dėlto, psichologijos profesorius Joineris sako, kad laikui bėgant tai gali pasikeisti. Nors šiuo metu žmonių konsultantus pakeisti dirbtinio intelekto kopijomis yra bloga idėja, tai nereiškia, kad tai yra nuolatinis apribojimas, sako jis. Žmonės, užmegzkite dirbtines draugystes ir santykius jau su AI paslaugomis . Jis sako, kad tol, kol žmonės nebus verčiami manyti, kad jie diskutuoja su žmogumi, pasak jo, tai gali būti tokia galimybė.

Tuo tarpu Riley niekada nesusidurs su jaunuoliais, kurie iš tikrųjų rašo tekstus į Trevor projektą: jis visada bus tik kaip savanorių mokymo priemonė. Mūsų konsultantų ir žmonių, kurie su mumis susisiekia, ryšys yra būtinas viskam, ką darome, sako Kendra Gaunt, grupės duomenų ir dirbtinio intelekto produktų vadovė. Manau, kad tai daro mus tikrai išskirtiniais ir tuo, ko, manau, niekas iš mūsų nenori pakeisti ar pakeisti.

Pataisymas: Pataisėme sakinį, kuriame teigiama, kad „Trevor Project“ išbandė du savo pokalbių roboto algoritmus. Išbandė keletą.

paslėpti