Kaip AI įrankis, skirtas kovoti su mirtimis ligoninėse, iš tikrųjų veikė realiame pasaulyje

Getty

2018 m. lapkričio mėn. Duke universiteto sveikatos sistemos skubios pagalbos skyriuje pasirodė naujas giluminio mokymosi įrankis. Sepsio laikrodis buvo sukurtas siekiant padėti gydytojams pastebėti ankstyvus vienos iš pagrindinių mirčių ligoninėse priežasčių požymius visame pasaulyje.

Sepsis atsiranda, kai infekcija sukelia viso kūno uždegimą ir galiausiai sukelia organų uždarymą. Jis gali būti gydomas, jei diagnozuojamas pakankamai anksti, tačiau tai yra labai sudėtinga užduotis, nes jos simptomus lengva supainioti su kažko kito požymiais.

„Sepsis Watch“ pažadėjo tai pakeisti. Trejų su puse metų kūrimo produktas (įskaitant sveikatos įrašų skaitmeninimą, 32 milijonų duomenų taškų analizę ir paprastos sąsajos sukūrimą iPad programėlės pavidalu), jis kas valandą įvertina pacientus pagal jų tikimybę sukurti sąlyga. Tada jis pažymi tuos, kuriems yra vidutinė arba didelė rizika, ir tuos, kurie jau atitinka kriterijus. Gydytojui patvirtinus diagnozę, pacientai nedelsiant sulaukia pagalbos.

Per dvejus metus nuo įrankio įvedimo Duke Health ligoninės vadovų ir gydytojų anekdotiniai įrodymai rodo, kad sepsio laikrodis tikrai veikia. Tai labai sumažino pacientų mirčių nuo sepsio skaičių ir dabar yra federaliniu mastu registruoto klinikinio tyrimo, kurio rezultatais turėtų pasidalyti 2021 m., dalis.

Iš pirmo žvilgsnio tai didelės techninės pergalės pavyzdys. Kruopštus kūrimas ir bandymai AI modelis sėkmingai padidino gydytojų gebėjimą diagnozuoti ligą. Bet a nauja ataskaita iš duomenų ir visuomenės tyrimų instituto teigia, kad tai tik pusė istorijos. Kita pusė yra kvalifikuoto socialinio darbo kiekis, kurį turėjo atlikti projektui vadovaujantys gydytojai, kad galėtų integruoti įrankį į savo kasdienes darbo eigas. Tai apėmė ne tik naujų komunikacijos protokolų kūrimą ir naujos mokymo medžiagos kūrimą, bet ir darbo vietos politikos bei galios dinamikos naršymą.

Atvejo analizė yra sąžiningas atspindys to, ko iš tikrųjų reikia, kad AI įrankiai būtų sėkmingi realiame pasaulyje. Tai buvo tikrai sudėtinga, sako bendraautorė Madeleine Clare Elish, kultūros antropologė, nagrinėjanti AI poveikį.

Inovacijų taisymas

Manoma, kad naujovės trukdo. Tai sugriauna senus veiklos būdus siekiant geresnių rezultatų. Tačiau retai pokalbiuose apie technologinius sutrikimus pripažįstama, kad sutrikimas taip pat yra lūžio forma. Esami protokolai pasensta; socialinė hierarchija sumaišoma. Kad naujovės veiktų esamose sistemose, Elish ir jos bendraautorė Elizabeth Anne Watkins vadina taisymo darbais.

Per dvejus metus trukusį Duke Health Sepsis Watch tyrimą jie užfiksavo daugybę šio sutrikimo ir taisymo pavyzdžių. Viena iš pagrindinių problemų buvo tai, kaip įrankis metė iššūkį medicinos pasaulyje giliai įsišaknijusiai gydytojų ir slaugytojų galios dinamikai.

Ankstyvosiose įrankių projektavimo stadijose tapo aišku, kad greitojo reagavimo komandos (RRT) slaugytojai turės būti pagrindiniai naudotojai. Nors gydantys gydytojai paprastai yra atsakingi už pacientų įvertinimą ir sepsio diagnozių nustatymą, jie neturi laiko nuolat stebėti kitos programos, be savo pareigų skubios pagalbos skyriuje. Priešingai, pagrindinė RRT slaugytojo atsakomybė yra nuolat stebėti paciento savijautą ir prireikus suteikti papildomą pagalbą. „Sepsis Watch“ programos tikrinimas natūraliai įtrauktas į jų darbo eigą.

Bet čia atėjo iššūkis. Kai programa pažymėjo, kad pacientas yra didelės rizikos grupė, slaugytoja turės paskambinti gydančiam gydytojui (medicinoje žinoma kaip ED gydymas). Šios slaugytojos ir slaugytojos ne tik dažnai neturėjo jokių ankstesnių santykių, nes savo dienas leisdavo visiškai skirtinguose ligoninės skyriuose, bet ir protokolas reiškė visišką įprastos komandų grandinės bet kurioje ligoninėje pakeitimą. Ar tu juokauji? viena slaugytoja prisiminė galvojusi, sužinojusi, kaip viskas veiks. Mes ketiname skambinti ED lankymas ?

Bet tai tikrai buvo geriausias sprendimas. Taigi projekto komanda ėmėsi taisyti sutrikimą įvairiais dideliais ir mažais būdais. Vyriausiosios slaugytojos surengė neformalius picų vakarėlius, kad sukeltų jaudulį ir pasitikėjimą Sepsio laikrodžiu tarp savo kolegų slaugytojų. Jie taip pat sukūrė bendravimo taktiką, kad sušvelnintų savo skambučius su atvykusiais. Pavyzdžiui, jie nusprendė skambinti tik vieną kartą per dieną ir aptarti kelis didelės rizikos pacientus vienu metu, kai gydytojai buvo mažiausiai užsiėmę.

Be to, projekto vadovai pradėjo reguliariai pranešti apie sepsio stebėjimo poveikį klinikinei vadovybei. Projekto komanda išsiaiškino, kad ne kiekvienas ligoninės darbuotojas manė, kad sepsio sukelta mirtis yra Duke Health problema. Gydytojai, ypač nežiūrėję iš paukščio skrydžio į ligoninės statistiką, buvo kur kas labiau užsiėmę kasdienėmis ekstremaliomis situacijomis, pavyzdžiui, kaulų lūžiais ir sunkiomis psichinėmis ligomis. Dėl to kai kurie pastebėjo, kad Sepsis Watch yra nepatogumas. Tačiau klinikinei vadovybei sepsis buvo didžiulis prioritetas, ir kuo daugiau jie matė veikiantį Sepsio laikrodį, tuo labiau padėjo sutepti operacijos krumpliaračius.

Keičiant normas

Elišas įvardija du pagrindinius veiksnius, kurie galiausiai padėjo Sepsis Watch sėkmės. Pirma, įrankis buvo pritaikytas itin vietiniam, itin specifiniam kontekstui: jis buvo sukurtas Duke Health skubios pagalbos skyriui ir niekur kitur. Ji sako, kad ši tikrai specialiai sukurta plėtra buvo sėkmės pagrindas. Tai prieštarauja tipiškoms AI normoms.

Antra, viso kūrimo proceso metu komanda reguliariai siekdavo slaugytojų, gydytojų ir kito personalo atsiliepimų aukštyn ir žemyn ligoninės hierarchijoje. Tai ne tik padarė įrankį patogesnį vartotojui, bet ir išugdė nedidelę atsidavusių darbuotojų grupę, kuri padėtų iškovoti sėkmę. Taip pat pasikeitė tai, kad projektui vadovavo paties Duke Health gydytojai, sako Elishas, ​​o ne technologai, atšokę parašiutu iš programinės įrangos įmonės. Ji sako, kad jei neturite paaiškinamo algoritmo, pasitikėjimą reikia ugdyti kitais būdais.

Šios pamokos puikiai žinomos Marzyeh Ghassemi, būsimam MIT docentui, kuris tiria mašininio mokymosi programas sveikatos priežiūrai. Ji sako, kad visos mašininio mokymosi sistemos, kurias kada nors ketinama įvertinti ar naudoti žmonėms, turi turėti socialinių ir techninių apribojimų. Ji priduria, kad ypač klinikinėse aplinkose, kurias valdo žmonės, priimantys sprendimus ir kai reikia rūpintis labiausiai pažeidžiamais žmonėmis, apribojimai, kuriuos žmonės turi žinoti, iš tikrųjų yra žmogiškieji ir logistiniai suvaržymai.

Elish tikisi, kad jos „Sepsis Watch“ atvejo tyrimas įtikins tyrėjus permąstyti, kaip taikyti medicininius AI tyrimus ir dirbtinio intelekto plėtrą apskritai. Tiek daug šiuo metu atliekamo darbo yra susiję su AI gali būti ar galėtų padaryti teoriškai , ji sako. Informacijos apie tai, kas iš tikrųjų vyksta žemėje, yra per mažai. Tačiau norint, kad dirbtinis intelektas išpildytų savo pažadus, žmonės turi ne mažiau galvoti apie socialinę integraciją, kiek apie techninę plėtrą.

Jos kūryba taip pat kelia rimtų klausimų. Ji sako, kad atsakingas AI turi reikalauti dėmesio vietos ir specifiniam kontekstui. Mano skaitymas ir mokymas mane moko, kad negalima tiesiog sukurti vieno dalyko vienoje vietoje, o paskui jį iškelti kur nors kitur.

Taigi iššūkis iš tikrųjų yra išsiaiškinti, kaip išlaikyti tą vietinį ypatumą bandant dirbti dideliu mastu, priduria ji. Tai kita AI tyrimų riba.

paslėpti