Kaip „Facebook“ tapo priklausomas nuo dezinformacijos skleidimo

Bendrovės AI algoritmai suteikė jai nepasotinamą įprotį meluoti ir neapykantą kurstyti. Dabar juos pastatęs žmogus negali išspręsti problemos.

Kaltieji yra Wintermeyer

pateikė

• Karen Hao archyvo puslapis

2021 m. kovo 11 d

Joaquinas Quiñonero Candela, „Facebook“ AI direktorius, atsiprašė savo auditorijos.

Tai buvo 2018 m. kovo 23 d., praėjus vos kelioms dienoms po to, kai paaiškėjo, kad konsultacijų įmonė „Cambridge Analytica“, kuri dirbo Donaldo Trumpo 2016 m. prezidento rinkimų kampanijoje, slapta iš jų „Facebook“ paskyrų išėmė dešimčių milijonų amerikiečių asmeninius duomenis, siekdama paveikti, kaip. jie balsavo. Tai buvo didžiausias privatumo pažeidimas „Facebook“ istorijoje, o Quiñonero anksčiau turėjo kalbėti konferencijoje, be kita ko, apie AI, etikos ir privatumo sankirtą įmonėje. Jis svarstė galimybę atšaukti atšaukimą, tačiau, pasitaręs su komunikacijos direktoriumi, išlaikė jam skirtą laiką.

Kai jis žengė veidu į kambarį, jis pradėjo nuo priėmimo. Aš ką tik turėjau sunkiausias penkias savo darbo dienas „Facebook“, – prisimena jis. Jei bus kritikos, aš ją priimsiu.

„Cambridge Analytica“ skandalas prasidėtų didžiausią visų laikų „Facebook“ viešinimo krizę. Tai sustiprino nuogąstavimus, kad algoritmai, nustatantys, ką žmonės mato platformoje, sustiprina netikras naujienas ir neapykantą kurstančią kalbą, o Rusijos programišiai panaudojo juos ginklu, bandydami pakreipti rinkimus Trumpo naudai. Milijonai pradėjo trinti programėlę ; darbuotojai paliko protestą; bendrovės rinkos kapitalizacija smuko daugiau nei 100 mlrd po liepos mėnesio uždarbio kvietimo.

Vėlesniais mėnesiais Markas Zuckerbergas pradėjo atsiprašyti. Jis atsiprašė, kad nepaėmė pakankamai platus vaizdas „Facebook“ pareigų ir už jo, kaip generalinio direktoriaus, klaidas. Viduje Sheryl Sandberg, vyriausioji operacijų pareigūnė, pradėjo dvejų metų kadenciją civilinių teisių auditas rekomenduoti būdus, kaip įmonė galėtų užkirsti kelią savo platformos naudojimui demokratijai pakenkti.

Galiausiai Mike'as Schroepferis, „Facebook“ vyriausiasis technologijų pareigūnas, paprašė Quiñonero sukurti komandą su šiek tiek neaiškia direktyva: ištirti bendrovės algoritmų poveikį visuomenei. Grupė pasivadino „Society and AI Lab“ (SAIL); praėjusiais metais ji susijungė su kita komanda, sprendžiančia duomenų privatumo klausimus, kad suformuotų atsakingą AI.

Quiñonero buvo natūralus pasirinkimas šiam darbui. Jis, kaip ir visi kiti, buvo atsakingas už „Facebook“ kaip AI galiūno poziciją. Per šešerius darbo „Facebook“ metus jis sukūrė keletą pirmųjų algoritmų, skirtų nukreipti vartotojus į turinį, tiksliai pritaikytą jų pomėgiams, ir tada jis išplatino šiuos algoritmus visoje įmonėje. Dabar jo mandatas būtų padaryti juos mažiau kenksmingus.

„Facebook“ nuolat atkreipdavo dėmesį į „Quinonero“ ir kitų pastangas, siekiant pataisyti savo reputaciją. Ji reguliariai iškviečia įvairius lyderius, kad praneštų žiniasklaidai apie vykdomas reformas. 2019 m. gegužės mėn. ji suteikė keletą interviu su Schroepfer New York Times, kuris apdovanojo bendrovę humanizuojančiu jautraus, gerų ketinimų turinčio vadovo profiliu, siekiančiu įveikti techninius iššūkius, susijusius su dezinformacijos ir neapykantą kurstančių kalbų išfiltravimu iš turinio srauto, kuris sudaro milijardus vienetų per dieną. Šie iššūkiai tokie sunkūs, kad Schroepferį sukelia emocingas, rašė „Times“: Kartais tai priverčia jį iki ašarų.

2020 metų pavasarį, matyt, atėjo mano eilė. Ari Entin, „Facebook“ AI komunikacijos direktorius, elektroniniame laiške paklausė, ar noriu giliau pažvelgti į bendrovės AI darbą. Pasikalbėjęs su keliais jos AI lyderiais nusprendžiau sutelkti dėmesį į Quiñonero. Entinas laimingai įsipareigojo. Quiñonero buvo ne tik Atsakingo AI komandos vadovas, bet ir žmogus, kuris „Facebook“ pavertė dirbtinio intelekto valdoma įmone, todėl jis buvo geras pasirinkimas plakatui.

Man jis taip pat atrodė natūralus dalyko pasirinkimas. Per tuos metus, kai po „Cambridge Analytica“ skandalo jis subūrė savo komandą, susirūpinimas dėl melo ir neapykantos kurstymo „Facebook“ tinkle tik išaugo. 2018 m. pabaigoje bendrovė pripažino, kad ši veikla turėjo padėjo pakurstyti genocidinę kampaniją prieš musulmonus kelerius metus Mianmare. 2020 m. „Facebook“ pavėluotai pradėjo imtis veiksmų prieš Holokausto neigėjus, priešininkus ir sąmokslo judėjimą „QAnon“. Visi šie pavojingi melai metastazavo dėl AI galimybių, kurias padėjo sukurti Quiñonero. Algoritmai, kuriais grindžiamas „Facebook“ verslas, nebuvo sukurti tam, kad išfiltruotų tai, kas klaidinga ar įžeidžianti; jie buvo sukurti taip, kad žmonės dalintųsi ir sudomintų kuo daugiau turinio, parodydami jiems dalykus, dėl kurių jie greičiausiai būtų pasipiktinę ar supykę. Šios problemos sprendimas man atrodė kaip pagrindinė atsakinga AI teritorija.

Pradėjau reguliariai skambinti vaizdo skambučiais Quiñonero. Taip pat kalbėjausi su Facebook vadovais, esamais ir buvusiais darbuotojais, pramonės kolegomis ir išorės ekspertais. Daugelis kalbėjo anonimiškai, nes pasirašė neatskleidimo susitarimus arba bijojo keršto. Norėjau sužinoti: ką Quiñonero komanda darė, kad sutramdytų neapykantą ir melą savo platformoje?

Joaquin Quiñonero Candela prie savo namų Bay Area, kur gyvena su žmona ir trimis vaikais.

WINNI WINTERMEYER

Tačiau Entino ir Quiñonero darbotvarkė buvo skirtinga. Kiekvieną kartą, kai bandžiau iškelti šias temas, mano prašymai apie jas pasisakyti buvo atmesti arba nukreipti. Jie norėjo tik aptarti Atsakingos AI komandos planą spręsti vienos konkrečios rūšies problemą: AI šališkumą, kai algoritmai diskriminuoja tam tikras vartotojų grupes. Pavyzdys galėtų būti skelbimų taikymo algoritmas, rodantis tam tikras darbo ar būsto galimybes baltiesiems, bet ne mažumoms.

Tuo metu, kai sausio mėn. tūkstančiai riaušininkų įsiveržė į JAV Kapitolijaus teritoriją, kurią iš dalies organizavo „Facebook“ ir kurstė melas apie pavogtus rinkimus, kurie pasklido per visą platformą, iš mano pokalbių buvo aišku, kad Atsakingo AI komandai nepavyko pažangą prieš dezinformaciją ir neapykantą kurstančią kalbą, nes šios problemos niekada nebuvo pagrindinis dėmesys. Dar svarbiau, supratau, kad jei jis bandytų, jis būtų paruoštas nesėkmei.

Priežastis paprasta. Viskas, ką įmonė daro ir nusprendžia nedaryti, kyla iš vienos motyvacijos: nenumaldomo Zuckerbergo augimo troškimo. Quiñonero AI patirtis padidino šį augimą. Kaip sužinojau iš savo ataskaitos, jo komanda įsitraukė į taikymą į DI šališkumą, nes tokio šališkumo išvengimas padeda įmonei išvengti siūlomas reglamentas kuris, jei bus priimtas, gali trukdyti augimui. „Facebook“ vadovybė taip pat ne kartą susilpnino arba sustabdė daugelį iniciatyvų, skirtų platformoje esančiai dezinformacijai išvalyti, nes tai pakenktų šiam augimui.

Kitaip tariant, atsakingos AI komandos darbas – kad ir kokie būtų jo nuopelnai sprendžiant konkrečią AI šališkumo problemą – iš esmės nėra svarbus sprendžiant didesnes dezinformacijos, ekstremizmo ir politinės poliarizacijos problemas. Ir mes visi mokame kainą.

Kai užsiimate didžiausio įsitraukimo didinimu, jūsų nedomina tiesa. Jūsų nedomina žala, nesantaika, sąmokslas. Tiesą sakant, tai jūsų draugai, sako Hany Faridas, Kalifornijos universiteto Berklyje profesorius, bendradarbiaujantis su „Facebook“, kad suprastų vaizdais ir vaizdo įrašais pagrįstą klaidingą informaciją platformoje.

Jie visada daro tik tiek, kad galėtų paskelbti pranešimą spaudai. Tačiau, išskyrus keletą išimčių, nemanau, kad tai iš tikrųjų perkeliama į geresnę politiką. Jie niekada nesprendžia pagrindinių problemų.

2012 m. kovo mėn. Quiñonero aplankė draugą įlankos rajone. Tuo metu jis buvo „Microsoft Research“ JK biuro vadybininkas ir vadovavo mašininio mokymosi komandai, kad daugiau lankytojų spustelėtų skelbimus, rodomus bendrovės paieškos sistemoje „Bing“. Jo patirtis buvo reta, o komandai buvo mažiau nei metai. Mašinų mokymasis, AI pogrupis, dar turėjo įrodyti, kad yra didelio masto pramonės problemų sprendimas. Nedaug technologijų gigantų investavo į technologijas.

Quiñonero draugas norėjo pademonstruoti savo naują darbdavį, vieną karščiausių Silicio slėnio startuolių: „Facebook“, kuriam tada buvo aštuoneri ir jau beveik milijardas mėnesio aktyvūs vartotojai (t. y. tie, kurie prisijungė bent kartą per pastarąsias 30 dienų). Kai Quiñonero vaikščiojo po Menlo parko būstinę, jis stebėjo, kaip vienas inžinierius atliko esminį svetainės atnaujinimą, o tai būtų susiję su dideliu biurokratiškumu Microsoft. Tai buvo įsimintina įžanga į Zuckerberg's Move fast and break things etosą. Quiñonero buvo nustebintas galimybių. Per savaitę jis praėjo interviu ir pasirašė pasiūlymą prisijungti prie įmonės.

Jo atvykimo laikas negalėjo būti geresnis. „Facebook“ skelbimų tarnyba sparčiai plėtėsi, nes bendrovė ruošėsi gegužės mėn. Tikslas buvo padidinti pajamas ir užimti „Google“, kuri užėmė liūto dalį internetinės reklamos rinkos. Mašininis mokymasis, kuris galėtų numatyti, kurie skelbimai geriausiai atitiktų naudotojus ir tokiu būdu būtų efektyvesni, galėtų būti puiki priemonė. Netrukus po darbo pradžios Quiñonero buvo paskirtas vadovauti komandai, panašiai į tą, kuriai vadovavo „Microsoft“.

Quiñonero pradėjo auginti viščiukus 2019 m. pabaigoje, kad galėtų atsipalaiduoti nuo savo darbo intensyvumo.

WINNI WINTERMEYER

Skirtingai nuo tradicinių algoritmų, kuriuos sunkiai užkoduoja inžinieriai, mašininio mokymosi algoritmai treniruojasi pagal įvesties duomenis, kad sužinotų jų sąsajas. Išmokytas algoritmas, žinomas kaip mašininio mokymosi modelis, gali automatizuoti būsimus sprendimus. Pavyzdžiui, algoritmas, parengtas pagal skelbimų paspaudimų duomenis, gali sužinoti, kad moterys dažniau nei vyrai spustelėja jogos antblauzdžių skelbimus. Tada sukurtas modelis daugiau tų skelbimų rodys moterims. Šiandien dirbtiniu intelektu paremtoje įmonėje, pvz., „Facebook“, inžinieriai sukuria daugybę modelių su nedideliais skirtumais, kad sužinotų, kuris iš jų geriausiai veikia tam tikrą problemą.

„Facebook“ didžiulis vartotojų duomenų kiekis suteikė „Quinonero“ didelį pranašumą. Jo komanda galėjo sukurti modelius, kurie išmoktų numanyti, kad egzistuoja ne tik plačios kategorijos, pvz., moterys ir vyrai, bet ir labai smulkios kategorijos, pavyzdžiui, moterys nuo 25 iki 34 metų, mėgstančios su joga susijusius Facebook puslapius, ir nukreipti joms skelbimus. Kuo tikslesnis taikymas, tuo didesnė paspaudimo tikimybė, o tai suteiktų reklamuotojams daugiau pinigų.

Per metus jo komanda sukūrė šiuos modelius, taip pat įrankius, leidžiančius greičiau kurti ir įdiegti naujus. Anksčiau Quiñonero inžinieriai užtrukdavo nuo šešių iki aštuonių savaičių naujam modeliui sukurti, apmokyti ir išbandyti. Dabar prireikė tik vieno.

Žinia apie sėkmę greitai pasklido. Komanda, kuri dirbo siekdama nustatyti, kokius įrašus atskiri „Facebook“ vartotojai matys savo asmeniniuose naujienų kanaluose, norėjo taikyti tuos pačius metodus. Lygiai taip pat, kaip algoritmai gali būti išmokyti nuspėti, kas kokį skelbimą spustelėtų, jie taip pat gali būti išmokyti nuspėti, kas kokį įrašą norėtų ar bendrintų, ir tada suteiktų tiems įrašams daugiau dėmesio. Jei modelis nustatytų, kad, pavyzdžiui, žmogui tikrai patinka šunys, draugų įrašai apie šunis būtų rodomi aukščiau to vartotojo naujienų kanale.

Zuckerbergo ir Schroepferio dėmesį patraukė Quiñonero sėkmė naudojant naujienų kanalą, kartu su įspūdingais naujais AI tyrimais, atliekamais už įmonės ribų. „Facebook“ dabar turėjo šiek tiek daugiau nei 1 milijardą vartotojų, todėl jis yra daugiau nei aštuonis kartus didesnis nei bet kuris kitas socialinis tinklas, tačiau jie norėjo žinoti, kaip tęsti šį augimą. Vadovai nusprendė daug investuoti į AI, interneto ryšį ir virtualią realybę.

Jie sukūrė dvi AI komandas. Viena iš jų buvo FAIR, fundamentinių tyrimų laboratorija, kuri pagerintų naujausias technologijos galimybes. Kitas, taikomasis mašininis mokymasis (AML), integruos šias galimybes į „Facebook“ produktus ir paslaugas. 2013 m. gruodį, po mėnesių trukusio bendravimo ir įtikinėjimo, vadovai pasamdė Yann LeCun, vieną didžiausių šios srities vardų, vadovauti FAIR. Po trijų mėnesių Quiñonero vėl buvo paaukštintas, šį kartą vadovaudamas AML. (Vėliau jis buvo pervadintas FAIAR, tariamas gaisras.)

Taip jūs žinote, kas jo galvoje. Keletą metų visada buvau už kelių žingsnių nuo Marko stalo.

Joaquinas Quinonero Candela

Atlikdamas naują vaidmenį, Quiñonero sukūrė naują modelių kūrimo platformą, kurią galėtų pasiekti visi „Facebook“ darbuotojai. Skambino FBLearner Flow , tai leido mažai dirbtinio intelekto patirties turintiems inžinieriams per kelias dienas apmokyti ir įdiegti mašininio mokymosi modelius. Iki 2016 m. vidurio juo naudojosi daugiau nei ketvirtadalis „Facebook“ inžinierių komandos ir jau buvo naudojama apmokyti daugiau nei milijoną modelių, įskaitant vaizdų atpažinimo, skelbimų taikymo ir turinio moderavimo modelius.

Zuckerbergo manija priversti visą pasaulį naudotis „Facebook“ rado galingą naują ginklą. Komandos anksčiau naudojo dizaino taktiką, pavyzdžiui, eksperimentavo su pranešimų turiniu ir dažnumu, siekdamos efektyviau pritraukti vartotojus. Jų tikslas, be kita ko, buvo padidinti metriką, vadinamą L6/7, žmonių, prisijungusių prie „Facebook“ šešias per pastarąsias septynias dienas, dalį. L6/7 yra tik vienas iš daugybės būdų, kuriais „Facebook“ įvertino įsitraukimą – žmonių polinkį naudoti jos platformą bet kokiu būdu, nesvarbu, ar tai skelbiant, komentuojant, pažymint „Patinka“ ar bendrinant juos, ar tiesiog žiūrint. Dabar kiekviena vartotojo sąveika, kurią kažkada išanalizavo inžinieriai, buvo analizuojama algoritmais. Šie algoritmai kūrė daug greitesnes, labiau suasmenintas grįžtamojo ryšio kilpas, skirtas koreguoti ir pritaikyti kiekvieno vartotojo naujienų srautą, kad būtų nuolat didinamas įsitraukimo skaičius.

Zuckerbergas, sėdėjęs 20 pastato, pagrindinio biuro Menlo parko būstinėje, centre, šalia savęs pastatė naujas FAIR ir AML komandas. Daugelis originalių dirbtinio intelekto samdinių buvo taip arti, kad jo ir jų stalas praktiškai lietė. Tai buvo vidinė šventovė, sako buvęs AI organizacijos (Facebook filialo, kuriame yra visos dirbtinio intelekto komandos) vadovas, kuris prisimena, kaip generalinis direktorius maišydavo žmones į savo apylinkes ir iš jų, kai šie įgaudavo ar prarasdavo jo palankumą. Taip jūs žinote, kas jo galvoje, sako Quiñonero. Keletą metų visada buvau už kelių žingsnių nuo Marko stalo.

Su naujais mašininio mokymosi modeliais Kasdien prisijungdama prie interneto, bendrovė sukūrė naują sistemą, skirtą stebėti jų poveikį ir maksimaliai padidinti vartotojų įsitraukimą. Procesas toks pat ir šiandien. Komandos rengia naują mašininio mokymosi modelį FBLearner, nesvarbu, ar keisti įrašų reitingavimo tvarką, ar geriau užfiksuoti turinį, kuris pažeidžia „Facebook“ bendruomenės standartus (jo taisykles, kas yra leidžiama ir kas neleidžiama platformoje). Tada jie išbando naująjį modelį su nedideliu „Facebook“ vartotojų pogrupiu, kad įvertintų, kaip jis keičia įsitraukimo metriką, pvz., patinkančių paspaudimų, komentarų ir dalijimosi skaičių, sako Krishna Gade, 2016–2018 m. dirbusi naujienų srauto inžinerijos vadovu. .

Jei modelis per daug sumažina įsitraukimą, jis atmetamas. Kitu atveju jis įdiegiamas ir nuolat stebimas. „Twitter“, Gade paaiškino kad jo inžinieriai kas kelias dienas gautų pranešimus, kai sumažėjo tokių metrikų kaip teigiamas įvertinimai ar komentarai. Tada jie išsiaiškindavo, kas sukėlė problemą ir ar kokius nors modelius reikia perkvalifikuoti.

Tačiau šis požiūris netrukus sukėlė problemų. Modeliai, kurie padidina įsitraukimą, taip pat teikia pirmenybę prieštaravimams, dezinformacijai ir ekstremizmui: paprasčiau tariant, žmonėms patinka siaubingi dalykai. Kartais tai pakursto esamą politinę įtampą. Iki šiol labiausiai niokojantis pavyzdys yra Mianmaro atvejis, kai virusinės netikros naujienos ir neapykantą kurstančios kalbos apie musulmonų rohinjų mažumą pavertė šalies religinį konfliktą iki visiško genocido. Facebook pripažino 2018 m , po daugelio metų sumenkinimo savo vaidmens, kad nepadarė pakankamai pastangų, kad mūsų platforma nebūtų naudojama susiskaldymui ir smurtui neprisijungus kurstyti.

Nors iš pradžių „Facebook“ galėjo pamiršti šias pasekmes, ji jas ištyrė iki 2016 m. Tais metais pateiktame vidiniame pristatyme, kurį apžvelgė Wall Street Journal , įmonės tyrėja Monica Lee nustatė, kad „Facebook“ ne tik priglobia daugybę ekstremistinių grupių, bet ir reklamuoja jas savo vartotojams: 64 % visų ekstremistinių grupių prisijungimų atsiranda dėl mūsų rekomendacijų įrankių, teigiama pristatyme, daugiausia dėl Grupių, prie kurių turėtumėte prisijungti, ir Atraskite funkcijų modeliai.

Klausimas vadovybei buvo toks: ar turėtume optimizuoti dalyvavimą, jei pastebite, kad kažkas yra pažeidžiamos?

Buvęs dirbtinio intelekto tyrinėtojas, prisijungęs 2018 m

2017 m. Chrisas Coxas, ilgametis „Facebook“ produktų vadovas, sudarė naują darbo grupę, siekdamas išsiaiškinti, ar maksimalus vartotojų įsitraukimas „Facebook“ prisideda prie politinės poliarizacijos. Jis nustatė, kad iš tikrųjų yra ryšys ir kad poliarizacijos mažinimas reikštų, kad bus pasiektas sužadėtuvės smūgis. 2018 m. viduryje žurnalo peržiūrėtame dokumente darbo grupė pasiūlė keletą galimų pataisymų, pavyzdžiui, patobulinti rekomendacijų algoritmus, kad būtų pasiūlyta įvairesnių grupių, prie kurių žmonės galėtų prisijungti. Tačiau ji pripažino, kad kai kurios idėjos buvo prieš augimą. Dauguma pasiūlymų nepajudėjo, o darbo grupė iširo.

Nuo tada kiti darbuotojai patvirtino šias išvadas. Buvęs Facebook AI tyrėjas, prisijungęs prie 2018 m., sako, kad jis ir jo komanda atliko tyrimą po tyrimo, patvirtinančio tą pačią pagrindinę mintį: modeliai, kurie maksimaliai padidina įsitraukimą, padidina poliarizaciją. Jie galėjo lengvai stebėti, kaip stipriai naudotojai sutiko ar nesutiko dėl įvairių klausimų, su kokiu turiniu jiems patiko bendrauti ir kaip dėl to pasikeitė jų pozicijos. Nepriklausomai nuo problemos, modeliai išmoko suteikti vartotojams vis ekstremalesnių požiūrių. Laikui bėgant jie išmatuojamai tapti labiau poliarizuota, sako jis.

Tyrėjų komanda taip pat išsiaiškino, kad vartotojai, linkę skelbti melancholišką turinį – galimą depresijos požymį – gali lengvai pradėti vartoti vis labiau neigiamą medžiagą, dėl kurios gali dar labiau pablogėti jų psichinė sveikata. Komanda pasiūlė koreguoti šių vartotojų turinio reitingavimo modelius, kad jie nebedidintų vien tik įsitraukimo, kad jiems būtų rodoma mažiau slegiančių dalykų. Klausimas vadovybei buvo toks: ar turėtume optimizuoti dalyvavimą, jei pastebite, kad kažkas yra pažeidžiamos? jis prisimena. („Facebook“ atstovė sakė negalinti rasti šio pasiūlymo dokumentų.)

Susijusi istorija

Netvarkinga, slapta tikrovė, slypinti už OpenAI siekio išgelbėti pasaulį AI moonshot buvo sukurtas siekiant skaidrumo. Tai vidinė istorija apie tai, kaip konkurencinis spaudimas sugriovė tą idealizmą.

Tačiau viskas, kas sumažino įsitraukimą, net ir dėl tokių priežasčių, kaip kažkieno depresijos nepaaštrėjimas, paskatino vadovybėje daug susikibimo ir prieštaravimų. Savo veiklos apžvalgomis ir atlyginimais susiedami su sėkmingu projektų įvykdymu, darbuotojai greitai išmoko atsisakyti tų, kurie buvo atstumti, ir toliau dirbti su tais, kurie buvo padiktuoti iš viršaus į apačią.

Vienas iš tokių projektų, kuriuos labai pastūmėjo įmonės vadovai, numatė, ar vartotojui gali kilti pavojus dėl to, ką jau padarė keli žmonės: tiesiogiai transliuoti savo savižudybę „Facebook Live“. Užduotis apėmė modelio kūrimą analizuoti komentarus kad kiti naudotojai paskelbė vaizdo įraše po to, kai jis buvo paskelbtas tiesiogiai, ir atkreipė rizikos grupės naudotojų dėmesį į apmokytus „Facebook“ bendruomenės apžvalgininkus, kurie galėtų paskambinti vietiniams greitosios pagalbos darbuotojams, kad jie atliktų sveikatos patikrinimą. Tai nereikalavo jokių turinio reitingavimo modelių pakeitimų, turėjo nereikšmingą poveikį įsitraukimui ir veiksmingai atrėmė neigiamą spaudą. Tai taip pat buvo beveik neįmanoma, sako mokslininkas: tai daugiau viešųjų ryšių triukas. Bandymo nustatyti, ar kas nors nusižudys per ateinančias 30 sekundžių, remiantis pirmąsias 10 vaizdo įrašo analizės sekundžių, efektyvumas – tai nebus labai efektyvu.

„Facebook“ ginčija šį apibūdinimą, sakydamas, kad komanda, kuri dirbo prie šių pastangų, nuo tada sėkmingai nuspėjo, kuriems vartotojams gresia pavojus, ir padidino atliekamų sveikatos patikrinimų skaičių. Tačiau bendrovė neskelbia duomenų apie savo prognozių tikslumą ar tai, kiek sveikatos patikrinimų pasirodė tikrais kritiniais atvejais.

Tuo tarpu tas buvęs darbuotojas nebeleidžia dukrai naudotis „Facebook“.

Quiñonero turėjo būti 2018 m. balandžio mėn. sukūręs SAIL (vėliau Atsakingas AI) komandą, jis puikiai sugebėjo spręsti šias problemas. Laikas, kai jis buvo taikomojo mašininio mokymosi direktorius, artimai susipažino su įmonės algoritmais, ypač tais, kurie naudojami rekomenduoti įrašus, skelbimus, ir kitas turinys vartotojams.

Taip pat atrodė, kad „Facebook“ yra pasirengęs rimtai žiūrėti į šias problemas. Nors ankstesnės pastangos su jais dirbti buvo pasklidusios visoje įmonėje, dabar Quiñonero buvo suteikta centralizuotai komandai, turinčiai veiksmų laisvę dirbti viską, kas, jo nuomone, tinkama dirbtinio intelekto ir visuomenės sankirtoje.

Tuo metu Quiñonero užsiėmė savo perauklėjimu apie tai, kaip būti atsakingu technologu. DI tyrimų srityje vis didesnis dėmesys buvo skiriamas AI šališkumo ir atskaitomybės problemoms po didelio atgarsio sulaukusių tyrimų, rodančių, kad, pavyzdžiui, algoritmas juodaodžiams kaltinamiesiems įvertino kaip labiau tikėtina, kad bus suimtas nei baltieji kaltinamieji, kurie buvo suimti už tą patį ar sunkesnį nusikaltimą. Quiñonero pradėjo studijuoti mokslinę literatūrą apie algoritmų teisingumą, skaityti knygas apie etinę inžineriją ir technologijų istoriją bei kalbėtis su pilietinių teisių ekspertais ir moralės filosofais.

WINNI WINTERMEYER

Per daug valandų, kurias praleidau su juo, supratau, kad jis į tai žiūri rimtai. Jis prisijungė prie „Facebook“ vykstant Arabų pavasariui – revoliucijoms prieš engiančius Artimųjų Rytų režimus. Ekspertai gyrė socialinę žiniasklaidą už informacijos, kuri skatino sukilimus, skleidimą ir suteikimą žmonėms organizuoti įrankius. Gimęs Ispanijoje, bet užaugęs Maroke, kur tiesiogiai matė žodžio laisvės slopinimą, Quiñonero pajuto stiprų ryšį su „Facebook“ potencialu, kaip gerovei.

Po šešerių metų „Cambridge Analytica“ pagrasino šį pažadą panaikinti. Ginčai privertė jį susidurti su savo tikėjimu įmone ir ištirti, ką pasilikimas reikš jo sąžiningumui. Manau, kad tai, kas atsitinka daugeliui žmonių, dirbančių „Facebook“ – ir neabejotinai tai buvo mano istorija – yra tai, kad tarp „Facebook“ ir manęs nėra ribos, sako jis. Tai nepaprastai asmeniška. Tačiau jis nusprendė likti ir vadovauti SAIL, nes tikėjo, kad gali padaryti daugiau pasaulio labui, padėdamas pakeisti įmonę, nei palikti ją nuošalyje.

Manau, kad jei dirbate tokioje įmonėje kaip „Facebook“, ypač per pastaruosius kelerius metus, jūs tikrai suprantate, kokį poveikį jūsų produktai daro žmonių gyvenimui – tam, ką jie galvoja, kaip bendrauja, kaip bendrauja tarpusavyje“, – sako Quiñonero's. ilgametis draugas Zoubin Ghahramani, kuris padeda vadovauti „Google Brain“ komandai. Žinau, kad Joaquinas labai rūpinasi visais šio reikalo aspektais. Kaip žmogus, kuris stengiasi pasiekti geresnių rezultatų ir tobulinti dalykus, jis mato svarbų vaidmenį, kurį jis gali atlikti formuojant mąstymą ir politiką, susijusią su atsakingu AI.

Iš pradžių SAIL turėjo tik penkis žmones, kurie atvyko iš skirtingų įmonės dalių, bet visi domėjosi algoritmų poveikiu visuomenei. Viena iš steigėjų, Isabel Kloumann, mokslininkė iš pagrindinės bendrovės duomenų mokslo komandos, atsinešė pradinę įrankio, skirto AI modelių šališkumui išmatuoti, versiją.

Komanda taip pat sugalvojo daugybę kitų projektų idėjų. Buvęs AI organizacijos vadovas, dalyvavęs kai kuriuose ankstyvuosiuose SAIL susitikimuose, prisimena vieną pasiūlymą kovoti su poliarizacija. Tai apėmė nuotaikų analizę, mašininio mokymosi formą, kuri interpretuoja nuomonę teksto fragmentais, kad būtų galima geriau atpažinti komentarus, išreiškiančius kraštutinius požiūrius. Šie komentarai nebūtų ištrinti, bet pagal numatytuosius nustatymus būtų paslėpti su galimybe juos atskleisti, taip apribojant juos mačiusių žmonių skaičių.

Taip pat buvo diskutuojama apie tai, kokį vaidmenį SAIL galėtų atlikti „Facebook“ ir kaip jis turėtų vystytis laikui bėgant. Manoma, kad komanda pirmiausia parengs atsakingo AI gaires, kad nurodytų produktų komandoms, ką jos turėtų daryti arba ko ne. Tačiau tikimasi, kad jis galiausiai taps įmonės centriniu centru, skirtu AI projektams įvertinti ir sustabdyti tuos, kurie nesilaiko gairių.

Tačiau buvę darbuotojai apibūdino, kaip sunku gali būti gauti įpirką ar finansinę paramą, kai darbas tiesiogiai nepagerino „Facebook“ augimo. Pagal savo pobūdį komanda buvo ne galvodama apie augimą, o kai kuriais atvejais siūlydavo idėjas, prieštaraujančias augimui. Dėl to ji gavo mažai išteklių ir merdėjo. Daugelis jos idėjų išliko daugiausia akademinės.

2018 m. rugpjūčio 29 d. kad staiga pasikeitė. Artėjant JAV vidurio kadencijos rinkimams, prezidentas Donaldas Trumpas ir kiti respublikonų lyderiai sukeltus kaltinimus kad „Facebook“, „Twitter“ ir „Google“ turėjo antikonservatyvų šališkumą. Jie tvirtino, kad ypač „Facebook“ moderatoriai, taikydami bendruomenės standartus, labiau slopina konservatorių, o ne liberalų balsus. Šis mokestis bus vėliau būti demaskuotas , bet grotažymė #StopTheBias , paskatintas Trumpo tviterio, sparčiai plito socialinėje žiniasklaidoje.

Trumpui tai buvo paskutinės pastangos pasėti nepasitikėjimą pagrindiniais šalies informacijos platinimo kanalais. Zuckerbergui tai grasino atstumti „Facebook“ konservatyvius JAV vartotojus ir padaryti įmonę labiau pažeidžiama respublikonų vadovaujamos vyriausybės reguliavimo. Kitaip tariant, tai kėlė grėsmę įmonės augimui.

„Facebook“ nedavė man interviu su Zuckerbergu, bet ankstesnis ataskaitų teikimas turi parodyta kaip jis vis labiau pamalonino Trumpą ir respublikonų vadovybę. Išrinkus Trumpą, Joelis Kaplanas, „Facebook“ pasaulinės viešosios politikos viceprezidentas ir aukščiausio rango respublikonas, patarė Zuckerbergui atsargiai žengti į naują politinę aplinką.

2018 m. rugsėjo 20 d., praėjus trims savaitėms po Trumpo #StopTheBias žinutės, Zuckerbergas pirmą kartą nuo SAIL sukūrimo surengė susitikimą su Quiñonero. Jis norėjo sužinoti viską, ką Quiñonero sužinojo apie AI šališkumą ir kaip jį panaikinti „Facebook“ turinio moderavimo modeliuose. Susitikimo pabaigoje buvo aišku vienas dalykas: AI šališkumas dabar buvo svarbiausias Quiñonero prioritetas. Vadovybė labai stengėsi užtikrinti, kad tai būtų daroma agresyviai, sako Rachad Alao, atsakingo AI inžinierių direktorius, prisijungęs prie 2019 m. balandžio mėn.

Tai buvo visų salėje buvusių žmonių pergalė. Zuckerbergas gavo būdą, kaip atremti kaltinimus prieš konservatyvų šališkumą. O Quiñonero dabar turėjo daugiau pinigų ir didesnę komandą, kad bendra Facebook patirtis būtų geresnė vartotojams. Jie galėtų remtis esamu Kloumann įrankiu, kad būtų galima išmatuoti ir ištaisyti tariamą antikonservatyvų šališkumą turinio moderavimo modeliuose, taip pat ištaisyti kitų tipų šališkumą daugumoje modelių visoje platformoje.

Tai gali padėti apsaugoti platformą nuo netyčinio tam tikrų vartotojų diskriminavimo. Tuo metu „Facebook“ jau turėjo tūkstančius modelių vienu metu, ir beveik nė vienas nebuvo įvertintas dėl šališkumo. Dėl to po kelių mėnesių kiltų teisinių problemų su JAV būsto ir miestų plėtros departamentu (HUD), kuris teigė, kad bendrovės algoritmai iš vartotojų duomenų išvedė apsaugotus požymius, pvz., rasę, ir rodydavo jiems būsto skelbimus pagal šiuos atributus. – neteisėta diskriminacijos forma. (Ieškinys vis dar laukiamas.) Schroepferis taip pat prognozavo, kad Kongresas netrukus priims įstatymus reguliuoti algoritminę diskriminaciją , todėl „Facebook“ vis tiek turėjo padaryti pažangą šiose pastangose.

(„Facebook“ ginčija idėją, kad ji siekė dirbtinio intelekto šališkumo, kad apsaugotų augimą arba lauktų reguliavimo. Sukūrėme Atsakingo AI komandą, nes tai buvo teisingas dalykas, sakė atstovas.)

Tačiau susiaurinus SAIL dėmesį į algoritmų teisingumą, visos kitos ilgalaikės „Facebook“ algoritminės problemos būtų pašalintos. Jo turinio rekomendacijų modeliai ir toliau stumdytų naudotojus į įrašus, naujienas ir grupes, stengiantis kuo labiau įtraukti, apdovanoti ekstremistiniu turiniu ir prisidėti prie vis labiau trūkinėjančio politinio diskurso.

Zuckerbergas netgi pripažino tai. Praėjus dviem mėnesiams po susitikimo su Quiñonero, m viešas užrašas apibūdindamas „Facebook“ turinio moderavimo planus, žalingą įmonės įsitraukimo strategijos poveikį jis iliustravo supaprastinta diagrama. Tai parodė, kad kuo didesnė tikimybė, kad įrašas pažeis „Facebook“ bendruomenės standartus, tuo didesnis vartotojų įsitraukimas, nes algoritmai, kurie maksimaliai padidina įsitraukimą, apdovanoja kurstantį turinį.

FACEBOOK

Bet tada jis parodė kitą diagramą su atvirkštiniu ryšiu. Užuot apdovanotas už turinį, kuris beveik pažeidžia bendruomenės standartus, rašė Zuckerbergas, „Facebook“ gali nuspręsti pradėti už jį bausti, suteikdama mažiau platinimo ir įtraukimo, o ne daugiau. Kaip tai būtų padaryta? Su daugiau AI. „Facebook“ sukurs geresnius turinio moderavimo modelius, kad aptiktų šį ribinį turinį, kad jis galėtų būti atgaline data nustumtas žemesnėje naujienų sraute, kad būtų užgniaužtas jo virusiškumas, sakė jis.

FACEBOOK

Problema ta, kad nepaisant visų Zuckerbergo pažadų, ši strategija geriausiu atveju yra menka.

Dezinformacija ir neapykantos kurstymas nuolat vystosi. Atsiranda naujų melų; taikiniais tampa nauji žmonės ir grupės. Kad būtų galima pastebėti dalykus, kol jie nepaplito, turinio moderavimo modeliai turi sugebėti labai tiksliai nustatyti naują nepageidaujamą turinį. Tačiau mašininio mokymosi modeliai taip neveikia. Algoritmas, išmokęs atpažinti Holokausto neigimą, negali iš karto pastebėti, tarkime, rohinjų genocido neigimo. Prieš išmokant jį filtruoti, jis turi būti apmokytas tūkstančiais, dažnai net milijonais naujo tipo turinio pavyzdžių. Net ir tada vartotojai gali greitai išmokti pergudrauti modelį, pvz., pakeisdami įrašo formuluotę arba pakeisdami kurstančias frazes eufemizmais, todėl jų žinutė tampa neįskaitoma dirbtiniu intelektu, o žmogui ji vis dar yra akivaizdi. Štai kodėl naujos sąmokslo teorijos gali greitai tapti nekontroliuojamos ir iš dalies dėl to, net uždraudus tokį turinį, jo formos gali išsilaikyti ant platformos.

Savo New York Times profilyje Schroepfer įvardijo šiuos apribojimus įmonės turinio moderavimo strategijos. Kiekvieną kartą ponas Schroepferis ir jo daugiau nei 150 inžinerinių specialistų sukuria A.I. sprendimai, kurie žymi ir užgniaužia kenksmingą medžiagą, naujus ir abejotinus įrašus, kuriuos A.I. „Times“ rašė, kad sistemos dar niekada nematė. Tai niekada nenukris iki nulio, leidiniui sakė Schroepferis.

Tuo tarpu algoritmai, kurie rekomenduoja šį turinį, vis dar veikia siekiant maksimaliai padidinti įsitraukimą. Tai reiškia, kad kiekvienas toksiškas įrašas, nepatekęs į turinio moderavimo filtrus, ir toliau bus stumiamas aukštyn naujienų sraute ir reklamuojamas, kad pasiektų didesnę auditoriją. Tikrai, a studija Niujorko universitete Neseniai išsiaiškino, kad tarp partizanų leidėjų „Facebook“ puslapių tie, kurie reguliariai skelbdavo politinę dezinformaciją, daugiausiai įsitraukė į 2020 m. JAV prezidento rinkimus ir Kapitolijaus riaušes. Tai mane tiesiog sužavėjo, sako buvęs darbuotojas, kuris 2018–2019 m. dirbo sąžiningumo klausimais. Mes visiškai [tai] pripažinome, tačiau vis dar didiname įsipareigojimus.

Tačiau Quiñonero SAIL komanda nesprendė šios problemos. Kadangi Kaplanas ir Zuckerbergas nerimavo dėl konservatorių susvetimėjimo, komanda ir toliau sutelkė dėmesį į šališkumą. Ir net po to, kai ji susijungė į didesnę Atsakingo AI komandą, ji niekada nebuvo įpareigota dirbti su turinio rekomendacijų sistemomis, kurios galėtų apriboti dezinformacijos plitimą. Taip pat nėra jokios kitos komandos, kaip patvirtinau po to, kai Entinas ir kitas atstovas spaudai pateikė man išsamų visų kitų „Facebook“ iniciatyvų sąžiningumo klausimais sąrašą.

Susijusi istorija

Pradėjau verkti: Timnit Gebru paskutinės dienos „Google“ ir kas nutiks toliau .

„Facebook“ atstovas sakė: „Darbo neatlieka viena konkreti komanda, nes įmonė neveikia taip. Ji paskirstoma komandoms, turinčioms specialių žinių, kaip spręsti, kaip turinio reitingavimas daro įtaką dezinformacijai jų platformos daliai, sakė ji. Tačiau Schroepferis ankstesniame interviu man pasakė visiškai priešingai. Aš jo paklausiau, kodėl jis sukūrė centralizuotą atsakingą AI komandą, užuot nukreipęs esamas komandas siekti pažangos šiuo klausimu. Jis sakė, kad tai buvo geriausia įmonės praktika.

[Jei] tai svarbi sritis, turime joje greitai judėti, ji nėra tiksliai apibrėžta, [sukuriame] atsidavusią komandą ir gauname tinkamą vadovavimą, sakė jis. Sričiai augant ir bręstant pamatysite, kad produktų komandos imsis daugiau darbo, tačiau pagrindinė komanda vis tiek reikalinga, nes jums reikia neatsilikti nuo naujausių darbų.

Kai kitiems dirbtinio intelekto etikos ir žmogaus teisių ekspertams aprašiau Atsakingos dirbtinio intelekto komandos darbą, jie atkreipė dėmesį į nesuderinamumą tarp problemų, kurias ji sprendžia, ir tų, kaip dezinformacija, dėl kurių „Facebook“ garsėja labiausiai. Atrodo, kad tai taip keistai pašalinta iš „Facebook“ kaip produkto – „Facebook“ kuriami dalykai ir klausimai apie poveikį pasauliui, su kuriuo susiduria „Facebook“, sakė Rummanas Chowdhury, kurio startuolis Paritetas , konsultuoja įmones apie atsakingą dirbtinio intelekto naudojimą, o po mūsų interviu jį įsigijo „Twitter“. Parodžiau Chowdhury Quiñonero komandos dokumentus, kuriuose išsamiai aprašytas jos darbas. Man keista, kad mes kalbėsime apie įtrauktį, sąžiningumą, teisingumą, o ne apie labai realias šiandien vykstančias problemas, sakė ji.

Atrodo, kad „atsakingas dirbtinis intelektas“ yra visiškai subjektyvus, atsižvelgiant į tai, kuo įmonė nusprendžia jai rūpintis. Tai tarsi: „Mes sudarysime sąlygas, o tada jų laikysimės“, – sako Ellery Roberts Biddle, ne pelno organizacijos „Ranking Digital Rights“, tiriančios technologijų įmonių poveikį žmogaus teisėms, redakcinė direktorė. Net nesuprantu, ką jie turi omenyje kalbėdami apie sąžiningumą. Ar jie mano, kad teisinga rekomenduoti žmonėms prisijungti prie ekstremistinių grupuočių, pavyzdžiui, tų, kurios šturmavo Kapitoliijų? Jei visi gauna rekomendaciją, ar tai reiškia, kad tai buvo sąžininga?

Esame tokioje vietoje, kur yra vienas genocidas [Mianmaras], kurį JT, turėdama daug įrodymų, galėjo konkrečiai nurodyti „Facebook“ ir platformos turinio reklamavimo būdus, priduria Biddle. Kiek gali padidėti statymas?

Per pastaruosius dvejus metus Quiñonero komanda sukūrė originalų Kloumann įrankį, pavadintą Fairness Flow. Tai leidžia inžinieriams išmatuoti skirtingų vartotojų grupių mašininio mokymosi modelių tikslumą. Jie gali palyginti veido aptikimo modelio tikslumą pagal įvairų amžių, lytį ir odos atspalvius arba kalbos atpažinimo algoritmo tikslumą skirtingomis kalbomis, tarmėmis ir kirčiavimo raidėmis.

„Fairness Flow“ taip pat pateikiamas su gairėmis, padedančiomis inžinieriams suprasti, ką reiškia mokyti sąžiningą modelį. Viena iš sudėtingiausių problemų, susijusių su algoritmų teisingumu, yra ta, kad jų yra skirtingi sąžiningumo apibrėžimai , kurios gali būti tarpusavyje nesuderinamos. „Fairness Flow“ pateikia keturis apibrėžimus, kuriuos inžinieriai gali naudoti atsižvelgdami į tai, kurie geriausiai atitinka jų paskirtį, pavyzdžiui, ar kalbos atpažinimo modelis atpažįsta visus kirčius vienodai tiksliai arba su minimalia tikslumo riba.

Tačiau sąžiningumo algoritmų tikrinimas vis dar yra neprivalomas „Facebook“. Nė viena iš komandų, kurios tiesiogiai dirba su Facebook naujienų srautu, skelbimų paslauga ar kitais produktais, neprivalo to daryti. Atlyginimo paskatos vis dar yra susietos su įsitraukimo ir augimo metrika. Ir nors yra gairių, kokį sąžiningumo apibrėžimą naudoti bet kurioje situacijoje, jos nėra vykdomos.

Ši paskutinė problema išryškėjo, kai įmonei teko susidurti su kaltinimais prieš konservatyvų šališkumą.

2014 m. Kaplanas buvo paaukštintas iš JAV politikos vadovo iki pasaulinio politikos viceprezidento, o jis pradėjo vaidinti rimtesnį vaidmenį turinio moderavimo ir sprendimų, kaip reitinguoti įrašus vartotojų naujienų srautuose, klausimais. Po to, kai 2016 m. respublikonai pradėjo reikšti teiginius apie antikonservatyvų šališkumą, jo komanda pradėjo rankiniu būdu peržiūrėti dezinformacijos aptikimo modelių poveikį vartotojams, siekdama, be kita ko, užtikrinti, kad jie neproporcingai baustų konservatorius.

Visi „Facebook“ vartotojai prie savo profilio turi apie 200 bruožų. Tai apima įvairius naudotojų pateiktus arba mašininio mokymosi modeliais įvertintus matmenis, pvz., rasę, politinius ir religinius polinkius, socialinę ir ekonominę klasę ir išsilavinimo lygį. Kaplano komanda pradėjo naudoti bruožus, kad surinktų pasirinktinius naudotojų segmentus, kurie daugiausia atspindėtų konservatyvius interesus: vartotojus, kurie, pavyzdžiui, naudojasi konservatyviu turiniu, grupėmis ir puslapiais. Tada jie atlikdavo specialias analizes, kad sužinotų, kaip turinio moderavimo sprendimai paveiks įrašus iš tų segmentų, teigia buvęs mokslininkas, kurio darbas buvo peržiūrėtas.

„Fairness Flow“ dokumentacijoje, kurią atsakinga AI komanda parašė vėliau, yra atvejo analizė, kaip naudoti įrankį tokioje situacijoje. Spręsdama, ar dezinformacijos modelis yra teisingas politinės ideologijos atžvilgiu, komanda rašė, sąžiningumas yra teisingas ne reiškia, kad modelis turėtų vienodai paveikti konservatyvius ir liberalius vartotojus. Jei konservatoriai skelbia didesnę dezinformacijos dalį, kaip vertinama visuomenės sutarimu, modelis turėtų pažymėti didesnę konservatyvaus turinio dalį. Jei liberalai skelbia daugiau dezinformacijos, jie taip pat turėtų dažniau pažymėti savo turinį.

Tačiau Kaplano komandos nariai laikėsi visiškai priešingo požiūrio: sąžiningumą jie suprato, kad šie modeliai neturėtų labiau paveikti konservatorių nei liberalų. Kai modelis tai padarė, jie sustabdytų jo diegimą ir reikalautų pakeisti. Kartą jie užblokavo medicininės dezinformacijos detektorių, kuris pastebimai sumažino antivakcininių kampanijų pasiekiamumą, – pasakojo buvęs mokslininkas. Jie tyrėjams pasakė, kad modelis negali būti naudojamas tol, kol komanda neištaisys šio neatitikimo. Tačiau dėl to modelis tapo beprasmis. Tada nėra prasmės, sako mokslininkas. Tokiu būdu modifikuotas modelis tiesiogine prasme neturėtų jokios įtakos tikrajai dezinformacijos problemai.

Net nesuprantu, ką jie turi omenyje kalbėdami apie sąžiningumą. Ar jie mano, kad teisinga rekomenduoti žmonėms prisijungti prie ekstremistinių grupuočių, pavyzdžiui, tų, kurios šturmavo Kapitoliijų? Jei visi gauna rekomendaciją, ar tai reiškia, kad tai buvo sąžininga?

Ellery Roberts Biddle, „Ranking Digital Rights“ redakcijos direktorė

Taip nutiko daugybę kitų kartų – ir ne tik dėl turinio moderavimo. 2020 m Washington Post pranešė, kad Kaplano komanda sumenkino pastangas sumažinti kišimąsi į rinkimus ir „Facebook“ poliarizaciją, sakydama, kad jie gali prisidėti prie antikonservatyvaus šališkumo. 2018 m. jis naudojo tą patį argumentą, kad atidėtų projektą, skirtą „Facebook“ rekomendacijų modeliams redaguoti, nors mokslininkai manė, kad tai sumažins platformos susiskaldymą. Wall Street Journal . Jo teiginiai apie politinį šališkumą taip pat susilpnino pasiūlymą redaguoti naujienų srauto reitingavimo modelius, kurie, „Facebook“ duomenų mokslininkų nuomone, sustiprintų platformą prieš Rusijos manipuliavimo taktiką, kurią taikė per 2016 m. JAV rinkimus.

Anot, prieš 2020 m. rinkimus „Facebook“ politikos vadovai pasinaudojo šiuo pasiteisinimu „New York Times“. , vetuoti arba susilpninti kelis pasiūlymus, kurie būtų sumažinę neapykantą skatinančio ir žalingo turinio plitimą.

„Facebook“ užginčijo „Wall Street Journal“ pranešimus tolesnis tinklaraštis paštu ir interviu leidiniui užginčijo „New York Times“ apibūdinimą. Kaplano komandos atstovas man taip pat neigė, kad tai buvo elgesio modelis, sakydamas, kad „Post“, „Journal“ ir „Times“ aprašyti atvejai buvo atskiri atvejai, kurie, mūsų manymu, buvo klaidingai apibūdinti. Jis atsisakė komentuoti įraše esančių dezinformacijos modelių perkvalifikavimą.

Daugelis šių incidentų įvyko prieš priimant Fairness Flow. Tačiau jie parodo, kaip „Facebook“ sąžiningumo siekimas augimui jau turėjo didelių sąnaudų siekiant pažangos sprendžiant kitus platformos iššūkius. Ir jei inžinieriai naudotų Kaplano komandos priimtą sąžiningumo apibrėžimą, „Fairness Flow“ galėtų tiesiog susisteminti elgesį, už kurį būtų atlyginama už dezinformaciją, užuot padėjus su ja kovoti.

Buvęs tyrinėtojas teigia, kad dažnai visas sąžiningumo dalykas buvo naudojamas tik kaip patogus būdas išlaikyti status quo: atrodo, kad tai prieštarauja dalykams, kuriuos Markas viešai kalbėjo apie sąžiningumą ir teisingumą.

Paskutinį kartą kalbėjausi su Quiñonero buvo praėjus mėnesiui po JAV Kapitolijaus riaušių. Norėjau sužinoti, kaip Kongreso šturmas paveikė jo mąstymą ir darbo kryptį.

Vaizdo skambučio metu buvo kaip visada: Quiñonero skambino iš savo namų biuro viename lange, o Entinas, jo viešųjų ryšių tvarkytojas, kitame. Paklausiau Quiñonero, kokį vaidmenį, jo manymu, „Facebook“ suvaidino riaušėse ir ar tai pakeitė užduotį, kurią jis matė atsakingam AI. Po ilgos pauzės jis išvengė klausimo ir pradėjo apibūdinti naujausius darbus, kuriuos jis atliko siekdamas skatinti didesnę AI komandų įvairovę ir įtrauktį.

Dar kartą uždaviau jam klausimą. Jo „Facebook“ portalo kamera, kuri naudoja kompiuterinio matymo algoritmus garsiakalbiui sekti, jam augant pradėjo lėtai artinti jo veidą. Nežinau, ar turiu lengvą atsakymą į šį klausimą, Karen, pasakė jis. Tai labai sunkus klausimas man užduoti.

Entinas, kuris greitai žingsniavo su stoiku pokerio veidu, pagriebė raudoną streso kamuolį.

Paklausiau Quiñonero, kodėl jo komanda anksčiau nenagrinėjo būdų, kaip redaguoti „Facebook“ turinio reitingavimo modelius, kad būtų sumažinta dezinformacija ir ekstremizmas. Jis man pasakė, kad tai yra kitų komandų darbas (nors nė viena, kaip patvirtinau, nebuvo įgaliota dirbti su šia užduotimi). Jis sakė, kad atsakingai AI komandai neįmanoma patiems ištirti visų tų dalykų. Kai paklausiau, ar jis svarstytų, kad jo komanda ateityje spręstų šias problemas, jis miglotai prisipažino, kad sutikčiau su jumis, kad tai ir bus tokio pobūdžio pokalbių apimtis.

Mūsų valandos trukmės interviu pabaigoje jis pradėjo pabrėžti, kad dirbtinis intelektas dažnai buvo neteisingai nuspalvintas kaip kaltininkas. Nepriklausomai nuo to, ar „Facebook“ naudojo dirbtinį intelektą, ar ne, žmonės vis tiek skleis melą ir neapykantą kurstančią kalbą, o turinys vis tiek plis visoje platformoje.

Paspaudžiau jį dar kartą. Tikrai jis negalėjo patikėti, kad algoritmai visiškai nieko nepadarė, kad pakeistų šių problemų pobūdį.

Nežinau, pasakė jis sustodamas mikčiodamas. Tada jis dar labiau įsitikinęs pakartojo: tai mano sąžiningas atsakymas. Sąžiningas Dievui. Nežinau.

Pataisymai: Pakeitėme eilutę, kurioje teigiama, kad Joelis Kaplanas, „Facebook“ pasaulinės politikos viceprezidentas, naudojo „Fairness Flow“. Jis neturi. Tačiau jo komandos nariai naudojo sąžiningumo sąvoką prašydami perkvalifikuoti dezinformacijos modelius taip, kad jie tiesiogiai prieštarautų Atsakingo AI gairėms. Taip pat paaiškinome, kada Rachadas Alao, Atsakingo AI inžinierių direktorius , įstojo į įmonę.