„Facebook“ nutekintos moderavimo taisyklės rodo, kodėl „Big Tech“ negali kontroliuoti neapykantos kalbos

Kategorija: Silicio slėnis Paskelbta Gruodžio 28 d

Visuomenė paprašė „Big Tech“ uždaryti neapykantą internete. Gavome būtent tai, ko prašėme.

Naujienos: „New York Times“ Maxas Fisheris paskelbtų ištraukų iš daugiau nei 1 400 puslapių vidinių „Facebook“ dokumentų, kuriuose yra taisyklės, taikomos pasaulinei įmonės daugiau nei 7 500 turinio moderatorių armijai. (Pagrindinėje plokštėje buvo anksčiau paskelbtas kai kurios iš tos pačios medžiagos.)

kas viduje? Didelis gairių, apribojimų ir klasifikacijų maišas. Vien neapykantos kurstymo taisyklės apima 200 žargonu užpildytų, galvą verpančių puslapių. Juose pateikiama išsami informacija apie tai, kaip interpretuoti jaustukus (matyt, ? naudojimas gali būti ir patyčios, ir pagyrimas) ir žmonių ar politinių partijų, kurių reikia stebėti, ar nėra neapykantos kurstymo, sąrašai. Dokumentai rodo, kad „Facebook“ yra daug galingesnis pasaulinės kalbos arbitras, nei pripažino, rašo Fisheris.

Problema: Gairės yra ne tik bizantiškos; kai kurie yra pasenę arba juose yra klaidų. Jie taip pat labai skiriasi priklausomai nuo to, kokį spaudimą įmonė patiria: „Facebook“ blokuoja dešimtis kraštutinių dešiniųjų grupių Vokietijoje, kur valdžia atidžiai tikrina socialinį tinklą, tačiau tik vieną kaimyninėje Austrijoje. Tikimasi, kad moderatoriai, kurių dauguma dirba užsakomųjų paslaugų įmonėse ir yra minimaliai apmokyti, sudėtingus sprendimus priims per kelias sekundes, apdoroja tūkstantį pranešimų per dieną , su taisyklėmis, kurios dažnai keičiasi atsižvelgiant į politinius įvykius ir dažnai naudojant „Google“ vertėją.

Išsinešimas: Tai pašalina visus likęs apsimetimas kad „Facebook“ yra tik neutrali leidybos platforma. Politiniai sprendimai persmelkiami kiekviename šių gairių puslapyje.

Bet ko tu tikėjaisi? Kaip spalį man pasakė buvęs „Facebook“ vyriausiasis saugumo pareigūnas Alexas Stamosas, pareikalavome, kad technologijų platformos policija kurstytų neapykantą kurstančią kalbą, ir tai tik suteikia jiems daugiau galios. Tai pavojingas kelias, perspėjo Stamosas. Po penkerių ar dešimties metų gali atsirasti mašininio mokymosi sistemų, kurios suprastų ir žmonių kalbas. Galime baigti mašinos greičiu, realiuoju laiku viską, ką sakome internete, moderuoti.