Mašininis mokymasis buvo naudojamas automatiškai išversti seniai prarastas kalbas

Senovės graikų kalba iškaltas akmenyje Don Lloyd | Flickr

1886 m. britų archeologas Arthuras Evansas aptiko senovinį akmenį su keistu užrašų rinkiniu nežinoma kalba. Akmuo atkeliavo iš Viduržemio jūros salos Kretos, ir Evansas iš karto nuvyko ten ieškoti daugiau įrodymų. Jis greitai rado daugybę akmenų ir lentelių su panašiais raštais ir datuoja juos maždaug 1400 m. pr. m. e.

Dėl to užrašas tapo viena iš ankstyviausių kada nors atrastų rašymo formų. Evansas teigė, kad jo linijinė forma buvo aiškiai kilusi iš grubiai subraižytų linijų paveikslėlių, priklausančių meno kūdikiui, taip įrodant jo svarbą kalbotyros istorijoje.

Vėliau jis ir kiti nustatė, kad akmenys ir lentelės parašyti dviem skirtingais raštais. Seniausias, vadinamas linijiniu A, datuojamas 1800–1400 m. pr. Kr., kai saloje dominavo bronzos amžiaus Mino civilizacija.

Kitas raštas, Linijinis B, yra naujesnis, pasirodė tik po 1400 m. pr. Kr., kai salą užkariavo Mikėniečiai iš žemyninės Graikijos dalies.

Evansas ir kiti daugelį metų bandė iššifruoti senovinius raštus, tačiau prarastos kalbos priešinosi visiems bandymams. Problema liko neišspręsta iki 1953 m., kai lingvistas mėgėjas Michaelas Ventris nulaužė Linear B kodą.

Jo sprendimas buvo pagrįstas dviem lemiamais laimėjimais. Pirma, Ventris spėjo, kad daugelis linijinio B žodyno pasikartojančių žodžių buvo Kretos salos vietų pavadinimai. Tai pasirodė teisinga.

Antrasis jo proveržis buvo manyti, kad raštuose užfiksuota ankstyvoji senovės graikų kalbos forma. Ši įžvalga iškart leido jam iššifruoti likusią kalbos dalį. Proceso metu Ventris parodė, kad senovės graikų kalba pirmą kartą pasirodė raštu daug amžių anksčiau, nei manyta anksčiau.

Ventrio darbas buvo didžiulis pasiekimas. Tačiau senesnis raštas „Linear A“ iki šių dienų išliko viena didžiausių lingvistikos problemų.

Nesunku įsivaizduoti, kad pastarojo meto mašininio vertimo pažanga gali padėti. Vos per kelerius metus kalbotyros studijos sukėlė revoliuciją, nes atsirado didžiulės anotuotos duomenų bazės ir metodai, leidžiantys mašinoms iš jų mokytis. Todėl mašininis vertimas iš vienos kalbos į kitą tapo įprastas dalykas. Ir nors tai nėra tobula, šie metodai suteikė visiškai naują būdą mąstyti apie kalbą.

Įveskite Jiaming Luo ir Regina Barzilay iš MIT ir Yuan Cao iš „Google“ AI laboratorijos Mountain View mieste, Kalifornijoje. Ši komanda sukūrė mašininio mokymosi sistemą, galinčią iššifruoti prarastas kalbas, ir pademonstravo, kad ji iššifravo Linear B – pirmą kartą tai buvo padaryta automatiškai. Jų taikytas metodas labai skyrėsi nuo standartinių mašininio vertimo metodų.

Pirmiausia šiek tiek fono. Pagrindinė mašininio vertimo idėja yra supratimas, kad žodžiai yra tarpusavyje susiję panašiai, neatsižvelgiant į naudojamą kalbą.

Taigi procesas prasideda nustatant šiuos ryšius konkrečiai kalbai. Tam reikalingos didžiulės teksto duomenų bazės. Tada mašina ieško šio teksto, kad sužinotų, kaip dažnai kiekvienas žodis pasirodo šalia kiekvieno kito žodžio. Šis išvaizdos modelis yra unikalus parašas, apibrėžiantis žodį daugiamatėje parametrų erdvėje. Iš tiesų, žodis gali būti suvokiamas kaip vektorius šioje erdvėje. Ir šis vektorius veikia kaip galingas suvaržymas, kaip žodis gali pasirodyti bet kokiame mašinos sugalvotame vertime.

Šie vektoriai paklūsta kai kurioms paprastoms matematinėms taisyklėms. Pavyzdžiui: karalius – vyras + moteris = karalienė. O sakinį galima įsivaizduoti kaip vektorių rinkinį, kuris eina vienas po kito, kad sudarytų tam tikrą trajektoriją per šią erdvę.

Pagrindinė mašininio vertimo įžvalga yra ta, kad žodžiai skirtingomis kalbomis atitinkamose parametrų erdvėse užima tuos pačius taškus. Tai leidžia susieti visą kalbą su kita kalba, naudojant vieną su vienu atitikmenį.

Tokiu būdu sakinių vertimo procesas tampa panašių trajektorijų paieškos per šias erdves procesu. Mašinai niekada net nereikia žinoti, ką reiškia sakiniai.

Šis procesas labai priklauso nuo didelių duomenų rinkinių. Tačiau prieš porą metų Vokietijos tyrėjų komanda parodė, kaip panašus metodas su daug mažesnėmis duomenų bazėmis galėtų padėti išversti daug retesnių kalbų, kuriose trūksta didelių teksto duomenų bazių. Apgaulė yra rasti kitą būdą, kaip apriboti mašinos metodą, kuris nesiremia duomenų baze.

Dabar Luo ir kolegos žengė toliau, norėdami parodyti, kaip mašininis vertimas gali iššifruoti kalbas, kurios buvo visiškai prarastos. Suvaržymas, kurį jie naudoja, yra susijęs su kalbų raidos būdu laikui bėgant.

Idėja yra ta, kad bet kuri kalba gali keistis tik tam tikrais būdais – pavyzdžiui, giminingų kalbų simboliai pasirodo su panašiu pasiskirstymu, susiję žodžiai turi tą pačią simbolių tvarką ir pan. Šioms taisyklėms apribojus mašiną, kalbą iššifruoti tampa daug lengviau, jei žinoma pirmtakų kalba.

Luo ir co išbandė techniką su dviem prarastomis kalbomis – tiesine B ir ugaritų kalba. Kalbininkai žino, kad Linear B koduoja ankstyvąją senovės graikų kalbos versiją, o ugaritų kalba, kuri buvo atrasta 1929 m., yra ankstyvoji hebrajų kalbos forma.

Atsižvelgiant į šią informaciją ir suvaržymus, kuriuos sukelia kalbinė evoliucija, Luo ir bendradarbių mašina gali nepaprastai tiksliai išversti abi kalbas. Pasak jų, mums pavyko teisingai išversti 67,3 % linijinių B giminingų žodžių į jų atitikmenis graikiškai. Kiek mums yra žinoma, mūsų eksperimentas yra pirmasis bandymas automatiškai iššifruoti linijinį B.

Tai įspūdingas darbas, perkeliantis mašininį vertimą į naują lygį. Tačiau tai taip pat kelia įdomų klausimą apie kitas prarastas kalbas, ypač tas, kurios niekada nebuvo iššifruotos, pavyzdžiui, linijinė A.

Šiame dokumente tiesinė A pastebima tuo, kad jos nėra. Luo ir bendrai apie tai net neužsimena, bet tai turi išryškėti jų mąstyme, kaip ir visų kalbininkų. Tačiau dar reikia didelių proveržių, kol šis scenarijus taps pritaikytas mašininiam vertimui.

Pavyzdžiui, niekas nežino, kokią kalbą užkoduoja Linear A. Visi bandymai jį iššifruoti į senovės graikų kalbą žlugo. O be progenitorinės kalbos naujoji technika neveikia.

Tačiau didelis mašininių metodų pranašumas yra tas, kad jie gali greitai išbandyti vieną kalbą po kitos nepavargdami. Taigi visiškai įmanoma, kad Luo ir bendradarbiai gali išspręsti Linear A taikydami brutalią jėgą – tiesiog pabandykite jį iššifruoti į visas kalbas, kuriose jau veikia mašininis vertimas.

Jei tai pavyks, tai bus įspūdingas pasiekimas, kurį nustebintų net Michaelas Ventris.

Nuoroda: arxiv.org/abs/1906.06718 : Neuronų iššifravimas naudojant minimalių sąnaudų srautą: nuo Ugarito iki tiesinės B

paslėpti