Video paskaitų paieška

MIT mokslininkai išleido vaizdo ir garso paieškos įrankį, kuris išsprendžia vieną iš sudėtingiausių šios srities problemų: kaip suskaidyti ilgą akademinę paskaitą į valdomus gabalus, tiksliai nustatyti raktinių žodžių vietą ir nukreipti vartotoją į juos. Praėjusį mėnesį paskelbtas MIT Paskaitų naršyklė svetainė suteikia plačiajai visuomenei išsamią prieigą prie daugiau nei 200 paskaitų, kurios yra viešai prieinamos universitete OpenCourseWare iniciatyva. Paieškos variklis naudoja dešimtmečius trukusius kalbos atpažinimo tyrimus MIT ir kitose institucijose, kad garso įrašą paverstų tekstu ir būtų galima ieškoti.





Žiūrint į paskaitas: MIT siūlo vaizdo įrašų paieškos įrankį, kuris gali tiksliai nustatyti raktinius žodžius garso ir vaizdo paskaitose. Šiame vaizdo klipe pateikiami egzoskeleto ir benzino paieškos rezultatai. Automatizuota paskaitos stenograma rodoma po vaizdo įrašu.

Paskaitų naršyklė pasirodo tuo metu, kai vis daugiau universitetų, įskaitant Carnegie Mellon universitetą ir Kalifornijos universitetą Berklyje, internete skelbia paskaitų vaizdo įrašus ir podcast'us. Nors šis turinys yra naudingas, paskaitose rasti konkrečią informaciją gali būti sudėtinga, o tai gali nuvilti studentus, kurie įpratę rasti tai, ko jiems reikia greičiau nei per sekundę su „Google“.

Tai vis didėjanti problema visos šalies universitetams, nes tampa lengviau įrašyti paskaitas klasėje Jimas Glassas, MIT mokslininkas. Tikras iššūkis žinoti, kaip juos skleisti ir palengvinti studentų prieigą prie paskaitos dalių, kurios jiems gali būti įdomios. Tai tarsi adatos radimas šieno kupetoje.



Pagrindiniai paskaitų naršyklės elementai buvo MIT tyrimų laboratorijose ir tokiose vietose kaip BBN technologijos Bostone, Carnegie Mellon, SRI International Palo Alto mieste, Kalifornijoje, ir Pietų Kalifornijos universitete daugiau nei 30 metų. Jų pastangos sukūrė programinę įrangą, kuri pagaliau yra pakankamai gera, kad rastų kelią pas eilinį žmogų, sako Premkumaras Natarajanas, BBN mokslininkas. Jis sako, kad maždaug tris dešimtmečius trukęs darbas buvo sprendžiamas daug pagrindinių problemų. Technologija jau pakankamai subrendusi, todėl bendruomenė vis labiau jaučia, kad laikas [išbandyti programas realiame pasaulyje]. Laboratorijoje padarėme viską, ką galėjome.

Keletas įmonių, pvz., internetinės garso ir vaizdo paieškos sistemos Blinkx ir EveryZing (kurios licencijuota technologija iš BBN) naudoja programinę įrangą, kuri garso kalbą paverčia ieškomu tekstu. (Žr. TV naršymas internete ir tikslesnė vaizdo įrašų paieška.) Tačiau MIT tyrėjai susidūrė su ypatingais iššūkiais skaitydami akademines paskaitas. Pirma, daugelis dėstytojų nėra gimtoji anglų kalba, todėl automatinė transkripcija yra sudėtinga sistemoms, kurios mokomos naudojant Amerikos anglų kalbos akcentus. Antra, gamtos mokslų paskaitose mėgstami žodžiai gali būti gana neaiškūs. Galiausiai, sako Regina Barzilay MIT informatikos profesoriaus, paskaitų struktūra yra labai menka, todėl jas sunku išskaidyti ir organizuoti, kad būtų lengva ieškoti. Aktualūs perėjimai yra labai subtilūs, sako ji. Paskaitos nėra organizuojamos kaip įprastas tekstas.

Norėdami išspręsti šias problemas, mokslininkai pirmiausia sukonfigūravo programinę įrangą, kuri konvertuoja garsą į tekstą. Jie išmokė programinę įrangą suprasti konkrečius akcentus, naudodami tikslias trumpų įrašytos kalbos fragmentų transkripcijas. Siekdami padėti programinei įrangai atpažinti neįprastus žodžius – nuo ​​drosofilos iki uždarojo ciklo integralų – mokslininkai jai pateikė papildomų duomenų, tokių kaip tekstas iš knygų ir paskaitų užrašai, kurie padeda programinei įrangai tiksliai perrašyti net keturis žodžius iš penkių. Jei sistema naudojama su negimtuoju anglų kalbos kalbėtoju, kurio akcentas ir žodynas nebuvo išmokyti atpažinti, tikslumas gali sumažėti iki 50 procentų. (Toks mažas tikslumas nebūtų naudingas atliekant tiesioginę transkripciją, bet vis tiek gali būti naudingas ieškant pagal raktinius žodžius.)



Kitas žingsnis, aiškina Barzilay, yra pridėti struktūrą prie transkribuotų žodžių. Jau buvo prieinama programinė įranga, galinti ilgas sakinių eilutes suskaidyti į aukšto lygio sąvokas, tačiau ji pastebėjo, kad paskaitose ji nepasiteisino. Taigi jos grupė sukūrė savo. Vienas iš pagrindinių skirtumų, anot jos, yra tai, kad per paskaitą tu kalbi laisvai; tu slampinėji ir murmi.

Siekdama sutvarkyti transkribuotą tekstą, jos grupė sukūrė programinę įrangą, kuri suskaido tekstą į dalis, kurios dažnai atitinka atskirus sakinius. Programinė įranga įdeda šiuos gabalus į tinklo struktūrą; gabalai, kurių žodžiai yra panašūs arba buvo ištarti glaudžiai kartu, tinkle dedami arčiau vienas kito. Santykinis gabalų atstumas tinkle leidžia programinei įrangai nuspręsti, kurie sakiniai priklauso kiekvienai paskaitos temai ar potemei.

Rezultatas, pasak jos, yra nuosekli transkripcija. Kai asmuo ieško raktinio žodžio, naršyklė pateikia rezultatus kaip vaizdo ar garso laiko juostą, suskirstytą į skyrius. Išryškinama paskaitos dalis, kurioje yra raktinis žodis; po juo yra teksto fragmentai, supantys kiekvieną raktinio žodžio atvejį. Kai leidžiamas vaizdo įrašas, naršyklė po juo rodo transkribuotą tekstą.



Barzilay teigia, kad šiuo metu naršyklė vidutiniškai sulaukia 21 000 apsilankymų per dieną ir, nors ji pasirodė populiari, dar reikia nuveikti. Per kelis ateinančius mėnesius jos komanda pridės funkciją, kuri automatiškai prie paskaitų prideda teksto kontūrą, kad vartotojai galėtų pereiti į norimą skyrių. Ateityje tyrėjai suteiks vartotojams galimybę taisyti nuorašą taip pat, kaip žmonės prisideda prie Vikipedija. Nors tokie patobulinimai atrodo nesudėtingi, jie kelia techninių iššūkių, sako Barzilay. Tai nėra trivialus dalykas, nes norite, kad sąsaja nebūtų varginanti, o taisymą reikia skleisti per visą paskaitą ir į kitas paskaitas. Ji teigia, kad įtraukus žmones į transkripcijos kilpą, sistemos tikslumas gali padidėti keliais procentiniais punktais, o naudotojų patirtis būtų dar geresnė.

paslėpti