Kai kalbame apie mašininį vertimą, dažniausiai pirmiausia į galvą ateina neuroniniai tinklai ir dirbtinis intelektas, kuris šiandien valdo daugumą populiarių vertimo įrankių. Tačiau prieš tai, kai neuroninis vertimas tapo pramonės standartu, egzistavo visai kitokia technologija – statistinis mašininis vertimas. Ji ilgus metus buvo pagrindinis būdas automatiškai versti tekstus, ir būtent ji padėjo pamatus tam, ką dabar naudojame kasdien. Verta pažvelgti atidžiau, kaip ši sistema veikė ir kodėl ji vis dar aktuali suprantant vertimo technologijų evoliuciją.
Kas iš tikrųjų yra statistinis vertimas
Statistinis mašininis vertimas (SMT) – tai metodas, kai vertimai generuojami remiantis tikimybiniais modeliais, sukurtais analizuojant milžiniškus dvikalbius tekstų archyvus. Užuot bandant sukurti taisykles, kaip žmogus keistų gramatiką ar žodžių tvarką (kaip tai darė ankstesnės, taisyklėmis paremtos sistemos), SMT tiesiog skaičiuoja, kokia tikimybė, kad vienas žodis ar frazė originalo kalba atitinka konkretų žodį ar frazę tikslinėje kalboje.
Paprasčiau tariant – sistema „mokosi“ iš tūkstančių jau išverstų sakinių porų ir bando atspėti, koks vertimas statistiškai labiausiai tikėtinas. Jei archyve tūkstantį kartų žodis „namas“ buvo verčiamas kaip „house“, o tik du kartus kaip „building“, sistema rinksis pirmąjį variantą, nes jis statistiškai dažnesnis atitiktame kontekste.
Kaip viskas prasidėjo
SMT idėjos ištakos siekia dar 1949 metus, kai Warren Weaver pirmasis pasiūlė mintį, kad vertimą būtų galima traktuoti kaip iššifravimo problemą – tarsi tekstas užkoduotas kita kalba, o vertėjo užduotis yra jį iššifruoti. Tačiau realus proveržis įvyko tik devintajame dešimtmetyje, kai IBM tyrėjų grupė sukūrė vadinamuosius IBM modelius – penkis vis sudėtingesnius statistinius modelius, kurie tapo pagrindu visai vėlesnei SMT plėtrai.
Devintajame ir dešimtajame dešimtmetyje ši technologija sparčiai vystėsi, o 2006 metais Google paleido savo statistinį vertimo įrankį, kuris ilgus metus buvo populiariausias pasaulyje automatinio vertimo sprendimas. Tik apie 2016 metus jį pakeitė neuroninis vertimas, kuris pasirodė esąs tikslesnis ir natūralesnis.
Frazinis modelis – lūžio taškas
Vienas svarbiausių SMT vystymosi etapų buvo perėjimas nuo žodis-į-žodį vertimo prie frazinio (phrase-based) modelio. Užuot vertus kiekvieną žodį atskirai, sistema pradėjo analizuoti ištisas frazes – dviejų, trijų ar daugiau žodžių grupes. Tai leido geriau išlaikyti kontekstą ir sumažino keistus, nenatūralius vertimus, kurie atsirasdavo dėl skirtingos kalbų sintaksės.
Kaip technologija veikia praktiškai
Norint suprasti SMT, verta pažvelgti į du pagrindinius komponentus, iš kurių susideda beveik kiekviena tokia sistema:
- Vertimo modelis – analizuoja, kaip žodžiai ir frazės iš vienos kalbos statistiškai atitinka kitos kalbos elementus. Šis modelis mokomas naudojant lygiagrečius korpusus – didelius tekstų rinkinius, kuriuose tas pats turinys pateiktas dviem ar daugiau kalbų (pavyzdžiui, Europos Sąjungos dokumentai, kurie verčiami į visas oficialias kalbas).
- Kalbos modelis – vertina, ar sugeneruotas sakinys skamba natūraliai tikslinėje kalboje, nepriklausomai nuo originalo. Šis modelis mokomas iš vienos kalbos tekstų masyvo ir padeda sistemai rinktis gramatiškai teisingesnį bei sklandesnį variantą iš kelių galimų vertimo kandidatų.
Šie du modeliai veikia kartu – vertimo modelis pasiūlo galimus žodžių ir frazių atitikmenis, o kalbos modelis padeda išrinkti tą kombinaciją, kuri skambės kaip natūrali kalba, o ne kaip mechaninis žodžių rinkinys.
Lygiavimas – nematoma, bet svarbiausia dalis
Vienas sudėtingiausių SMT aspektų yra vadinamasis lygiavimas (alignment) – procesas, kai sistema turi nustatyti, kuris žodis originaliame sakinyje atitinka kurį žodį vertime. Tai skamba paprastai, tačiau kalbos retai turi vienodą žodžių tvarką ar vienodą žodžių skaičių atitinkamoms sąvokoms išreikšti. Lietuvių kalboje, pavyzdžiui, vienas žodis dažnai gali atitikti kelis žodžius anglų kalba, ir atvirkščiai. Būtent dėl šios priežasties SMT sistemos su morfologiškai turtingomis kalbomis, tokiomis kaip lietuvių, dažnai susidurdavo su didesniais iššūkiais nei, tarkime, verčiant tarp anglų ir prancūzų kalbų.
Kur SMT buvo stiprus, o kur – silpnas
Reikia pripažinti – statistinis vertimas turėjo nemažai privalumų, kurie ilgą laiką pateisino jo populiarumą. Jis puikiai tiko dideliems, standartizuotiems tekstams – teisiniams dokumentams, techninėms instrukcijoms, tekstams su pasikartojančia terminologija. Kai duomenų buvo daug ir jie buvo kokybiški, SMT rezultatai galėjo būti gana tikslūs.
Tačiau problemų netrūko. SMT sistemos dažnai „pamesdavo“ platesnį sakinio kontekstą, nes analizuodavo tekstą fragmentais – frazėmis ar keliais žodžiais, o ne visu sakiniu ar juo labiau pastraipa. Dėl to atsirasdavo tie garsieji „mechaniniai“ vertimai, kai atskiros dalys tarsi teisingos, bet visas sakinys skamba keistai arba prasmė pasikeičia. Idiomos, dviprasmiški žodžiai, retesnės kalbų kombinacijos – visa tai buvo tikras iššūkis šiai technologijai.
Taip pat SMT stipriai priklausė nuo turimų duomenų kiekio. Kalboms, kurioms trūko didelių lygiagrečių tekstynų (pavyzdžiui, mažiau paplitusioms kalboms ar retesnėms kalbų poroms), vertimo kokybė būdavo pastebimai prastesnė nei plačiai vartojamoms kalbų kombinacijoms, tokioms kaip anglų–ispanų ar anglų–vokiečių.
Kodėl neuroninis vertimas pakeitė statistinį
Apie 2014–2016 metus mokslininkai pradėjo aktyviai eksperimentuoti su neuroniniais tinklais vertimo srityje, ir rezultatai buvo įspūdingi. Neuroninis mašininis vertimas (NMT) analizuoja visą sakinį kaip vientisą struktūrą, o ne fragmentuoja jį į atskiras frazes. Tai leidžia geriau išlaikyti kontekstą, natūraliau tvarkyti sakinio struktūrą ir sklandžiau perteikti prasmę net sudėtingesniuose tekstuose.
Skirtumas tarp šių dviejų technologijų primena skirtumą tarp žmogaus, kuris skaito sakinį žodis po žodžio su žodynu rankoje, ir žmogaus, kuris supranta visą kontekstą iš karto. Neuroninis vertimas sugeba „pajusti“ prasmę holistiškai, todėl jo rezultatai dažnai skamba natūraliau ir mažiau primena mašinos darbą.
Vis dėlto reikia paminėti, kad NMT taip pat turi savų trūkumų – kartais jis gali „prasimanyti“ informacijos, kurios originaliame tekste nebuvo (tai vadinama haliucinacija), arba praleisti dalį prasmės, jei sakinys per ilgas. SMT tokiu atveju bent jau buvo nuspėjamesnis – jo klaidos dažniausiai būdavo aiškiai matomos, o ne paslėptos po sklandžiu, bet neteisingu tekstu.
Ar SMT dar naudojamas šiandien?
Nors dauguma didžiųjų vertimo platformų (Google Translate, Microsoft Translator, DeepL) jau seniai perėjo prie neuroninių arba dar naujesnių, transformerių architektūra paremtų modelių, SMT principai vis dar naudojami tam tikrose nišinėse srityse. Kai kurios specializuotos sistemos, ypač tose kalbų porose, kur trūksta didelio kiekio treniravimo duomenų neuroniniams modeliams, vis dar remiasi statistiniais metodais arba hibridiniais sprendimais, jungiančiais abiejų technologijų privalumus.
Be to, daugelis šiuolaikinių vertimo sistemų kokybės vertinimo metodų (pavyzdžiui, BLEU balas) buvo sukurti būtent SMT eroje ir naudojami iki šiol, net vertinant neuroninių sistemų rezultatus.
Ką tai reiškia praktiniam vertimui šiandien
Jei naudojatės automatinio vertimo įrankiais kasdieniame darbe, verta suprasti šiuos technologinius skirtumus, nes jie tiesiogiai veikia, kaip elgtis su gautu rezultatu:
- Jei matote vertimą, kuris skamba „suskaidytai“ – atskiros dalys teisingos, bet visas sakinys nesuderintas – greičiausiai naudojama senesnė arba paprastesnė sistema, artimesnė statistiniam modeliui.
- Sudėtingiems, ilgiems sakiniams su daug šalutinių sakinių geriau rinktis šiuolaikiškesnius, neuroninius įrankius – jie geriau tvarkosi su sudėtinga sintaksės struktūra.
- Techniniams tekstams su griežta, pasikartojančia terminologija (instrukcijos, teisiniai dokumentai) statistiniai principai vis dar gali duoti nuspėjamų, konsistentiškų rezultatų, ypač jei sistema papildyta terminų žodynais.
- Visada tikrinkite mašininio vertimo rezultatą – nesvarbu, kokia technologija naudojama, klaidų pasitaiko abiejose sistemose, tik jos skirtingo pobūdžio.
Vietoj išvadų: kelionė nuo skaičių iki prasmės
Statistinis mašininis vertimas – tai istorija apie tai, kaip matematika ir tikimybių teorija bandė išspręsti vieną iš sudėtingiausių žmogaus intelekto uždavinių – kalbos supratimą. Nors šiandien ši technologija jau nebėra priešakinėse pozicijose, jos indėlis į mašininio vertimo evoliuciją neabejotinas – be SMT eros greičiausiai nebūtų atsiradę tie duomenų rinkiniai, metodikos ir supratimas, kuriais remiasi šiuolaikiniai neuroniniai modeliai.
Jei kada susimąstote, kodėl vienas vertimo įrankis sklandžiau tvarkosi su ilgais sakiniais, o kitas geriau atpažįsta techninius terminus – dabar žinote, kad tai gali būti susiję su skirtingu technologiniu pagrindu. Statistinis vertimas mokė mašinas skaičiuoti tikimybes, neuroninis vertimas išmokė jas „justi“ kontekstą. Abi šios pamokos šiandien susilieja į vieną – vis tobulėjantį automatinio vertimo pasaulį, kuriame kiekviena nauja karta sistemų bando priartėti prie to, kaip iš tiesų mąsto ir kalba žmogus.
Kitą kartą, kai naudositės vertimo įrankiu ir pastebėsite keistą ar netikslų sakinį, prisiminkite – už kiekvieno tokio rezultato slypi dešimtmečiai tyrimų, milijonai analizuotų sakinių ir nuolatinis bandymas suprasti, kaip iš tiesų veikia žmogaus kalba. O tai, sutikite, nėra paprasta užduotis nei mašinai, nei žmogui.
