Kai prieš kelerius metus pirmą kartą bandžiau versti sakinį „the doctor said she would help the nurse, and he thanked her” per populiarų vertimo įrankį, rezultatas mane šokiravo. Sistema automatiškai priskyrė gydytoją vyriškai giminei, o slaugytoją – moteriškai, nors originaliame tekste buvo aiškiai nurodyta priešingai. Tai nebuvo atsitiktinumas ar klaida – tai buvo šališkumas, įsišaknijęs pačiame algoritme.
Mašininis vertimas šiandien yra tapęs kasdienybe – nuo el. laiškų iki oficialių dokumentų, nuo Netflix subtitrų iki mokslinių straipsnių. Tačiau kartu su patogumu atėjo ir problema, apie kurią retai kalbama viešai: dirbtinio intelekto sistemos, verčiančios mūsų tekstus, dažnai neša savyje stereotipus, prietarus ir nevienodą požiūrį į skirtingas grupes žmonių. Pabandykime išsiaiškinti, iš kur tai atsiranda ir ką su tuo galima daryti.
Kas iš tikrųjų yra šališkumas vertime
Šališkumas mašininiame vertime nėra kažkas paslaptingo – tai tiesiog algoritmo polinkis vienaip ar kitaip interpretuoti neutralią informaciją, remiantis tuo, ko jis „išmoko” iš mokymo duomenų. Jei sistema mokėsi iš milijonų tekstų, kuriuose gydytojai dažniausiai minimi kaip vyrai, o slaugytojos – kaip moterys, ji tiesiog atkartos šį modelį, net kai kontekstas rodo kitaip.
Svarbu suprasti, kad tai nėra sąmoningas sprendimas – joks inžinierius sėdėdamas prie kompiuterio neparašė kodo eilutės „priskirk gydytojams vyrišką giminę”. Problema atsiranda organiškai, iš duomenų, kuriuos sistema analizuoja. O tų duomenų šaltinis – interneto tekstai, knygos, straipsniai, kuriuose visuomeniniai stereotipai jau seniai įsišakniję.
Lietuvių kalba ir giminės galvosūkis
Čia atsiranda įdomus niuansas, aktualus būtent mūsų kalbai. Anglų kalba daugeliu atveju yra giminės atžvilgiu neutrali – „doctor”, „teacher”, „engineer” nenurodo lyties. Verčiant į lietuvių kalbą, kur beveik kiekvienas daiktavardis ir veiksmažodžio forma turi aiškią gimininę žymą, sistema priversta „spėti”, kokia giminė tinkamiausia. Ir čia dažnai išryškėja būtent tie patys stereotipai.
Pabandykite išversti tokius sakinius kaip „the engineer fixed the problem” arba „the secretary scheduled the meeting” – didelė tikimybė, kad inžinierius taps „jis”, o sekretorė – „ji”, nepaisant to, kad originalus tekstas visiškai nenurodo lyties. Panašiai atsitinka ir su profesijomis, tautybėmis, net amžiaus grupėmis – sistema linkusi „užpildyti tuštumas” remdamasi statistiškai dažniausiu variantu, o ne realia situacija.
Ne tik lytis: kultūriniai ir rasiniai atspindžiai
Šališkumas neapsiriboja vien lytimi. Tyrėjai jau ne kartą fiksavo atvejus, kai vertimo sistemos skirtingai interpretuoja tekstus priklausomai nuo minimų vardų ar vietovių. Pavyzdžiui, sakiniai su „egzotiškesniais” vardais kartais verčiami mažiau tiksliai arba su kitokiu tonu nei tie patys sakiniai su labiau „vakarietiškais” vardais. Tai rodo, kad sistemos mokymo duomenys turi disbalansą – tam tikros kalbos, kultūros ar bendruomenės tekstų internete tiesiog yra daugiau nei kitų.
Panašus reiškinys pastebimas ir verčiant tekstus apie religiją ar politiškai jautrias temas. Kai kurios sistemos linkusios versti neutralius teiginius su tam tikru atspalviu, priklausomai nuo to, kokia kalba ar kontekstas buvo dominuojantis mokymo duomenyse. Tai nereiškia, kad sistema „nekenčia” kokios nors grupės – tiesiog ji atspindi tai, kas dominavo tekstuose, iš kurių mokėsi.
Kodėl duomenys yra viso to šaknis
Verta suprasti, kaip veikia šiuolaikinės neuroninio vertimo sistemos. Jos „mokosi” iš milžiniškų tekstų masyvų – dažnai milijardų sakinių poromis skirtingomis kalbomis. Šie duomenys renkami iš interneto, oficialių dokumentų, literatūros, žinių portalų. Ir čia slypi esminė problema: internetas nėra neutrali erdvė. Jame atsispindi visos visuomenės nelygybės, stereotipai ir istorinis nevienodas atstovavimas.
Jei, tarkime, 80% tekstų apie inžinerijos profesiją internete rašyti apie vyrus, algoritmas statistiškai „išmoks”, kad inžinierius = vyras. Tai nėra blogio valia – tai matematinis modelis, siekiantis maksimalaus tikslumo pagal turimus duomenis. Bėda ta, kad „tikslumas pagal statistiką” ir „teisingumas realybėje” ne visada sutampa.
Ką daro kompanijos, kad tai ištaisytų
Didieji vertimo paslaugų teikėjai jau kuris laikas dirba prie šios problemos. Kai kurie įrankiai dabar siūlo alternatyvius vertimus, kai sakinys giminės atžvilgiu yra dviprasmiškas – pavyzdžiui, parodo tiek vyrišką, tiek moterišką variantą ir leidžia vartotojui pasirinkti. Tai nėra tobulas sprendimas, bet tai bent jau pripažinimas, kad problema egzistuoja.
Kitos įmonės investuoja į vadinamąjį „debiasing” – procesą, kai mokymo duomenys sąmoningai subalansuojami, pridedant daugiau pavyzdžių, kur stereotipai laužomi. Pavyzdžiui, jei duomenyse trūksta sakinių apie moteris inžinieres ar vyrus slaugytojus, tokie pavyzdžiai dirbtinai pridedami, kad sistema „matytų” įvairesnę realybę.
Yra ir techniškesnių sprendimų – algoritmai, kurie specialiai apmokomi atpažinti ir vengti tam tikrų stereotipinių priskyrimų, kai kontekstas neaiškus. Tačiau visa tai vis dar tobulinama, ir idealaus recepto kol kas niekas neturi.
Ką galite padaryti jūs, verčiant tekstus kasdien
Nors sistemų kūrėjai turi savo darbo lauką, ir paprastas vartotojas gali daug prisidėti prie tikslesnio ir teisingesnio vertimo. Štai keletas praktinių dalykų, kuriuos verta žinoti:
- Tikrinkite dviprasmiškus sakinius atskirai. Jei verčiate tekstą, kuriame profesijos ar vardai nurodyti neutraliai, po vertimo peržiūrėkite, ar giminė priskirta teisingai pagal jums žinomą kontekstą.
- Naudokite papildomą kontekstą. Vietoj vieno sakinio, į vertimo langelį įkelkite platesnę pastraipą – dauguma sistemų geriau atpažįsta lytį ar tautybę, kai turi daugiau informacijos aplink.
- Nepasitikėkite aklai jautriuose kontekstuose. Jei verčiate oficialius dokumentus, biografijas ar teisinius tekstus, kur tikslumas kritiškai svarbus, visada peržiūrėkite vertimą su žmogumi, ypač kalbant apie lytį, tautybę ar religiją.
- Praneškite apie klaidas. Dauguma didžiųjų vertimo platformų turi galimybę pasiūlyti pataisymą arba pranešti apie netikslų vertimą – tai realiai padeda sistemai mokytis geriau ateityje.
- Rinkitės įrankius, kurie siūlo alternatyvas. Jei dirbate su tekstais, kuriuose giminė svarbi, verta rinktis paslaugas, kurios rodo kelis vertimo variantus, o ne primeta vieną „teisingą” atsakymą.
Vertimas su daugiau atsakomybės
Grįžtant prie to sakinio apie gydytoją ir slaugytoją – po kelerių metų pabandžiau tą patį vertimą pakartoti. Rezultatas buvo geresnis, bet ne tobulas. Sistema jau siūlė alternatyvą, pastebėjo dviprasmybę, bet vis tiek reikėjo žmogaus akies, kad viskas būtų tvarkinga. Ir manau, kad tai gana tiksliai apibūdina, kur šiuo metu esame – technologija tobulėja, bet dar nepasiekė tos ribos, kai galėtume visiškai atsipalaiduoti.
Šališkumas mašininiame vertime nėra dingsis rytoj, nes jis atspindi ne algoritmų trūkumus, o mūsų pačių kalbos ir kultūros istoriją, sukauptą per dešimtmečius internete. Tačiau tai nereiškia, kad turime tiesiog susitaikyti. Kiekvienas pranešimas apie netikslų vertimą, kiekvienas atidesnis žvilgsnis į rezultatą prieš siunčiant tekstą toliau – tai maži žingsniai, kurie iš tiesų padeda sistemoms tobulėti.
Verta atsiminti ir dar vieną dalyką: mašininis vertimas yra įrankis, o ne teisėjas. Jis nesprendžia, kas teisinga ar neteisinga – jis tiesiog atspindi tai, ką „matė”. Mūsų užduotis – naudoti tą įrankį protingai, kritiškai vertinant rezultatus, ypač kai kalbame apie žmones, jų tapatybę ir orumą. Kitą kartą, kai vertimo sistema pasiūlys jums netikėtą giminę ar toną, kurio nesitikėjote – sustokite, pagalvokite, ir jei reikia, pataisykite. Būtent taip, po truputį, ir formuojasi ateities technologijos, kurios bus teisingesnės už dabartines.
