Pirms vairāk nekā mēneša kārtējo reizi pabiju nu jau vienpadsmitajā mašīntulkošanas maratonā (Machine Translation Marathon) Čehijā, kas bija nedēļu gara mašīntulkošanas pētnieku, izstrādātāju, studentu un lietotāju pulcēšanās. Šogad ļoti liels uzsvars tika likts uz neironu tīklu tehnoloģijām. Maratonā, kā ierasts, bija iespēja bez maksas apmeklēt:

• Lekcijas un laboratorijas darbus
  • aptverot neironu tīklu pamatus un rīku lietošanas pamācības
• Uzaicināto pētnieku un industrijas pārstāvju runas par aktuālajām nozares tēmām
• Plakātu sesiju dažiem pieņemtajiem rakstiem
• Urķēšanas projektus, lai attīstītu rīkus vai pētījumus visas nedēļas garumā
• Nobeigumā – eksāmens par visu apgūto vielu

Mašīntulkošanas Maratons

Tā kā šis bija jau otrais MT maratons, droši vien rakstīšu kompaktāk (vai nokopēšu).
Katru dienu bija lekcijas, laboratorijas darbi, darbošanās pie projektiem. Starp lekcijām bija arī pamatreferātu (keynote) runas no dažādiem industrijas cilvēkiem, tajā skaitā arī Facebook AI Research

Lekcijas
Šīs man šķita šogad interesantas un noderīgas:

• Neural Machine Translation
• Word Embeddings, Introduction to Recurrent NNs

Dažas daļēji atkārtojās no pagājušā gada, piemēram:

• Language Modelling
• MT Evaluation and Significance Testing

Praktiskie darbi

Pirmie praktiskie darbi sākās ar pitona un Theano uzstādīšanu, nelieliem piemēriem. Bija arī Ulriha praktiskais darbs par ModernMT uzstādīšanu un lietošanu.
Vienā citā mācīja uzstādīt lietot GPU instances Amazon AWS pakalpojumā – tā kā šo es vēl joprojām nebiju īpaši lietojis, man ļoti noderēja. Superīgi bija arī bezmaksas kuponi Amazon pakalpojumiem 50 $ vērtībā. Katram iedeva vienu, divus vai pat trīs tādus :)
Pa starpai palaidu arī vienu savu eksperimentu lētākajā Amazon GPU instancē – aptuveni 25 stundās notērēju 22.73 $, bet sasniedzu labu rezultātu, kas decembrī tiks publicēts CoLing 2016 konferences darbseminārā HyTra 6 ^_^

Projekti

Viena no galvenajām MTM daļām noteikti bija projekti. Šeit ir saraksts ar projektiem, kas bija šī gada maratonā. Daži no tiem līdz beigām neizdzīvoja. Es pats šoreiz nevienā neiesaistījos. Viens kolēģis ņēma aktīvu dalību Neural Monkey projektā, kas ir Tensorflow balstīts pilnā cikla neironu mašīntulkošanas risinājums. Projekta gaitā viņiem izdevās implementēt dažas jaunas funkcijas, piemēram, faktorēto modeļu trenēšanu.

No pārējiem projektiem interesants bija Non‐perplexity neural MT objectives, kurā Kens un Riko ierosināja pievienot Nematus (Theano balstīts pilnā cikla neironu MT) rīkkopai iespēju trenēties, samazinot teikuma līmeņa BLEU zudumu nevis perpleksitāti. Citiem vārdiem – trenēt neironu MT ar mērķi sasniegt augstāko iespējamo BLEU. Šajā es it kā sākumā gribēju piedalīties, bet pēcāk pārdomāju. Paredzēts bija, ka tas varētu darboties aptuveni 100x lēnāk kā līdz šim, jo visa pārslēgšanās uz BLEU rēķināšanu paņem laiku. Rezultātā sanāca aptuveni 1000x lēnāk…

Eksāmens

Tas bija skarbi. Nedrīkstēja izmantot materiālus – ne digitālus, ne drukātus. Jautājumu kopā bija 13 un 2 papildjautājumi papildpunktiņiem. Jautājumi par jebkuru no tēmām un diezgan daudz par matemātiskajiem pamatiem. Labākos apbalvoja ar šokolādēm un končām, bet sekmīgo kopumā bija aptuveni 5 no 30-40 :D

Par MT maratonu vairāk var palasīt MTM 2016.

Prāga, Čehija

Milzīgajā vecpilsētā šogad bija ievērojami mazāk segveju, daudzviet bija manāmas zīmes, kas aizliedz ar tiem pārvietoties. Restaurētu lielu automobiļu tūristu vizināšanai gan bija tieši tikpat, cik iepriekš.
Šoreiz vecpilsēta bija mazāk interesanta, jo jau vairākkārt apskatīta. No nelielā brīvā laika lielāku uzsvaru likām uz muzeju apmeklēšanu. Apmeklējām divus – Lego muzeju un Noasa arkas muzeju.

Ēdieni

Tradicionālais čehu ēdiens  – gulašs ar knēdeļiem – tika universitātes kopgaldā atkal nobaudīts. Tradicionālais dzēriens – alus – šoreiz man netrāpījās. Alu pie pusdienām katru dienu dzēra liela daļa MT maratona dalībnieku universitātes kafejnīcā. Līdzīgi kā pirms gada, daudzkur bija nopērkami arī uz vietas cepti silti bulciņrullīši. Toties šoreiz tiem bija variācijas – ar šokolādi vai saldējumu pildīti (2x dārgāki).

No ne-čehu ēdieniem šoreiz beidzot es saņēmos (un pierunāju pārējos) ieturēties Running Sushi ēdnīcā, kur visdažādākie japāņu ēdieni pa divu līmeņu konveijera jostu braukā apkārt un par 400kČ jeb aptuveni 15€ var ēst cik gribi.

Vēl vienas vakariņas pagadījās nobaudīt vjetnamiešu restorānā. Pasūtīju pīli ar ananāsu mērci, ceptu ananāsu saldo un kafiju. Kafiju saņēmu pirmo – nesapratu, kā to dzert un meklēju Youtube video ar paraugdemonstrējumu, kā dzer vjetnamiešu kafiju :D Bet viss bija super garšīgi!

Slēpņi
Palīdzēju kolēģiem atrast dažus, kurus pats biju atradis pagājšgad. Vienu arī man palīdzēja atrast :) Atradām kopīgi arī dažus jaunus.

Neliela statistika:

• Atradu 7 slēpņus
• Fotografēju tikai ar telefonu – fotoaparāta līdzi nebija
  • 96 fotogrāfijas
  • kopējais apjoms – 389 MB
• Kopā 7 dienās nostaigāju 104 249 soļus jeb aptuveni 44 km
  • vidēji dienā 13 031 soļu jeb 6 km
• Kopā ar velosipēdu (paziņa aizdeva uz nedēļu) 4 dienās nobraukāju 76 km
  • vidēji dienā 19 km
• Čemodāna nebija, lidojums ar AirBaltic :(
  • Mugursomai gan bija ierobežojums 8kg
    • it kā iekļāvos
    • taču par laimi – nekur nesvēra

Raksts par pagājušā gada MTM15

Fotogalerijas Kedā:

• Prague 2016
• MTM 2016

Birkas: Čehija, doktorantūra, Eiropa, mašīntulkošana, Prāga