http://matrix.statmt.org/
http://www.statmt.org/wmt10/translation-task.html
http://svn.ms.mff.cuni.cz/projects/statmt/wiki/enhi/joshua

/net/work/people/zeman/wmt

• Převést všechny pokusy pod Joshuu 1.3.
• Převést všechny pokusy na nové zacházení s velkými písmeny (viz Ondřej a čeština).
• Dotáhnout do konce obo-max.
• Při klonování experimentu se musí kopírovat mert/decoder-config.txt.ZMERT.final a změnit v něm cesty! Pozor, mohla se změnit i cesta ke glue gramatice, pokud se změnila cesta k Joshuovi.
• Upravit test.pl, aby před počítáním BLEU skóre odstraňoval přípony “_OOV”. Otázka je, zda nemá totéž dělat i mert.pl (resp. zda se to odstraňování nemá zabudovat do parcoderu.pl).
• Vyrobit end-to-end skript, abych mohl pouštět pokusy s menšími nároky na babysitting.

Vývojová data (news-test) jsou k dispozici ve formátu SGML. Obsahují pouze jeden referenční překlad, takže stačí vykopat obsah prvků <seg>. Výsledek strčit do augmented_corpora.

Ondřejovy augmented corpora se nacházejí v /home/bojar/diplomka/granty/emplus/wmt10/playground/augmented_corpora (což vede na /a/merkur3/TMP/bojar/wmt10/playground/augmented_corpora). Za baseline se považuje trénování na zpravodajské části Czengu, tj. czeng092-ne. Uvnitř jsou různé podjazyky podle úrovně analýzy. Zdá se, že baseline by mohly být např. enNa a csNa, ale Ondřej prý pro WMT 2010 používal enNa2+stc a csN[ma]+stc (csNa a csNm jsou prý identické). Faktor stc znamená supervised truecasing, čili truecasováno podle lemat. Ondřej korpus zarovnával podle lemat, tj. enNa-lemma-csNa-lemma-gdfa. Český jazykový model Ondřej vyráběl z wmt10mono2, a to šestigramový.

Vysvětlení Ondrových pseudojazyků:

• Znaky za cs, resp. en, označují anotaci, kterou data prošla v TectoMT (Ondra na to má scénář v adresáři augmented_corpora, ale možná to není commitnuté).
• Nm značí s normalizací (jako uvozovky, 'll apod.) a jen po morfologickou rovinu.
• Na je s normalizací až po t-rovinu, ale uloženo jako analytická, tj. co token, to analytický uzel, a některé mají kolonku t-lematu a formému neproškrtnutou.
• Na2 je jako Na, ale Ondra nějak měnil ten normalizační blok. Do soutěže šlo právě Na2.
• Nt je linearizovaná t-rovina.
• X1 je Ondrův pokus o frázovou interlingvu, tj. sice stále lineární, ale některé věci (jako zvratná zájmena nebo v angličtině další součástky slovesa) pravidlově přemístěny blíž ke slovesu. Neúspěšné, tak neví přesně.
• _txt je prostý text bez tokenizace, začátek všeho, odpovídá releasnutému CzEngovému plaintextu.

Ondřejův maximální paralelní korpus navíc obsahuje další části Czengu a korpus Emea: czeng092-ne+czeng092-eu+czeng092-fi+czeng092-te+czeng092-su+czeng092-we+emea2 (alignment csNm-lemma-enNm-lemma-gdfa).

Pro český jazykový model chtěl Ondřej později ještě přidat korpusy wmt09mono, webcoll a syn200x.

Testovací data by měl mít stejná jako já, tj. wmt102.test08 pro MERT a wmt102.test09 pro testování.

Binarizace ve verzi 1.3 zahrnuje počítání tabulky lexikálních pravděpodobností a trvá asi 1:20 hodiny. Paměťová náročnost: až do počítání lexikálních pravděpodobností včetně vystačil s 9,8 GB. Pak se ale pustil do předpočítávání indexů nejčastějších frází a s pamětí vyletěl na 22 GB, což je strop, který jsem mu dal, takže je otázka, jestli by nedokázal využít i větší množství paměti. Podle Lanova vyjádření by mohl být problém s větami o 100 a více slovech, proto jsem z korpusu takové věty odstranil. Můj čistící skript vybral z 7 544 465 řádků 7 543 152 takových, které měly 1-99 tokenů.

Extrakce gramatiky nabíhala přes 20 minut, vyčerpala 11 GB. Teď už běží vlastní extrakce, ale je hodně pomalá, jedna věta trvá třeba i 10 minut. Průměrný čas je zatím 3 minuty na 1 větu, takže 2500 vět by trvalo 5 dní. Paměť stoupla zatím na 15 GB. Chtělo by to paralelizovat minimálně na 20 procesů!

Není-li řečeno jinak, váhy se ladí na newstest2008 a testuje se na newstest2009. Trénuje se zatím na news-commentary, a to jak překladový, tak jazykový model. U testu WMT 2010 se jako základní uvádí BLEU skóre, které mi spočítal Joshua, v závorce pak skóre, které mi spočítali organizátoři, lowercase / truecase. Hodnoty se někdy výrazně liší, zřejmě kvůli odlišné tokenizaci.

Po přechodu z Joshuy 1.1 na 1.3 u téměř všech pokusů pokleslo BLEU skóre. Je to sice malý pokles a pravděpodobně není statisticky významný, ale stejně mě to zaráží. Srovnání u češtiny ukázalo, že se liší extrahovaná gramatika. V konfiguraci se už teď nezadává, že maximální délka fráze má být 5. Hraje to nějakou roli?

Na konci srpna 2010 oživuju pokusy s Joshuou 1.1. Začínám s Czengem 092-ne, alignment a překlad z enNa2+stc do csN[ma]+stc, jak je napsáno výše, trigramový LM jen na jeho cílové straně. Až na ten jazykový model by to mělo odpovídat některému obo-base pokusu z února nebo března.