Differences
This shows you the differences between two versions of the page.
Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
user:zeman:wmt [2010/08/30 09:24] zeman Výsledky. |
user:zeman:wmt [2012/01/19 08:14] zeman Musíme se nacházet na hřišti, aby to fungovalo. |
||
---|---|---|---|
Line 1: | Line 1: | ||
- | ====== Danovy pokusy s Joshuou na WMT 2010 ====== | + | ====== Danovy pokusy s Joshuou na WMT 2012 ====== |
http:// | http:// | ||
- | http:// | + | http:// |
http:// | http:// | ||
< | < | ||
Line 8: | Line 8: | ||
===== Aktuální úkoly ===== | ===== Aktuální úkoly ===== | ||
- | * Převést všechny pokusy pod Joshuu 1.3. | + | |
+ | * Najít a oživit loňské pokusy s interpunkcí, | ||
+ | | ||
+ | * Konečně převést Joshuu pod Emana. | ||
* Převést všechny pokusy na nové zacházení s velkými písmeny (viz Ondřej a čeština). | * Převést všechny pokusy na nové zacházení s velkými písmeny (viz Ondřej a čeština). | ||
* Dotáhnout do konce obo-max. | * Dotáhnout do konce obo-max. | ||
* Při klonování experimentu se musí kopírovat mert/ | * Při klonování experimentu se musí kopírovat mert/ | ||
- | * Upravit test.pl, aby před počítáním BLEU skóre odstraňoval přípony " | + | * Pro všechny jazykové páry používat všechna dostupná data, tedy i Europarl, neomezovat |
- | * Vyrobit end-to-end skript, abych mohl pouštět pokusy s menšími nároky na babysitting. | + | |
===== Data ===== | ===== Data ===== | ||
Line 39: | Line 41: | ||
===== Náročnost ===== | ===== Náročnost ===== | ||
- | |||
- | ==== obo-base1 ==== | ||
- | |||
- | První pokus s Ondřejovými daty 3.3.2010, ale jen trigramový jazykový model. Proběhlo celkem bez potíží. | ||
- | |||
- | ==== obo-base2 ==== | ||
- | |||
- | Snažím se vyrobit větší jazykové modely. Zatím (5.3.2010 dopoledne) doběhl čtyřgram, běží pentagram. | ||
- | |||
- | Trénování 4gramového jazykového modelu trvalo půl hodiny a spotřebovalo něco mezi 10 a 15 GB. Trénování pentagramu trvalo asi 40 minut a spotřebovalo něco přes 18 GB. Hexagram trval hodinu a spotřeboval nejméně 23 GB (to byl poslední údaj, který jsem viděl, než jsem odešel). | ||
- | |||
- | ==== obo-base3 ==== | ||
- | |||
- | Klon obo-base2. Používám Ondřejův hotový šestigramový model a pouštím rovnou MERT. | ||
==== obo-max ==== | ==== obo-max ==== | ||
Line 111: | Line 99: | ||
| encs: | | encs: | ||
| encs: | | encs: | ||
+ | | encs: | ||
+ | | encs: | ||
+ | | encs: | ||
+ | | encs: | ||
+ | |||
+ | ===== Pokusy s uvozovkami ===== | ||
+ | |||
+ | Na začátku léta 2011 jsem se pokoušel poloautomaticky opravit a sjednotit uvozovky ve všech jazycích WMT 2011. Myslím, že to nebylo dodělané, a momentálně to nemůžu najít. Šlo o úpravu trénovacích korpusů. Výsledkem měla být " | ||
+ | |||
+ | '' | ||
+ | a co historie loňských commitů? | ||
+ | |||
+ | Podle časových značek u korpusů v '' | ||
+ | |||
+ | ===== Infrastruktura a zarovnání ===== | ||
+ | |||
+ | Kromě toho jsem někdy v roce 2011 zkoušel předělat Joshuovy skripty, které pouštěly Gizu, aby mohly obě půlky běžet paralelně. Obávám se, že to zůstalo rozvrtané a nefunkční. | ||
+ | |||
+ | ===== Inventura 16.1.2012 ===== | ||
+ | |||
+ | 16.1.2012 21:12: Pouštím znova pokus '' | ||
+ | |||
+ | ===== Eman ===== | ||
+ | |||
+ | Ondrův e-mail z& | ||
+ | |||
+ | musim se pochlubit, ze (az na jeste par much) mam ukazku pouziti emana pro preklad i pro ty, kdo to jeste vubec nezkouseli: | ||
+ | |||
+ | <code bash>svn co https:// | ||
+ | cd statmt/ | ||
+ | # podivejte se na README | ||
+ | export PATH=$PATH: | ||
+ | eman init binaries | ||
+ | # to jen proto, abyste mohla potvrdit certifikat sourceforge | ||
+ | # a pak uz podle readme spustit mikropokus | ||
+ | SKIP_IRSTLM=yes eman clone --start < eman.samples/ | ||
+ | |||
+ | Prikaz: | ||
+ | |||
+ | eman --man | ||
+ | |||
+ | ukaze manualovou stranku | ||
+ | |||
+ | ==== Tvorba šablon (nové druhy kroků, seeds) ==== | ||
+ | |||
+ | Jako příklad viz eman.seeds/ | ||
+ | * BINARIES: odkaz na krok, ve kterém byly zkompilovány externí nástroje, např. SRILM. Spustitelné binární soubory leží zřejmě přímo ve složce tohoto kroku jako výstupní soubor. | ||
+ | * CORP: zkrácený název trénovacího korpusu. I jednotlivým korpusům odpovídají kroky, které vyrábějí či zpřístupňují dotyčné datové soubory. Na to slouží mj. nový skript '' | ||
+ | * CORPAUG: faktory dotyčného korpusu, které se mají použít pro trénování. | ||
+ | * ORDER: řád modelu (např. 3 pro trigram). | ||
+ | Volitelně lze nastavit i další vstupní proměnné. | ||
+ | |||
+ | Konstruktor (skript '' | ||
+ | |||
+ | Dále vytvoří soubor '' | ||
+ | |||
+ | Dále vytvoří soubor '' | ||
+ | |||
+ | Teprve v přípravném režimu se také vyrobí hlavní skript '' | ||
+ | |||
+ | ==== Založení nového kroku podle šablony ==== | ||
+ | |||
+ | Použijeme příkaz '' | ||
+ | |||
+ | <code bash>cd $STATMT/ | ||
+ | SRC=en TGT=cs eman init dandata</ | ||
+ | |||
+ | ==== Korpusové kroky ==== | ||
+ | |||
+ | Některé kroky připravují části korpusů, které jsou pro experiment potřeba. Takový krok asi typicky bude přímo zasvěcen přípravě korpusu, ale není ani vyloučeno, že korpus bude vedlejším produktem jiné činnosti. Každopádně pokud je výsledkem nebo jedním z výsledků kroku korpus, je vhodné ve složce daného kroku založit soubor '' | ||
+ | |||
+ | ==== Sestavování experimentu jako posloupnosti kroků ==== | ||
+ | |||
+ | Pokusit se alespoň zpočátku využít existující kroky pro alignment, jazkový model apod. a nekonvertovat ty svoje. Vytvořit nějakou šablonu '' | ||
+ | * binarizace korpusu a alignmentu | ||
+ | * extrakce gramatiky pro vývojová i testovací data (jeden, nebo dva různé kroky?); analogicky ke kroku '' | ||
+ | * volání dekodéru Joshuy ('' | ||
+ | * asi i nějaká úprava mertu, byť současný eman už samozřejmě obsahuje konfiguraci mertu pro Mosese |