Differences
This shows you the differences between two versions of the page.
Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
user:zeman:giza [2009/06/02 11:08] zeman Co potřebujeme po přeložení. |
user:zeman:giza [2009/06/02 11:37] zeman Z. |
||
---|---|---|---|
Line 19: | Line 19: | ||
cp GIZA++-v2/ | cp GIZA++-v2/ | ||
cp mkcls-v2/ | cp mkcls-v2/ | ||
+ | |||
+ | Zdá se, že nástroje přeložené na 32bitové pracovní stanici s Ubuntu lze spustit i na clusteru. | ||
+ | |||
+ | |||
+ | |||
+ | ===== Příprava dat ===== | ||
+ | |||
+ | Pro přípravu dat potřebujeme některé skripty, které jsou přibalené např. k Mosesovi, nebo je můžeme nahradit svými vlastními: | ||
+ | * Tokenizace trénovacích dat (zdrojový i cílový jazyk) | ||
+ | * " | ||
+ | * Odstranění dlouhých vět (např. delších než 40 tokenů). Není to nezbytné, a pokud máme málo dat, možná ani žádoucí, ale Gize trvá neúměrně dlouho, když má pracovat s dlouhými větami. Pozor, pokud je věta dlouhá jen v jednom z jazyků, musíme ji samozřejmě odstranit nebo ponechat v obou. | ||
+ | |||
+ | Následující příklady jsou přímo z práce s hindštinou (TIDES). Převádění velkých písmen na malá by pravděpodobně stačilo provést pro angličtinu (hindština velká a malá písmena nerozlišuje), | ||
+ | |||
+ | < | ||
+ | cd / | ||
+ | cp $DATA/ | ||
+ | cp $DATA/ | ||
+ | $MOSES/ | ||
+ | $MOSES/ | ||
+ | |||
+ | Zvláštní. Diff se tváří, že hindská data se lowercasingem opravdu změnila, a změněných řádků není málo. Většinou obsahují latinské písmeno " |