Differences
This shows you the differences between two versions of the page.
Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
user:zeman:wmt [2010/08/30 09:24] zeman Výsledky. |
user:zeman:wmt [2012/01/18 15:26] zeman Code. |
||
---|---|---|---|
Line 1: | Line 1: | ||
- | ====== Danovy pokusy s Joshuou na WMT 2010 ====== | + | ====== Danovy pokusy s Joshuou na WMT 2012 ====== |
http:// | http:// | ||
- | http:// | + | http:// |
http:// | http:// | ||
< | < | ||
Line 8: | Line 8: | ||
===== Aktuální úkoly ===== | ===== Aktuální úkoly ===== | ||
- | * Převést všechny pokusy pod Joshuu 1.3. | + | |
+ | * Najít a oživit loňské pokusy s interpunkcí, | ||
+ | | ||
+ | * Konečně převést Joshuu pod Emana. | ||
* Převést všechny pokusy na nové zacházení s velkými písmeny (viz Ondřej a čeština). | * Převést všechny pokusy na nové zacházení s velkými písmeny (viz Ondřej a čeština). | ||
* Dotáhnout do konce obo-max. | * Dotáhnout do konce obo-max. | ||
* Při klonování experimentu se musí kopírovat mert/ | * Při klonování experimentu se musí kopírovat mert/ | ||
- | * Upravit test.pl, aby před počítáním BLEU skóre odstraňoval přípony " | + | * Pro všechny jazykové páry používat všechna dostupná data, tedy i Europarl, neomezovat |
- | * Vyrobit end-to-end skript, abych mohl pouštět pokusy s menšími nároky na babysitting. | + | |
===== Data ===== | ===== Data ===== | ||
Line 39: | Line 41: | ||
===== Náročnost ===== | ===== Náročnost ===== | ||
- | |||
- | ==== obo-base1 ==== | ||
- | |||
- | První pokus s Ondřejovými daty 3.3.2010, ale jen trigramový jazykový model. Proběhlo celkem bez potíží. | ||
- | |||
- | ==== obo-base2 ==== | ||
- | |||
- | Snažím se vyrobit větší jazykové modely. Zatím (5.3.2010 dopoledne) doběhl čtyřgram, běží pentagram. | ||
- | |||
- | Trénování 4gramového jazykového modelu trvalo půl hodiny a spotřebovalo něco mezi 10 a 15 GB. Trénování pentagramu trvalo asi 40 minut a spotřebovalo něco přes 18 GB. Hexagram trval hodinu a spotřeboval nejméně 23 GB (to byl poslední údaj, který jsem viděl, než jsem odešel). | ||
- | |||
- | ==== obo-base3 ==== | ||
- | |||
- | Klon obo-base2. Používám Ondřejův hotový šestigramový model a pouštím rovnou MERT. | ||
==== obo-max ==== | ==== obo-max ==== | ||
Line 111: | Line 99: | ||
| encs: | | encs: | ||
| encs: | | encs: | ||
+ | | encs: | ||
+ | | encs: | ||
+ | | encs: | ||
+ | | encs: | ||
+ | |||
+ | ===== Pokusy s uvozovkami ===== | ||
+ | |||
+ | Na začátku léta 2011 jsem se pokoušel poloautomaticky opravit a sjednotit uvozovky ve všech jazycích WMT 2011. Myslím, že to nebylo dodělané, a momentálně to nemůžu najít. Šlo o úpravu trénovacích korpusů. Výsledkem měla být " | ||
+ | |||
+ | '' | ||
+ | a co historie loňských commitů? | ||
+ | |||
+ | Podle časových značek u korpusů v '' | ||
+ | |||
+ | ===== Infrastruktura a zarovnání ===== | ||
+ | |||
+ | Kromě toho jsem někdy v roce 2011 zkoušel předělat Joshuovy skripty, které pouštěly Gizu, aby mohly obě půlky běžet paralelně. Obávám se, že to zůstalo rozvrtané a nefunkční. | ||
+ | |||
+ | ===== Inventura 16.1.2012 ===== | ||
+ | |||
+ | 16.1.2012 21:12: Pouštím znova pokus '' | ||
+ | |||
+ | ===== Eman ===== | ||
+ | |||
+ | Ondrův e-mail z& | ||
+ | |||
+ | musim se pochlubit, ze (az na jeste par much) mam ukazku pouziti emana pro preklad i pro ty, kdo to jeste vubec nezkouseli: | ||
+ | |||
+ | <code bash>svn co https:// | ||
+ | cd statmt/ | ||
+ | # podivejte se na README | ||
+ | export PATH=$PATH: | ||
+ | eman init binaries | ||
+ | # to jen proto, abyste mohla potvrdit certifikat sourceforge | ||
+ | # a pak uz podle readme spustit mikropokus | ||
+ | SKIP_IRSTLM=yes eman clone --start < eman.samples/ | ||
+ | |||
+ | Prikaz: | ||
+ | |||
+ | eman --man | ||
+ | |||
+ | ukaze manualovou stranku |