Differences
This shows you the differences between two versions of the page.
Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
user:zeman:wmt [2012/02/28 13:10] zeman První výsledky na testovacích datech 2012. |
user:zeman:wmt [2012/02/29 13:46] zeman Doběhlo de-cs. |
||
---|---|---|---|
Line 10: | Line 10: | ||
* Rozpracované: | * Rozpracované: | ||
* Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit. | * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit. | ||
- | * Stáhnout a otestovat nová testovací data (WMT 2012). | ||
* Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem. | * Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem. | ||
* Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7). | * Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7). | ||
- | * Data už jsou připravena, | + | * Data už jsou připravena, |
* Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. | * Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. | ||
* Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | ||
Line 110: | Line 109: | ||
Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): '' | Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): '' | ||
+ | |||
+ | **Šest přídavných jazykových párů: čeština s němčinou, španělštinou a francouzštinou.** Tyto jazykové páry nejsou součástí shared task. Organizátoři pro ně ani neposkytují trénovací data, ale ta je možné získat hledáním shodných vět v& | ||
^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ | ||
Line 116: | Line 117: | ||
| en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 | | | en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 | | ||
| de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 | | | de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 | | ||
- | | en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | | | + | | en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | 0.2757 |
- | | es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | | | + | | es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | 0.2699 |
- | | en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | | | + | | en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 |
| fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 | | | fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 | | ||
+ | | cs-de | | | | | 0.1304 | | ||
+ | | de-cs | | | | | 0.1186 | | ||
+ | | cs-es | | | | | 0.1848 | | ||
+ | | es-cs | | | | | 0.1220 | | ||
+ | | cs-fr | | | | | 0.1822 | | ||
+ | | fr-cs | | | | | 0.1175 | | ||
===== Pokusy s Emanem ===== | ===== Pokusy s Emanem ===== | ||
Line 165: | Line 172: | ||
(Ondřej měl s Mosesem asi 0.1230.) | (Ondřej měl s Mosesem asi 0.1230.) | ||
Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre. | Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre. | ||
- | |||
- | ===== Čeština s němčinou, španělštinou a francouzštinou ===== | ||
- | |||
- | Tyto jazykové páry nejsou součástí shared task. Organizátoři pro ně ani neposkytují trénovací data, ale ta je možné získat hledáním shodných vět v& | ||
- | |||
- | Není-li řečeno jinak, váhy se ladí na newstest2008 a testuje se na newstest2009. Trénuje se zatím na news-commentary, | ||
- | |||
- | | **Pokus** | **Dev WMT08** | **Test WMT09** | **Test WMT10** | **Poznámka** | **Datum** | | ||
- | | decs-josh13 | 0.0935 | 0.0886 | | | 15.3.2010 | | ||
- | | escs-josh13 | 0.0922 | 0.0872 | | | 15.3.2010 | | ||
- | | frcs-josh13 | 0.0885 | 0.0818 | | Zřetelně menší trénovací data než pro encs, decs a escs. | 15.3.2010 | | ||