Differences
This shows you the differences between two versions of the page.
Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
user:zeman:wmt [2012/02/05 14:27] zeman Výsledky pokusů s uvozovkami včetně úpravy testovacích dat. |
user:zeman:wmt [2012/02/29 13:46] zeman Doběhlo de-cs. |
||
---|---|---|---|
Line 8: | Line 8: | ||
===== Aktuální úkoly ===== | ===== Aktuální úkoly ===== | ||
+ | * Rozpracované: | ||
+ | * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit. | ||
+ | * Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem. | ||
+ | * Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7). | ||
+ | * Data už jsou připravena, | ||
+ | * Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. | ||
* Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | ||
- | * Otestovat jiná vývojová data (k dispozici je newstest 2008, 2009 a 2010, nebo všechny dohromady). | ||
- | * Otestovat morfematickou segmentaci (ale musí se doimplementovat závěrečné slepování). | ||
- | * Dotáhnout do konce pokusy s uvozovkami (v6b), včetně testovacích dat. | ||
- | * Zopakovat tytéž pokusy, ale nad letos distribuovanými daty (v7). | ||
* Pro všechny jazykové páry používat všechna dostupná data. Například velký Czeng pro češtinu, velké korpusy UN pro francouzštinu a španělštinu, | * Pro všechny jazykové páry používat všechna dostupná data. Například velký Czeng pro češtinu, velké korpusy UN pro francouzštinu a španělštinu, | ||
* Převést všechny pokusy pod aktuální verzi Joshuy (ale bacha, možná bude hodně jiná). | * Převést všechny pokusy pod aktuální verzi Joshuy (ale bacha, možná bude hodně jiná). | ||
Line 106: | Line 108: | ||
Pokusy s& | Pokusy s& | ||
- | Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): '' | + | Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): '' |
- | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ | + | **Šest přídavných jazykových párů: čeština s němčinou, španělštinou a francouzštinou.** Tyto jazykové páry nejsou součástí shared task. Organizátoři pro ně ani neposkytují trénovací data, ale ta je možné získat hledáním shodných vět v& |
- | | en-cs | 0.1191 | 0.1246 | 0.1257 | | + | |
- | | cs-en | 0.1692 | 0.1792 | 0.1801 | | + | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ |
- | | en-de | 0.1337 | 0.1274 | 0.1334 | | + | | en-cs | 0.1191 | 0.1246 | 0.1257 |
- | | de-en | 0.1885 | 0.1859 | 0.1896 | | + | | cs-en | 0.1692 | 0.1792 | 0.1801 |
- | | en-es | 0.2573 | 0.2531 | 0.2627 | | + | | en-de | 0.1337 | 0.1274 | 0.1334 |
- | | es-en | 0.2446 | 0.2375 | 0.2497 | | + | | de-en | 0.1885 | 0.1859 | 0.1896 |
- | | en-fr | 0.2591 | 0.2619 | 0.2526 | | + | | en-es | 0.2573 | 0.2531 | 0.2627 |
- | | fr-en | 0.2243 | 0.2285 | 0.2384 | | + | | es-en | 0.2446 | 0.2375 | 0.2497 |
+ | | en-fr | 0.2591 | 0.2619 | 0.2526 | ||
+ | | fr-en | 0.2243 | 0.2285 | 0.2384 | ||
+ | | cs-de | | | | | 0.1304 | | ||
+ | | de-cs | | | | | 0.1186 | | ||
+ | | cs-es | | | | | 0.1848 | | ||
+ | | es-cs | | | | | 0.1220 | | ||
+ | | cs-fr | | | | | 0.1822 | | ||
+ | | fr-cs | | | | | 0.1175 | ||
===== Pokusy s Emanem ===== | ===== Pokusy s Emanem ===== | ||
Line 162: | Line 172: | ||
(Ondřej měl s Mosesem asi 0.1230.) | (Ondřej měl s Mosesem asi 0.1230.) | ||
Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre. | Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre. | ||
- | |||
- | ===== Čeština s němčinou, španělštinou a francouzštinou ===== | ||
- | |||
- | Tyto jazykové páry nejsou součástí shared task. Organizátoři pro ně ani neposkytují trénovací data, ale ta je možné získat hledáním shodných vět v& | ||
- | |||
- | Není-li řečeno jinak, váhy se ladí na newstest2008 a testuje se na newstest2009. Trénuje se zatím na news-commentary, | ||
- | |||
- | | **Pokus** | **Dev WMT08** | **Test WMT09** | **Test WMT10** | **Poznámka** | **Datum** | | ||
- | | decs-josh13 | 0.0935 | 0.0886 | | | 15.3.2010 | | ||
- | | escs-josh13 | 0.0922 | 0.0872 | | | 15.3.2010 | | ||
- | | frcs-josh13 | 0.0885 | 0.0818 | | Zřetelně menší trénovací data než pro encs, decs a escs. | 15.3.2010 | | ||