Differences
This shows you the differences between two versions of the page.
| Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
|
user:zeman:wmt [2012/02/07 14:47] zeman Doběhlo cs-en v7. |
user:zeman:wmt [2012/02/28 13:42] zeman Už běží všech 6 pokusů s češtinou a neangličtinou. |
||
|---|---|---|---|
| Line 8: | Line 8: | ||
| ===== Aktuální úkoly ===== | ===== Aktuální úkoly ===== | ||
| - | * V Emanovi zařídit, abych počítal BLEU skóre | + | * Rozpracované: |
| + | * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní | ||
| + | * Stáhnout a otestovat nová testovací data (WMT 2012). | ||
| + | * Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem. | ||
| + | * Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7). | ||
| + | * Data už jsou připravena, | ||
| + | * Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. | ||
| * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | ||
| - | * Otestovat jiná vývojová data (k dispozici je newstest 2008, 2009 a 2010, nebo všechny dohromady). | ||
| - | * Otestovat morfematickou segmentaci (ale musí se doimplementovat závěrečné slepování). | ||
| - | * Zopakovat tytéž pokusy, ale nad letos distribuovanými daty (v7). | ||
| * Pro všechny jazykové páry používat všechna dostupná data. Například velký Czeng pro češtinu, velké korpusy UN pro francouzštinu a španělštinu, | * Pro všechny jazykové páry používat všechna dostupná data. Například velký Czeng pro češtinu, velké korpusy UN pro francouzštinu a španělštinu, | ||
| * Převést všechny pokusy pod aktuální verzi Joshuy (ale bacha, možná bude hodně jiná). | * Převést všechny pokusy pod aktuální verzi Joshuy (ale bacha, možná bude hodně jiná). | ||
| Line 106: | Line 109: | ||
| Pokusy s& | Pokusy s& | ||
| - | Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): '' | + | Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): '' |
| - | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ | + | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ |
| - | | en-cs | 0.1191 | 0.1246 | 0.1257 | | | + | | en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | 0.1161 |
| - | | cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | | + | | cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 |
| - | | en-de | 0.1337 | 0.1274 | 0.1334 | | | + | | en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 |
| - | | de-en | 0.1885 | 0.1859 | 0.1896 | | | + | | de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 |
| - | | en-es | 0.2573 | 0.2531 | 0.2627 | | | + | | en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | 0.2757 |
| - | | es-en | 0.2446 | 0.2375 | 0.2497 | | | + | | es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | 0.2699 |
| - | | en-fr | 0.2591 | 0.2619 | 0.2526 | | | + | | en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 |
| - | | fr-en | 0.2243 | 0.2285 | 0.2384 | | | + | | fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 |
| ===== Pokusy s Emanem ===== | ===== Pokusy s Emanem ===== | ||