Differences
This shows you the differences between two versions of the page.
Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
user:zeman:wmt [2012/02/09 21:10] zeman Doběhlo de-en v7. |
user:zeman:wmt [2012/02/28 13:47] zeman Aktualizace úkolů. |
||
---|---|---|---|
Line 8: | Line 8: | ||
===== Aktuální úkoly ===== | ===== Aktuální úkoly ===== | ||
- | * V Emanovi zařídit, abych počítal BLEU skóre | + | * Rozpracované: |
+ | * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní | ||
+ | * Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem. | ||
+ | * Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7). | ||
+ | * Data už jsou připravena, | ||
+ | * Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. | ||
* Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | ||
- | * Otestovat jiná vývojová data (k dispozici je newstest 2008, 2009 a 2010, nebo všechny dohromady). | ||
- | * Otestovat morfematickou segmentaci (ale musí se doimplementovat závěrečné slepování). | ||
- | * Zopakovat tytéž pokusy, ale nad letos distribuovanými daty (v7). | ||
* Pro všechny jazykové páry používat všechna dostupná data. Například velký Czeng pro češtinu, velké korpusy UN pro francouzštinu a španělštinu, | * Pro všechny jazykové páry používat všechna dostupná data. Například velký Czeng pro češtinu, velké korpusy UN pro francouzštinu a španělštinu, | ||
* Převést všechny pokusy pod aktuální verzi Joshuy (ale bacha, možná bude hodně jiná). | * Převést všechny pokusy pod aktuální verzi Joshuy (ale bacha, možná bude hodně jiná). | ||
Line 106: | Line 108: | ||
Pokusy s& | Pokusy s& | ||
- | Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): '' | + | Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): '' |
- | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ | + | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ |
- | | en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | | + | | en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 |
- | | cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | | + | | cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 |
- | | en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | | + | | en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 |
- | | de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | | + | | de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 |
- | | en-es | 0.2573 | 0.2531 | 0.2627 | | | + | | en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | 0.2757 |
- | | es-en | 0.2446 | 0.2375 | 0.2497 | | | + | | es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | 0.2699 |
- | | en-fr | 0.2591 | 0.2619 | 0.2526 | | | + | | en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 |
- | | fr-en | 0.2243 | 0.2285 | 0.2384 | | | + | | fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 |
===== Pokusy s Emanem ===== | ===== Pokusy s Emanem ===== |