Both sides previous revision
Previous revision
Next revision
|
Previous revision
Next revision
Both sides next revision
|
user:zeman:wmt [2012/02/27 15:55] zeman Aktualizace úkolů. |
user:zeman:wmt [2012/02/28 13:47] zeman Aktualizace úkolů. |
| |
* Rozpracované: es-en a fr-en UN. Značkování Gigawordu. Chcíplý giga.fr-en a news.2007.de. | * Rozpracované: es-en a fr-en UN. Značkování Gigawordu. Chcíplý giga.fr-en a news.2007.de. |
* Stáhnout a otestovat nová testovací data (WMT 2012). | * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit. |
* Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem. | * Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem. |
* Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7). | * Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7). |
| * Data už jsou připravena, všech 6 pokusů běží. |
* Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. | * Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. |
* Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). |
Pokusy s uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K poslední úpravě došlo 21.4.2011. Vracím se k tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat. | Pokusy s uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K poslední úpravě došlo 21.4.2011. Vracím se k tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat. |
| |
Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b". Varianta "v7": nová trénovací data (verze 7 News Commentary a Europarlu pro WMT 2012) už jsou defaultně s upravenými uvozovkami; vývojová a testovací data jsou v tomto případě shodná s v6b. | Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b". Varianta "v7": nová trénovací data (verze 7 News Commentary a Europarlu pro WMT 2012) už jsou defaultně s upravenými uvozovkami; vývojová a testovací data jsou v tomto případě shodná s v6b. Verze wmt12 se od v7 liší tím, že netestujeme na newstest2011, ale newstest2012. |
| |
^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ |
| en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | | | en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | 0.1161 | |
| cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | | | cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | 0.1661 | |
| en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | | | en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 | |
| de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | | | de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 | |
| en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | | | en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | 0.2757 | |
| es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | | | es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | 0.2699 | |
| en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | | | en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 | |
| fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | | | fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 | |
| |
===== Pokusy s Emanem ===== | ===== Pokusy s Emanem ===== |