Differences

This shows you the differences between two versions of the page.

--- user:zeman:wmt [2012/02/04 16:34]
zeman Úklid.
+++ user:zeman:wmt [2012/02/04 17:21]
zeman Úklid uvozovek.
@@ Line 99: / Line 99: @@
 $ac_tmtrain     = 'news-commentary-v6b.fr-en+europarl-v6b.fr-en';</code>
-Podle časových značek u korpusů v ''augmented_corpora'' se zdá, že poslední "v6b" jsem vytvořil 21.4.2011. Vypadá to, že mám news-commentary+europarl ve verzi v6b pro všechny čtyři jazykové páry (cs-en, de-en, es-en, fr-en). Výsledky: Skóre "dříve" znamená před úpravou trénovacích dat, tedy -stc-allemma-tmnews+parl-lmnews+parl-lm6-test2011. Skóre "nyní" znamená po úpravě trénovacích dat, tedy -stc-allemma-tmv6b-lmv6b-lm6-test2011. Vylaďovací ani testovací data zatím nijak upravována nebyla. Jejich úpravu bychom ale měli taky otestovat, protože např. teď obsahují samé ASCII uvozovky, které jsou pro Joshuu neznámým tokenem.
+Dotažení do konce: i vývojová a testovací data musí být ve verzi v6b. Můžeme přeskočit alignment a trénování jazykového modelu, ale musíme pustit ''prepare.pl'', abychom získali upravená data!
-es-en: dříve 0.2452, nyní 0.2428
+<code bash>$STATMT/joshua-scripts/clonex.pl encs-stc-allemma-tmv6b-lmv6b-lm6-test2011 encs-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b
-en-es: dříve 0.2590, nyní 0.2542
+cd encs-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b
+$STATMT/joshua-scripts/resetex_scripts.pl
+vim scripts/setexp.pl
+$ac_dev         = 'newstest2008-v6b';
+$ac_test        = 'newstest2011-v6b';
+(qsub.pl) scripts/prepare.pl
+nohup nice $STATMT/joshua-scripts/joshua.pl extract > & joshua.log &</code>
-===== Inventura 16.1.2012 =====
+Pokusy s&nbsp;uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K&nbsp;poslední úpravě došlo 21.4.2011. Vracím se k&nbsp;tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat.
-.1.2012 21:12: Pouštím znova pokus ''encs-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011''. Zřejmě to neobsahuje opravené uvozovky (v6b), ale potřebuju zjistit, zda se to vůbec rozběhne.
+Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v&nbsp;tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v&nbsp;trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b".
-Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011''
+^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^
+| en-cs | 0.1191 | 0.1246 | |
-^ Jazyky ^ BLEU ^
+| cs-en | 0.1692 | 0.1792 | |
-| en-cs | 0.1191 |
+| en-de | 0.1337 | 0.1274 | |
-| cs-en | 0.1692 |
+| de-en | 0.1885 | 0.1859 | |
-| en-de | 0.1337 |
+| en-es | 0.2573 | 0.2531 | |
-| de-en | 0.1885 |
+| es-en | 0.2446 | 0.2375 | |
-| en-es | 0.2573 |
+| en-fr | 0.2591 | 0.2619 | |
-| es-en | 0.2446 |
+| fr-en | 0.2243 | 0.2285 | |
-| en-fr | 0.2591 |
-| fr-en | 0.2243 |
-Od jara mám vytvořené také pokusy s korpusy, ve kterých jsou upravené uvozovky (verze 6b), takže je teď taky pustím. Je to spíš na oprášení starého kódu, ale bude se to muset pustit ještě jednou, protože momentálně se uvozovky opravují pouze v trénovacích datech, ale ne ve vývojových a testovacích. (Opravu testovacích dat bych si mohl ospravedlnit např. budoucím hodnocením lidmi. A nebo alespoň normalizovat testovací data tím brutálnějším skriptem od Philippa.)
-''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''
-První výsledky jsou zatím bez záruky, protože v průběhu Gizy jsem narazil na kvótu. Procesy sice nespadly, ale nejsem si jistý, co prováděly těch několik hodin, kdy nemohly psát na disk. Takže raději pustit ještě jednou (ostatně jeden z nich dokonce nedoběhl).
-.1.2012 už mám i skoro všechny kontrolní výsledky druhého běhu, ale mezitím jsem zjistil chybu v počítání alignmentu, takže pouštím potřetí (zatím šest pokusů pro češtinu, němčinu a španělštinu, později pustím i francouzštinu, až i u ní skončí druhý běh).
-^ Jazyky ^ BLEU ^ Kontrolní běh ^ Třetí běh ^
-| en-cs | FAILED | 0.1267 | 0.1246 |
-| cs-en | 0.1748 | 0.1748 | 0.1792 |
-| en-de | 0.1268 | 0.1268 | 0.1274 |
-| de-en | 0.1869 | 0.1869 | 0.1859 |
-| en-es | 0.2542 | 0.2542 | 0.2531 |
-| es-en | 0.2428 | FAILED | 0.2375 |
-| en-fr | 0.2586 | 0.2628 | 0.2619 |
-| fr-en | 0.2294 | 0.2294 | 0.2285 |
 ===== Pokusy s Emanem =====

[ Back to the navigation ] [ Back to the content ]

Institute of Formal and Applied Linguistics Wiki

Differences