Differences

This shows you the differences between two versions of the page.

--- user:zeman:wmt [2012/02/03 18:15]
zeman Poznámky o Ondrových datech a o pokusech s Emanem.
+++ user:zeman:wmt [2012/02/04 17:21]
zeman Úklid uvozovek.
@@ Line 66: / Line 66: @@
 ===== Pokusy s uvozovkami =====
-Na začátku léta 2011 jsem se pokoušel poloautomaticky opravit a sjednotit uvozovky ve všech jazycích WMT 2011. Myslím, že to nebylo dodělané, a momentálně to nemůžu najít. Šlo o úpravu trénovacích korpusů. Výsledkem měla být "v6b" (verze 6b) všech korpusů, na nich se měly všechny pokusy pustit znova. Asi.
+Paralelní data, která máme k&nbsp;dispozici, používají velmi různorodou směs znaků pro uvozovky. Často také není poznat, zda jde o počáteční, nebo koncové uvozovky. Napsal jsem skript, který se tohle pokusí rozpoznat (je jazykově závislý), a znaky pro uvozovky sjednotit. Všechny korpusy jsem tímto skriptem protáhl a vznikly verze označené ''v6b'' (včetně vývojových a testovacích dat). Nyní je třeba pustit všechny pokusy znova a zjistit, zda to nějak ovlivní skóre.
-''$STATMT/scripts/specchar.pl''
+<code bash>$STATMT/scripts/specchar.pl</code>
-a co historie loňských commitů?
-Podle časových značek u korpusů v ''augmented_corpora'' se zdá, že poslední "v6b" jsem vytvořil 21.4.2011. Vypadá to, že mám news-commentary+europarl ve verzi v6b pro všechny čtyři jazykové páry (cs-en, de-en, es-en, fr-en).
+Takhle se upraví korpus v&nbsp;''augmented_corpora'', aby vznikla verze v6b (korpus musíme také označkovat, protože budeme potřebovat faktory lemma a stc):
-UPDATE: Tohle jsem k uvozovkám našel v textovém souboru s průběžnými výsledky z loňského WMT (Makefilem se tam primárně myslí Makefile dat pro WMT, tedy ''/net/work/people/zeman/wmt/Makefile''):
+<code bash>cd /net/work/people/zeman/wmt</code>
+Do Makefile přidáme nově upravené korpusy, mající v&nbsp;názvu ".v6b.", např.:
----------------------------------------
+<code bash>EUROPARL = $(foreach pair,es-en/es es-en/en,europarl-v6b.$(pair))
-Mám k dispozici trénovací data s opravenými uvozovkami, zatím jen pro angličtinu se španělštinou.
+NEWSCOMM = $(foreach pair,es-en/es es-en/en,news-commentary-v6b.$(pair))</code>
-Potřebuju je označkovat, abych mohl pouštět experimenty s faktory lemma a stc.
-cd /net/work/people/zeman/wmt
-# Přidat do Makefile nově upravené korpusy mající v názvu ".v6b.", např.:
-EUROPARL = $(foreach pair,es-en/es es-en/en,europarl-v6b.$(pair))
-NEWSCOMM = $(foreach pair,es-en/es es-en/en,news-commentary-v6b.$(pair))
-# Ale pozor! Jestliže už jsme předtím zpracovali jiný jazykový pár, musíme ho z Makefile alespoň dočasně vyhodit!
-# Jinak si novým zkopírováním zdrojových korpusů přepíšeme případnou označkovanou verzi korpusu!
-make corpus CORPUS=europarl-v6b.fr-en LANGUAGE=fr
-# Teď použijeme TectoMT a cluster k označkování nových korpusů.
-cd /net/work/people/zeman/tectomt/applications/reordering/actag
-nohup nice make CORPUS=europarl-v6b.fr-en LANGUAGE=fr >& make-euro-fren-fr.log &
-nohup nice make CORPUS=europarl-v6b.fr-en LANGUAGE=en >& make-euro-fren-en.log &
-nohup nice make CORPUS=news-commentary-v6b.fr-en LANGUAGE=fr >& make-news-fren-fr.log &
-nohup nice make CORPUS=news-commentary-v6b.fr-en LANGUAGE=en >& make-news-fren-en.log &
-# No a nyní již můžeme naklonovat nové pokusy.
-# I když můžeme naklonovat oba směry (např. "fren" a "enfr") těsně po sobě, se spuštěním druhého směru by to chtělo počkat kvůli zámkům a vzájemnému nepřetahování se o práci, až než u prvního směru doběhne fáze "prepare".
-$STATMT/joshua-scripts/clonex.pl fren-stc-allemma-tmnews+parl-lmnews+parl-lm6-test2011 fren-stc-allemma-tmv6b-lmv6b-lm6-test2011
-cd fren-stc-allemma-tmv6b-lmv6b-lm6-test2011
-$STATMT/joshua-scripts/resetex_scripts.pl
-vi scripts/setexp.pl
-$ac_tmtrain     = 'news-commentary-v6b.fr-en+europarl-v6b.fr-en';
-Výsledky:
+Ale pozor! Jestliže jsme už předtím zpracovali jiný jazykový pár, musíme ho z&nbsp;Makefile alespoň dočasně vyhodit! Jinak si novým zkopírováním zdrojových korpusů přepíšeme případnou označkovanou verzi korpusu!
-Skóre "dříve" znamená před úpravou trénovacích dat, tedy -stc-allemma-tmnews+parl-lmnews+parl-lm6-test2011.
-Skóre "nyní" znamená po úpravě trénovacích dat, tedy -stc-allemma-tmv6b-lmv6b-lm6-test2011.
-Vylaďovací ani testovací data zatím nijak upravována nebyla.
-Jejich úpravu bychom ale měli taky otestovat, protože např. teď obsahují samé ASCII uvozovky, které jsou pro Joshuu neznámým tokenem.
-es-en: dříve 0.2452, nyní 0.2428
+<code bash>make corpus CORPUS=europarl-v6b.fr-en LANGUAGE=fr</code>
-en-es: dříve 0.2590, nyní 0.2542
-===== Inventura 16.1.2012 =====
+Teď použijeme TectoMT/Treex a cluster k&nbsp;označkování nových korpusů. Původní aplikace se nachází v&nbsp;''$TMT_ROOT/applications/reordering/actag'', ale už v&nbsp;ní přestala fungovat němčina, protože ze sdílené složky zmizel natrénovaný model pro TreeTagger. Nová aplikace se nachází v&nbsp;''$TMT_ROOT/treex/devel/reordering/actag'', ale zatím v&nbsp;ní funguje pouze němčina.
-.1.2012 21:12: Pouštím znova pokus ''encs-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011''. Zřejmě to neobsahuje opravené uvozovky (v6b), ale potřebuju zjistit, zda se to vůbec rozběhne.
+<code bash>cd $TMT_ROOT/treex/devel/reordering/actag
+nohup nice make CORPUS=europarl-v6b.fr-en LANGUAGE=fr >& make-euro-fren-fr.log &
+nohup nice make CORPUS=europarl-v6b.fr-en LANGUAGE=en >& make-euro-fren-en.log &
+nohup nice make CORPUS=news-commentary-v6b.fr-en LANGUAGE=fr >& make-news-fren-fr.log &
+nohup nice make CORPUS=news-commentary-v6b.fr-en LANGUAGE=en >& make-news-fren-en.log &</code>
-Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011''
+No a nyní již můžeme naklonovat nové pokusy. I když můžeme naklonovat oba směry (např. "fren" a "enfr") těsně po sobě, se spuštěním druhého směru by to chtělo počkat kvůli zámkům a vzájemnému nepřetahování se o práci, až než u prvního směru doběhne fáze "prepare".
-^ Jazyky ^ BLEU ^
+<code bash>$STATMT/joshua-scripts/clonex.pl fren-stc-allemma-tmnews+parl-lmnews+parl-lm6-test2011 fren-stc-allemma-tmv6b-lmv6b-lm6-test2011
-| en-cs | 0.1191 |
+cd fren-stc-allemma-tmv6b-lmv6b-lm6-test2011
-| cs-en | 0.1692 |
+$STATMT/joshua-scripts/resetex_scripts.pl
-| en-de | 0.1337 |
+vim scripts/setexp.pl
-| de-en | 0.1885 |
+$ac_tmtrain     = 'news-commentary-v6b.fr-en+europarl-v6b.fr-en';</code>
-| en-es | 0.2573 |
-| es-en | 0.2446 |
-| en-fr | 0.2591 |
-| fr-en | 0.2243 |
-Od jara mám vytvořené také pokusy s korpusy, ve kterých jsou upravené uvozovky (verze 6b), takže je teď taky pustím. Je to spíš na oprášení starého kódu, ale bude se to muset pustit ještě jednou, protože momentálně se uvozovky opravují pouze v trénovacích datech, ale ne ve vývojových a testovacích. (Opravu testovacích dat bych si mohl ospravedlnit např. budoucím hodnocením lidmi. A nebo alespoň normalizovat testovací data tím brutálnějším skriptem od Philippa.)
+Dotažení do konce: i vývojová a testovací data musí být ve verzi v6b. Můžeme přeskočit alignment a trénování jazykového modelu, ale musíme pustit ''prepare.pl'', abychom získali upravená data!
-''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''
+<code bash>$STATMT/joshua-scripts/clonex.pl encs-stc-allemma-tmv6b-lmv6b-lm6-test2011 encs-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b
+cd encs-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b
+$STATMT/joshua-scripts/resetex_scripts.pl
+vim scripts/setexp.pl
+$ac_dev         = 'newstest2008-v6b';
+$ac_test        = 'newstest2011-v6b';
+(qsub.pl) scripts/prepare.pl
+nohup nice $STATMT/joshua-scripts/joshua.pl extract > & joshua.log &</code>
-První výsledky jsou zatím bez záruky, protože v průběhu Gizy jsem narazil na kvótu. Procesy sice nespadly, ale nejsem si jistý, co prováděly těch několik hodin, kdy nemohly psát na disk. Takže raději pustit ještě jednou (ostatně jeden z nich dokonce nedoběhl).
+Pokusy s&nbsp;uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K&nbsp;poslední úpravě došlo 21.4.2011. Vracím se k&nbsp;tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat.
-.1.2012 už mám i skoro všechny kontrolní výsledky druhého běhu, ale mezitím jsem zjistil chybu v počítání alignmentu, takže pouštím potřetí (zatím šest pokusů pro češtinu, němčinu a španělštinu, později pustím i francouzštinu, až i u ní skončí druhý běh).
+Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v&nbsp;tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v&nbsp;trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b".
-^ Jazyky ^ BLEU ^ Kontrolní běh ^ Třetí běh ^
+^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^
-| en-cs | FAILED | 0.1267 | 0.1246 |
+| en-cs | 0.1191 | 0.1246 | |
-| cs-en | 0.1748 | 0.1748 | 0.1792 |
+| cs-en | 0.1692 | 0.1792 | |
-| en-de | 0.1268 | 0.1268 | 0.1274 |
+| en-de | 0.1337 | 0.1274 | |
-| de-en | 0.1869 | 0.1869 | 0.1859 |
+| de-en | 0.1885 | 0.1859 | |
-| en-es | 0.2542 | 0.2542 | 0.2531 |
+| en-es | 0.2573 | 0.2531 | |
-| es-en | 0.2428 | FAILED | 0.2375 |
+| es-en | 0.2446 | 0.2375 | |
-| en-fr | 0.2586 | 0.2628 | 0.2619 |
+| en-fr | 0.2591 | 0.2619 | |
-| fr-en | 0.2294 | 0.2294 | 0.2285 |
+| fr-en | 0.2243 | 0.2285 | |
 ===== Pokusy s Emanem =====

[ Back to the navigation ] [ Back to the content ]

Institute of Formal and Applied Linguistics Wiki

Differences