Differences

This shows you the differences between two versions of the page.

--- user:zeman:wmt [2012/01/29 22:18]
zeman obo-max-test2011
+++ user:zeman:wmt [2012/02/04 17:21]
zeman Úklid uvozovek.
@@ Line 10: / Line 10: @@
   * Udělat pořádek v záznamech.
   * Najít a oživit loňské pokusy s interpunkcí, zejména s uvozovkami.
+  * Zopakovat tytéž pokusy, ale nad letos distribuovanými daty.
   * Převést všechny pokusy pod aktuální verzi Joshuy.
   * Konečně převést Joshuu pod Emana.
@@ Line 65: / Line 66: @@
 ===== Pokusy s uvozovkami =====
-Na začátku léta 2011 jsem se pokoušel poloautomaticky opravit a sjednotit uvozovky ve všech jazycích WMT 2011. Myslím, že to nebylo dodělané, a momentálně to nemůžu najít. Šlo o úpravu trénovacích korpusů. Výsledkem měla být "v6b" (verze 6b) všech korpusů, na nich se měly všechny pokusy pustit znova. Asi.
+Paralelní data, která máme k&nbsp;dispozici, používají velmi různorodou směs znaků pro uvozovky. Často také není poznat, zda jde o počáteční, nebo koncové uvozovky. Napsal jsem skript, který se tohle pokusí rozpoznat (je jazykově závislý), a znaky pro uvozovky sjednotit. Všechny korpusy jsem tímto skriptem protáhl a vznikly verze označené ''v6b'' (včetně vývojových a testovacích dat). Nyní je třeba pustit všechny pokusy znova a zjistit, zda to nějak ovlivní skóre.
-''$STATMT/scripts/specchar.pl''
+<code bash>$STATMT/scripts/specchar.pl</code>
-a co historie loňských commitů?
-Podle časových značek u korpusů v ''augmented_corpora'' se zdá, že poslední "v6b" jsem vytvořil 21.4.2011. Vypadá to, že mám news-commentary+europarl ve verzi v6b pro všechny čtyři jazykové páry (cs-en, de-en, es-en, fr-en).
+Takhle se upraví korpus v&nbsp;''augmented_corpora'', aby vznikla verze v6b (korpus musíme také označkovat, protože budeme potřebovat faktory lemma a stc):
-===== Inventura 16.1.2012 =====
+<code bash>cd /net/work/people/zeman/wmt</code>
-.1.2012 21:12: Pouštím znova pokus ''encs-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011''. Zřejmě to neobsahuje opravené uvozovky (v6b), ale potřebuju zjistit, zda se to vůbec rozběhne.
+Do Makefile přidáme nově upravené korpusy, mající v&nbsp;názvu ".v6b.", např.:
-Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011''
+<code bash>EUROPARL = $(foreach pair,es-en/es es-en/en,europarl-v6b.$(pair))
+NEWSCOMM = $(foreach pair,es-en/es es-en/en,news-commentary-v6b.$(pair))</code>
-^ Jazyky ^ BLEU ^
+Ale pozor! Jestliže jsme už předtím zpracovali jiný jazykový pár, musíme ho z&nbsp;Makefile alespoň dočasně vyhodit! Jinak si novým zkopírováním zdrojových korpusů přepíšeme případnou označkovanou verzi korpusu!
-| en-cs | 0.1191 |
-| cs-en | 0.1692 |
-| en-de | 0.1337 |
-| de-en | 0.1885 |
-| en-es | 0.2573 |
-| es-en | 0.2446 |
-| en-fr | 0.2591 |
-| fr-en | 0.2243 |
-Od jara mám vytvořené také pokusy s korpusy, ve kterých jsou upravené uvozovky (verze 6b), takže je teď taky pustím. Je to spíš na oprášení starého kódu, ale bude se to muset pustit ještě jednou, protože momentálně se uvozovky opravují pouze v trénovacích datech, ale ne ve vývojových a testovacích. (Opravu testovacích dat bych si mohl ospravedlnit např. budoucím hodnocením lidmi. A nebo alespoň normalizovat testovací data tím brutálnějším skriptem od Philippa.)
+<code bash>make corpus CORPUS=europarl-v6b.fr-en LANGUAGE=fr</code>
-''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''
+Teď použijeme TectoMT/Treex a cluster k&nbsp;označkování nových korpusů. Původní aplikace se nachází v&nbsp;''$TMT_ROOT/applications/reordering/actag'', ale už v&nbsp;ní přestala fungovat němčina, protože ze sdílené složky zmizel natrénovaný model pro TreeTagger. Nová aplikace se nachází v&nbsp;''$TMT_ROOT/treex/devel/reordering/actag'', ale zatím v&nbsp;ní funguje pouze němčina.
-První výsledky jsou zatím bez záruky, protože v průběhu Gizy jsem narazil na kvótu. Procesy sice nespadly, ale nejsem si jistý, co prováděly těch několik hodin, kdy nemohly psát na disk. Takže raději pustit ještě jednou (ostatně jeden z nich dokonce nedoběhl).
+<code bash>cd $TMT_ROOT/treex/devel/reordering/actag
+nohup nice make CORPUS=europarl-v6b.fr-en LANGUAGE=fr >& make-euro-fren-fr.log &
+nohup nice make CORPUS=europarl-v6b.fr-en LANGUAGE=en >& make-euro-fren-en.log &
+nohup nice make CORPUS=news-commentary-v6b.fr-en LANGUAGE=fr >& make-news-fren-fr.log &
+nohup nice make CORPUS=news-commentary-v6b.fr-en LANGUAGE=en >& make-news-fren-en.log &</code>
-.1.2012 už mám i skoro všechny kontrolní výsledky druhého běhu, ale mezitím jsem zjistil chybu v počítání alignmentu, takže pouštím potřetí (zatím šest pokusů pro češtinu, němčinu a španělštinu, později pustím i francouzštinu, až i u ní skončí druhý běh).
+No a nyní již můžeme naklonovat nové pokusy. I když můžeme naklonovat oba směry (např. "fren" a "enfr") těsně po sobě, se spuštěním druhého směru by to chtělo počkat kvůli zámkům a vzájemnému nepřetahování se o práci, až než u prvního směru doběhne fáze "prepare".
-^ Jazyky ^ BLEU ^ Kontrolní běh ^ Třetí běh ^
+<code bash>$STATMT/joshua-scripts/clonex.pl fren-stc-allemma-tmnews+parl-lmnews+parl-lm6-test2011 fren-stc-allemma-tmv6b-lmv6b-lm6-test2011
-| en-cs | FAILED | 0.1267 | 0.1246 |
+cd fren-stc-allemma-tmv6b-lmv6b-lm6-test2011
-| cs-en | 0.1748 | 0.1748 | 0.1792 |
+$STATMT/joshua-scripts/resetex_scripts.pl
-| en-de | 0.1268 | 0.1268 | 0.1274 |
+vim scripts/setexp.pl
-| de-en | 0.1869 | 0.1869 | 0.1859 |
+$ac_tmtrain     = 'news-commentary-v6b.fr-en+europarl-v6b.fr-en';</code>
-| en-es | 0.2542 | 0.2542 | 0.2531 |
-| es-en | 0.2428 | FAILED | 0.2375 |
+Dotažení do konce: i vývojová a testovací data musí být ve verzi v6b. Můžeme přeskočit alignment a trénování jazykového modelu, ale musíme pustit ''prepare.pl'', abychom získali upravená data!
-| en-fr | 0.2586 | 0.2628 | |
-| fr-en | 0.2294 | 0.2294 | |
+<code bash>$STATMT/joshua-scripts/clonex.pl encs-stc-allemma-tmv6b-lmv6b-lm6-test2011 encs-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b
+cd encs-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b
+$STATMT/joshua-scripts/resetex_scripts.pl
+vim scripts/setexp.pl
+$ac_dev         = 'newstest2008-v6b';
+$ac_test        = 'newstest2011-v6b';
+(qsub.pl) scripts/prepare.pl
+nohup nice $STATMT/joshua-scripts/joshua.pl extract > & joshua.log &</code>
+Pokusy s&nbsp;uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K&nbsp;poslední úpravě došlo 21.4.2011. Vracím se k&nbsp;tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat.
+Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v&nbsp;tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v&nbsp;trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b".
+^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^
+| en-cs | 0.1191 | 0.1246 | |
+| cs-en | 0.1692 | 0.1792 | |
+| en-de | 0.1337 | 0.1274 | |
+| de-en | 0.1885 | 0.1859 | |
+| en-es | 0.2573 | 0.2531 | |
+| es-en | 0.2446 | 0.2375 | |
+| en-fr | 0.2591 | 0.2619 | |
+| fr-en | 0.2243 | 0.2285 | |
+===== Pokusy s Emanem =====
+Tohle jsou data, která Ondřej použil pro svůj „malý pokus“:
+SRCAUG=enNmT1+stc
+TGTAUG=csNmT1+stc
+ALILABEL=enNmT1-lemma-csNmT1-lemma
+DEV: wmt10
+TEST: wmt11
+Kopie příslušných korpusů jsou na mém hřišti v těchto krocích (ukázáno rovnou na inicializaci kroku dandata):
+<code>/home/zeman/projekty/statmt/playground/corpman --wait wmt10/csNmT1+stc
+SRC=en TGT=cs IMPORTCORPUS=yes TRALS=s.corpus.60681730.20120201-2157 TRALT=s.corpus.892024c6.20120201-2157 TRTMS=s.corpus.402e5219.20120201-2302 TRTMT=s.corpus.d8e0b2d7.20120201-2157 TRLMT=s.corpus.d8e0b2d7.20120201-2157 DEVS=s.corpus.e46c791e.20120201-2159 DEVT=s.corpus.c3230ea2.20120201-2201 TESTS=s.corpus.7b9dc07b.20120201-2205 TESTT=s.corpus.d0ef157e.20120201-2208 eman init dandata
+s.dandata.1d1f8734.20120203-1125
+wmt10/enNmT1+stc = s.corpus.e46c791e.20120201-2159
+wmt10/csNmT1+stc = s.corpus.c3230ea2.20120201-2201
+wmt11/enNmT1+stc = s.corpus.7b9dc07b.20120201-2205
+wmt11/csNmT1+stc = s.corpus.d0ef157e.20120201-2208
+Korpusy pro alignment:
+s.corpus.60681730.20120201-2157
+s.corpus.892024c6.20120201-2157
+GIZASTEP=s.mosesgiza.8a492679.20120202-1628 DATASTEP=s.dandata.1d1f8734.20120203-1125 ALISYM=gdfa eman init danalign
+s.danalign.9fb3696a.20120203-1128
+JOSHUASTEP=s.joshua.2723ccd9.20120131-1031 ALIGNSTEP=s.danalign.9fb3696a.20120203-1128 eman init binarize --start --mem 31g
+s.binarize.4576151d.20120203-1524
+BINARIZESTEP=s.binarize.4576151d.20120203-1524 FOR=dev eman init extract --start
+s.extract.95792bfb.20120203-1528
+BINARIZESTEP=s.binarize.4576151d.20120203-1524 FOR=test eman init extract --start
+s.extract.01f5693c.20120203-1528
+SRILMSTEP=s.srilm.e99247ad.20120201-0921 DATASTEP=s.dandata.1d1f8734.20120203-1125 ORDER=5 eman init danlm --start
+s.danlm.06d337e0.20120203-1600
+LMSTEP=s.danlm.06d337e0.20120203-1600 EXTRACTSTEP=s.extract.95792bfb.20120203-1528 eman init zmert --start
+s.zmert.884b636b.20120203-1602
+MERTSTEP=s.zmert.884b636b.20120203-1602 EXTRACTSTEP=s.extract.01f5693c.20120203-1528 eman init daneval --start
+s.daneval.96709ff9.20120203-1603</code>
+Výsledek Danova pokusu s Ondřejovými malými daty:
+BLEU = 0.1185
+(Ondřej měl s Mosesem asi 0.1230.)
+Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre.

[ Back to the navigation ] [ Back to the content ]

Institute of Formal and Applied Linguistics Wiki

Differences