[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

[ Back to the navigation ]

You are here: start » user » zeman » eman

This is an old revision of the document!

Table of Contents

Eman

Ondrův e-mail z 4.2.2011:

musim se pochlubit, ze (az na jeste par much) mam ukazku pouziti emana pro preklad i pro ty, kdo to jeste vubec nezkouseli: 

svn co https://svn.ms.mff.cuni.cz/svn/statmt/trunk statmt
cd statmt/playground
# podivejte se na README
export PATH=$PATH:$(pwd)/../scripts
eman init binaries
  # to jen proto, abyste mohla potvrdit certifikat sourceforge
# a pak uz podle readme spustit mikropokus
SKIP_IRSTLM=yes eman clone --start < eman.samples/cs-en-mini.traceback

Prikaz:

eman –man

ukaze manualovou stranku

Tvorba šablon (nové druhy kroků, seeds)

Jako příklad viz eman.seeds/lm. Toto je šablona na všechny kroky, které vytvářejí jazykové modely. Povinně vyžaduje nastavit tyto vstupní proměnné:

Volitelně lze nastavit i další vstupní proměnné.

Konstruktor (skript eman.seeds/lm) vytvoří soubor eman.tag, obsahující stručnou jednořádkovou charakteristiku kroku (v tomto případě zejména charakteristiku korpusu, ze kterého byl jazykový model vyroben).

Dále vytvoří soubor eman.vars, kam opíše všechny vstupní proměnné a jejich hodnoty ve formě přiřazení (tj. sourcnutí tohoto souboru umožní kdykoli zrekonstruovat příslušnou část prostředí).

Dále vytvoří soubor eman.deps, kde jsou názvy kroků, na kterých tento krok závisí, tj. dotyčné kroky musí úspěšně skončit ještě před spuštěním tohoto kroku. V případě jazykového modelu je závislost pouze na BINARIES (proč ne taky na trénovacím korpusu?) Pro korpus se v tomto případě sahá přímo do augmented_corpora – že by zastaralé použití? Pokud je seed skript puštěn v přípravném režimu a dotyčný korpus v augmented_corpora nevidí, skončí chybou.

Teprve v přípravném režimu se také vyrobí hlavní skript eman.command, který bude na clusteru vykonávat hlavní činnost kroku.

Založení nového kroku podle šablony

Použijeme příkaz eman init. Typicky musíme předat nějaké vstupní parametry prostřednictvím proměnných prostředí. Můžeme samozřejmě nejdřív nastavit prostředí a pak zavolat eman init, ale v bashové syntaxi můžeme také rovnou předřadit přiřazení do proměnných před příkaz, např. takhle vytvoříme nový krok typu dandata pro jazykový pár en-cs (na všechny operace s emanem se musíme nacházet na hřišti): 

cd $STATMT/playground
SRC=en TGT=cs eman init dandata

Spuštění a opakované spuštění kroku

Spuštění kroku znamená, že se vygeneruje jeho skript (pustí se eman.seed a z něj vypadne eman.command) a odešle se jako úloha na cluster. Provádí se pomocí eman start, např. 

eman start dandata

(V tomto případě ovšem předpokládáme, že na hřišti leží jen jeden krok typu dandata. Eman ho pak dokáže identifikovat.)

Kroky, které už byly spuštěny v minulosti a skončily úspěšně (jsou ve stavu DONE), se fyzicky znova nespustí. Předpokládá se, že by výsledek byl stejný jako ten, který už leží nebo má ležet ve složce kroku. Jestliže chceme vynutit přepočítání kroku (třeba teprve ladíme způsob, jakým se krok počítá), musíme nejdříve ručně změnit stav na INITED nebo PREPARED. (Ale pozor, pokud teprve ladíme šablonu (seed) kroku, musíme zajistit, aby se nová šablona okopírovala jako eman.seed do daného kroku. Taky potom musíme nastavit stav INITED, nikoli PREPARED, aby se přegeneroval eman.command z eman.seed. Možná by pak bylo jednodušší inicializovat nový krok podle aktuální šablony a ten starý časem vyhodit.) 

cat s.dandata.038e9f18.20120118-2212/eman.status
DONE
echo INITED > s.dandata.038e9f18.20120118-2212/eman.status
cp eman.seeds/dandata s.dandata.038e9f18.20120118-2212/eman.seed
eman start dandata
Executing: eval $(cat eman.vars) EMAN_READONLY=yes ./eman.seed
Step s.dandata.038e9f18.20120118-2212 prepared.
Executing: ( qsub  -C ''  -N s.dandata.038e9f18.20120118-2212 -o log.o\$JOB_ID -hard -j y -cwd -S /bin/bash -p -100 ./eman.command 2>&1 ) > log
Step s.dandata.038e9f18.20120118-2212 submitted as job 2160759

Druhou možností je příkaz eman redo. Ten ale vyrobí kopii stávajícího kroku a tu spustí.

Jestliže jsme úspěšně prošli stavy INITED a PREPARED a nepotřebujeme měnit základní nastavení kroku (zejména hodnoty proměnných), ale krok přesto skončil ve stavu FAILED (např. proto, že došlo místo na disku), můžeme zavolat eman continue, který pracuje v původní složce kroku a pokusí se krok dotáhnout do stavu DONE. Continue pouze znova pustí skript eman.command ve složce kroku. Tento skript můžeme nejdřív podle potřeby upravit, např. zakomentovat řádky, které při předcházejícím pokusu doběhly úspěšně a jejich výsledek už ve složce kroku leží.

Spuštění mnoha příbuzných kroků najednou

Řada emanových příkazů, zejména těch pro vypisování informací, je schopná operovat nad všemi kroky daného typu najednou. Např. takhle si vypíšeme proměnné všech kroků typu dandata a jejich stav: 

zeman@lrc1:~/projekty/statmt/playground$ eman vars dandata
s.dandata.e91dcaed.20120119-0921
  SRC=en
  TGT=fr
s.dandata.eb2b73f5.20120119-0921
  SRC=en
  TGT=es
s.dandata.4bd447c7.20120119-0921
  SRC=en
  TGT=de
s.dandata.886c6804.20120119-0921
  SRC=fr
  TGT=en
s.dandata.038e9f18.20120118-2212
  SRC=en
  TGT=cs
s.dandata.18e4135a.20120119-0921
  SRC=es
  TGT=en
s.dandata.68958d57.20120119-0921
  SRC=de
  TGT=en
s.dandata.640d0845.20120119-0921
  SRC=cs
  TGT=en
zeman@lrc1:~/projekty/statmt/playground$ eman status dandata
s.dandata.e91dcaed.20120119-0921        INITED
s.dandata.eb2b73f5.20120119-0921        INITED
s.dandata.4bd447c7.20120119-0921        INITED
s.dandata.886c6804.20120119-0921        INITED
s.dandata.038e9f18.20120118-2212        RUNNING
s.dandata.18e4135a.20120119-0921        INITED
s.dandata.68958d57.20120119-0921        INITED
s.dandata.640d0845.20120119-0921        INITED

Tento přístup ale není možné použít ke spuštění všech kroků daného typu, které ještě nejsou ve stavu DONE. eman start chce vždy spustit právě jeden krok, a pokud ho na základě pouhého určení typu nedokáže jednoznačně určit, odmítne pokračovat: 

zeman@lrc1:~/projekty/statmt/playground$ eman start dandata
Ambiguous in dir listing: dandata:
  s.dandata.038e9f18.20120118-2212
  s.dandata.18e4135a.20120119-0921
  s.dandata.4bd447c7.20120119-0921
  s.dandata.640d0845.20120119-0921
  s.dandata.68958d57.20120119-0921
  s.dandata.886c6804.20120119-0921
  s.dandata.e91dcaed.20120119-0921
  s.dandata.eb2b73f5.20120119-0921

Nejde dokonce ani zavolat eman start s několika jednoznačně určenými kroky. Pustí se totiž jen ten první z nich: 

zeman@lrc1:~/projekty/statmt/playground$ eman start `eman select t dandata s INITED`
Executing: eval $(cat eman.vars) EMAN_READONLY=yes ./eman.seed
Step s.dandata.e91dcaed.20120119-0921 prepared.
Executing: ( qsub  -C ''  -N s.dandata.e91dcaed.20120119-0921 -o log.o\$JOB_ID -hard -j y -cwd -S /bin/bash -p -100 ./eman.command 2>&1 ) > log
Step s.dandata.e91dcaed.20120119-0921 submitted as job 2160762

Proto použijeme řídící struktury bashe: 

for sl in en cs de es fr; do for tl in en cs de es fr; do
  if [ $sl == en ] && [ $tl != en ] || [ $sl != en ] && [ $tl == en ] ; then
    SRC=$sl TGT=$tl eman init dandata --start;
  fi
done; done

nebo: 

for step in `eman ls dandata`; do
  eman start $step;
done

Parametry clusteru

Pokud Eman běží na clusteru, odesílá zpracování kroků (eman.command) jako clusterové úlohy. V opačném případě se pokouší pouštět místní procesy, které na sebe čekají. Někdy potřebujeme vznést konkrétní požadavky na stroj, na který plánovač clusteru naši úlohu umístí. Zejména jde o požadavky na operační paměť. V Emanovi momentálně nelze nastavit výchozí paměťové požadavky daného typu kroku (šablony). Musíme proto o paměť požádat explicitně pokaždé, když spouštíme konkrétní krok. Např. takto si řekneme o stroj, na kterém je dostupných 20 GB a který má alespoň 50 GB volného místa v /mnt/h/tmp: 

eman start danalign --mem 20g --disk 50g

Některé druhy kroků (např. mert a translate) samy generují paralelní úlohy pro cluster. Výše uvedený způsob nastaví požadavky pouze pro hlavní úlohu daného kroku, ale o případných dceřinných úlohách nic neví. To je potřeba zařídit pomocí parametrů kroku. Např. šablony obou uvedených druhů kroků počítají s proměnnou GRIDFLAGS, ve které můžeme uvést doplňkové volby pro příkaz qsub. Bohužel to musíme udělat už při inicializaci kroku. Takže když dodatečně zjistíme, že krok nedoběhl kvůli nedostatku paměti nebo místa na disku pro některou jeho podúlohu, nemůžeme jednoduše zavolat eman continue s.mert… –mem 30g, musíme vytvořit nový krok pomocí eman redo: 

GRIDFLAGS="-hard -l mf=30g -l act_mem_free=30g -l h_vmem=30g" eman redo s.mert... --start

Typický experiment se skládá z několika kroků. Některé mohou probíhat paralelně, jiné na sobě závisí, takže jeden lze spustit až po úspěšném dokončení druhého. Emanovi je pochopitelně potřeba říct, že krok závisí na jiném kroku. Dělá se to tak, že mezi povinné vstupní proměnné v šabloně kroku zavedeme proměnnou, jejíž hodnota je jméno konkrétního jiného kroku. Rovnou při zavádění proměnné ji označíme za proměnnou typu reqstep a eman zařídí vše potřebné (mimo jiné zapíše jméno požadovaného kroku do souboru eman.deps ve složce nově zakládaného kroku). Eman nám také může poskytnout absolutní cestu do kroku, na kterém závisíme, abychom mohli k jeho výstupním souborům přistupovat i ze skriptu, který odesíláme na cluster. Do šablony (seedu) můžeme dát např. tohle: 

eman defvar DATASTEP type=reqstep help='where are trainal.$SRC.gz and trainal.$TGT.gz'
# convert the dependencies to absolute paths
DATASTEPDIR=`eman path $DATASTEP`

Podle šablony pak můžeme vytvořit instanci nového kroku, která bude záviset na konkrétně vybrané instanci předchozího kroku. Např. v následujícím příkladu navazujeme nově zakládaný krok typu danalign na existující krok typu dandata, přičemž ze všech existujících kroků typu dandata si vybereme ten, který má proměnnou SRC nastavenou na en a proměnnou TGT nastavenou na cs: 

DATASTEP=`eman select t dandata v SRC=en v TGT=cs` eman init danalign

Kromě výstupních souborů můžeme chtít zdědit také hodnoty proměnných předcházejícího kroku, třeba právě kódy jazyků SRC a TGT. Do šablony nového kroku tedy připíšeme tohle: 

eman \
  defvar SRC inherit=DATASTEP help='source language code' \
  defvar TGT inherit=DATASTEP help='target language code'

eman select

Když se ptáme na hodnotu proměnné, která obsahuje zvláštní (ale ne tak moc zvláštní) znaky, z nějakého neznámého je musíme obalit uvozovkami a ještě tyto uvozovky zachránit před shellem, aby se dostaly dovnitř do emana. Jinak dotaz nefunguje a eman vrátí dlouhý seznam obsahující nejspíš všechny známé kroky. Např. takhle: 

eman select t augment v ACDESC=\"news-commentary-v6.cs-en+europarl-v6.cs-en/en+lcstem4\"

V tomto konkrétním případě bych se také místo hledání hodnoty proměnné mohl spokojit s hledáním kroku podle značky (tagu), ale to zatím eman neumožňuje, alespoň podle manuálových stránek.

Značkování kroků

Dvě veličiny nás u každého kroku budou zajímat velmi často: stav kroku (–status nebo eman status <kroky>) a hodnoty proměnných, které ho definují (–vars nebo eman vars <kroky>). Třetí veličina, která je doplňuje, je tzv. značka neboli tag (–tag nebo eman tag <kroky>). Jde o stručný popis pokud možno na jeden řádek, který nám pomůže rychle identifikovat mezi desítkami např. jazykových modelů „ten náš“. Často budeme chtít do značky zahrnout vybrané hodnoty proměnných, např. kódy jazyků a faktorů, použitých korpusů apod.

Značky jsou dvou druhů: ruční a automatické. Ruční značku můžeme přidat ke každému kroku zvlášť a je uložena ve složce daného kroku v souboru eman.tag. Můžeme do něj psát přímo a pak zavolat eman reindex, nebo rovnou zavolat eman add-tag <značka> <krok>. V praxi ovšem tento příkaz často volá už šablona kroku, takže značka je opět tvořena více méně automaticky (to je zřejmě relikt z doby, kdy automatické značky v dnešním smyslu neexistovaly). (Ale pozor: Ondra potvrdil, že toto chování šablon je zastaralé a nyní se doporučuje, aby příkaz eman add-tag byl vyhrazen pro ruční volání uživatelem.)

Automatické značky kroku vznikají z hodnot proměnných na základě pravidel (regulárních výrazů) v souboru eman.autotags, který je jeden pro celé hřiště a musíme si ho vytvořit, v repozitáři jsou pouze ukázky. Kromě toho každý krok automaticky zdědí automatické značky svých předchůdců (kroků, na kterých závisí).

Ve výpisu eman tag jsou značky seřazené podle abecedy.

Korpusové kroky

Některé kroky připravují části korpusů, které jsou pro experiment potřeba. Takový krok asi typicky bude přímo zasvěcen přípravě korpusu (a je pak obvykle typu corpus), ale není ani vyloučeno, že korpus bude vedlejším produktem jiné činnosti. (Za zvláštní druh korpusového souboru se v tomto případě považuje i soubor se zarovnáním slov.) Každopádně pokud je výsledkem nebo jedním z výsledků kroku korpus, je vhodné ve složce daného kroku založit soubor corpman.info, který popisuje, jaký korpus nám to tady vznikl. Skript pro tvorbu korpusů ho potom může využít při tvorbě kombinovaných korpusů, jiných faktorů apod.

Soubor corpman.info lze také vytvořit pomocí příkazu corpman register. Nástroj corpman je součástí hřiště a umožňuje také vyhledat podle zadaných parametrů (název korpusu, jazyk a faktory) krok emana, ve kterém už je daný korpus vytvořen.

Ondrův návod, jak převzít existující augmented corpus

Dříve se k práci s korpusy používala složka augmented_corpora a nástroj augment.pl. Pokud už v této složce máme připravený korpus se spoustou jazyků a hotových faktorů (např. ve složce augmented_corpora/newstest2010-v6b) a chceme ho zapojit do práce s emanem, lze to zařídit tak, že mu vytvoříme falešný krok emana, který na něj bude odkazovat:

udelej si v playgroundu uplne prazdny adresar s.podvod.12345678.20120229-2355

v nem udelej 

echo DONE > eman.status
echo fake > eman.seed
echo fake > eman.command
touch eman.vars
touch eman.deps

a pak v nem vyrob symlinky na vse, co potrebujes, cili treba: 

ln -s /net/data/augmented_corpora/newstest2010-v6b/cs.gz ./
ln -s /net/data/augmented_corpora/newstest2010-v6b/de.gz ./
ln -s /net/data/augmented_corpora/newstest2010-v6b/en.gz ./
ln -s /net/data/augmented_corpora/newstest2010-v6b/es.gz ./
ln -s /net/data/augmented_corpora/newstest2010-v6b/fr.gz ./

Nakonec rucne vyrob corpman.info:
cs.gz TAB -1 TAB wmt10v6b TAB cs TAB form|lemma|tag TAB 2489 TAB 0
de.gz TAB -1 TAB wmt10v6b TAB de TAB form|lemma|tag TAB 2489 TAB 0
…

(DZ: Položky na každém řádku v corpman.info mají následující význam:

  1. Název souboru (cs.gz)
  2. Číslo sloupce v tomto souboru (-1, pokud v souboru nerozlišujeme sloupce)
  3. Název korpusu (wmt10v6b)
  4. Kód jazyka (cs); může zahrnovat i identifikaci dalšího zpracování (csNm), protože platí, že všechny soubory jednoho korpusu mají stejný počet řádků a všechny soubory jednoho korpusu a jazyka mají stejný počet tokenů.
  5. Názvy a pořadí faktorů, ze kterých se skládá každý token (form|lemma|tag)
  6. Počet řádků souboru (2489)
  7. Informace, zda je tento korpus automaticky odvozen z jiného korpusu (0 nebo 1))

Pak dej ./corpman reindex
A pak over, ze to funguje: 

./corpman wmt10v6b/cs+stc
# vypise asi dva kroky, kterymi to samo vyrobi stc.

Kdybys chtel pouzit i sve stc, muzes ho taky symlinknout a pridat radek:
cs-stc.gz TAB -1 TAB wmt10v6b TAB cs TAB stc TAB 2489 TAB 0 

ln -s /net/data/augmented_corpora/newstest2010-v6b/cs.factors/stc.gz cs-stc.gz
ln -s /net/data/augmented_corpora/newstest2010-v6b/de.factors/stc.gz de-stc.gz
ln -s /net/data/augmented_corpora/newstest2010-v6b/en.factors/stc.gz en-stc.gz
ln -s /net/data/augmented_corpora/newstest2010-v6b/es.factors/stc.gz es-stc.gz
ln -s /net/data/augmented_corpora/newstest2010-v6b/fr.factors/stc.gz fr-stc.gz

Alignment

Zarovnání (alignment) je taky svého druhu korpus. Má stejný počet řádků jako texty v jednotlivých jazycích a tyto řádky si navzájem odpovídají. Čtvrtý sloupec corpman.info, který u textových částí korpusu obsahuje kód jazyka, u alignmentu popisuje oba jazyky, faktory použité pro výpočet zarovnání a také použitou symetrizační heuristiku: symetrizace – zdrojový jazyk – zdrojový faktor – cílový jazyk – cílový faktor. Naopak pátý sloupec, který u textových částí popisuje dostupné faktory, u alignmentu vždy obsahuje kód ali (vlastně je to specifický faktor). Příklad corpman.info vygenerovaného krokem typu align: 

alignment.gz    1       un.fr-en        gdf-fr-lemma-en-lemma   ali     10788000
alignment.gz    2       un.fr-en        revgdf-fr-lemma-en-lemma        ali     10788000
alignment.gz    3       un.fr-en        gdfa-fr-lemma-en-lemma  ali     10788000
alignment.gz    4       un.fr-en        revgdfa-fr-lemma-en-lemma       ali     10788000
alignment.gz    5       un.fr-en        left-fr-lemma-en-lemma  ali     10788000
alignment.gz    6       un.fr-en        right-fr-lemma-en-lemma ali     10788000
alignment.gz    7       un.fr-en        int-fr-lemma-en-lemma   ali     10788000
alignment.gz    8       un.fr-en        union-fr-lemma-en-lemma ali     10788000

Zarovnání obvykle vyrábí krok typu align. Ten ale volá Gizu a trvá dost dlouho, pro opravdu velké korpusy třeba i několik dní. Pokud se náš paralelní korpus skládá z několika menších korpusů, můžeme trochu slevit na kvalitě výsledného zarovnání a zarovnat každý dílčí korpus zvlášť. Potom zarovnání spojíme za sebe do jednoho souboru. Bude asi bezpečnější, když dáme spojenému korpusu nové jednoznačné jméno, které nebude obsahovat +, aby corpman nepoznal, že jde o kombinaci několika menších korpusů, a nepokoušel se odvozené faktory taky získávat z dílčích korpusů.

Všimněte si, že proměnná COMMAND obsahuje úplné cesty ke krokům s dílčími zarovnáními (zde prostřednictvím proměnné STATMT, kterou mám ve svém prostředí vždy nastavenou). To je nutné, protože příkaz se nebude vykonávat v hlavní složce hřiště, ale o úroveň níž, ve složce nového korpusového kroku. 

# Předpokládáme, že dílčí alignmenty obsahují stejné symetrizace ve stejném pořadí.
# Takže se sice ptáme na gdfa, ale do cílového souboru zkopírujeme všechny sloupce.
ALISTEPNEWSEURO=(`corpman news-europarl-v7.fr-en/gdfa-fr-lemma-en-lemma+ali`)
ALISTEPUNCORPUS=(`corpman un.fr-en/gdfa-fr-lemma-en-lemma+ali`)
COMMAND="zcat $STATMT/playground/${ALISTEPNEWSEURO[0]}/${ALISTEPNEWSEURO[1]} $STATMT/playground/${ALISTEPUNCORPUS[0]}/${ALISTEPUNCORPUS[1]}"
LINES=`$COMMAND | wc -l`
OUTCORP=news-euro-un.fr-en \
  OUTFACTS=ali \
  OUTLANG=gdfa-fr-lemma-en-lemma \
  OUTLINECOUNT=$LINES \
  TAKE_FROM_COMMAND=$COMMAND \
  eman init corpus --start
# Problém: Takto založený krok zaregistruje pouze zarovnání se symetrizací gdfa, navíc pro všechny sloupce souboru.
# Opíšeme tedy popis sloupců od jednoho z dílčích korpusů. Musíme to ale dělat až po dokončení spojeného korpusu.
NEWSTEP=(`corpman news-euro-un.fr-en/gdfa-fr-lemma-en-lemma+ali`)
mv ${NEWSTEP[0]}/corpus.txt.gz ${NEWSTEP[0]}/alignment.gz
perl -e 'my $i = 1; foreach my $sym qw(gdf revgdf gdfa revgdfa left right int union) { print("alignment.gz\t$i\tnews-euro-un.fr-en\t$sym-fr-lemma-en-lemma\tali\t'$LINES'\n"); $i++ }' > ${NEWSTEP[0]}/corpman.info
corpman reindex
ALISTEPNEWSEURO=(`corpman news-europarl-v7.fr-en/gdfa-en-lemma-fr-lemma+ali`)
ALISTEPUNCORPUS=(`corpman un.fr-en/gdfa-en-lemma-fr-lemma+ali`)
COMMAND="zcat $STATMT/playground/${ALISTEPNEWSEURO[0]}/${ALISTEPNEWSEURO[1]} $STATMT/playground/${ALISTEPUNCORPUS[0]}/${ALISTEPUNCORPUS[1]}"
LINES=`$COMMAND | wc -l`
OUTCORP=news-euro-un.fr-en \
  OUTFACTS=ali \
  OUTLANG=gdfa-en-lemma-fr-lemma \
  OUTLINECOUNT=$LINES \
  TAKE_FROM_COMMAND=$COMMAND \
  eman init corpus --start
# Teď ještě pod novým názvem publikovat i slepené textové části korpusů.
STEPNEWSCOMM=(`corpman news-commentary-v7.fr-en/fr+form+lemma+tag`)
STEPEUROPARL=(`corpman europarl-v7.fr-en/fr+form+lemma+tag`)
STEPUNCORPUS=(`corpman un.fr-en/fr+form+lemma+tag`)
COMMAND="zcat $STATMT/playground/${STEPNEWSCOMM[0]}/${STEPNEWSCOMM[1]} $STATMT/playground/${STEPEUROPARL[0]}/${STEPEUROPARL[1]} $STATMT/playground/${STEPUNCORPUS[0]}/${STEPUNCORPUS[1]}"
LINES=`$COMMAND | wc -l`
OUTCORP=news-euro-un.fr-en \
  OUTLANG=fr \
  OUTFACTS=form+lemma+tag \
  OUTLINECOUNT=$LINES \
  TAKE_FROM_COMMAND=$COMMAND \
  eman init corpus --start
STEPNEWSCOMM=(`corpman news-commentary-v7.fr-en/en+form+lemma+tag`)
STEPEUROPARL=(`corpman europarl-v7.fr-en/en+form+lemma+tag`)
STEPUNCORPUS=(`corpman un.fr-en/en+form+lemma+tag`)
COMMAND="zcat $STATMT/playground/${STEPNEWSCOMM[0]}/${STEPNEWSCOMM[1]} $STATMT/playground/${STEPEUROPARL[0]}/${STEPEUROPARL[1]} $STATMT/playground/${STEPUNCORPUS[0]}/${STEPUNCORPUS[1]}"
LINES=`$COMMAND | wc -l`
OUTCORP=news-euro-un.fr-en \
  OUTLANG=en \
  OUTFACTS=form+lemma+tag \
  OUTLINECOUNT=$LINES \
  TAKE_FROM_COMMAND=$COMMAND \
  eman init corpus --start

Vyhodnocovací kroky a sklizeň výsledků

V současnosti je k dispozici několik různých šablon pro vyhodnocení výsledků překladu na testovacích datech. Šablona eval pouští Ondrův program testbleu, šablona evaluator pouští vyhodnocovací program Mosese upravený Matoušem Macháčkem, který umí několik různých metrik včetně BLEU, šablona daneval spolupracuje s Joshuou.

Eman umí projít všechny kroky s výsledky a spojit je v jednom výstupu. K tomu slouží příkaz eman collect, který na základě eman.results.conf vyrobí eman.results. Ukázkový a funkční konfigurační soubor je eman.results.conf.sample-wmt12. Výstup eman.results lze pak ještě dále vylepšit pomocí make bleu (make bleu vlastně ten collect samo volá).

(Podle Ondřeje make bleu ještě možná závisí na skriptu ./sitename, který je tam pro konsolidaci výsledků z mnoha hřišť.)

Kombinace dvou a více hřišť

Normálně hledá Eman kroky pouze na aktuálním hřišti (v aktuální složce). Typicky má každý uživatel (nejméně jedno) svoje hřiště (playground), které leží v podstromu jeho pracovní kopie repozitáře StatMT. Co když ale chceme naklonovat pokus (se všemi závislostmi) nějakého kolegy? Můžeme připojit jeho hřiště k našemu. Obě složky zůstanou na svých místech, ale Eman bude vědět, že má od nynějška sledovat a indexovat obě. Uvidíme všechny kroky ve vzdáleném hřišti, budeme je moci klonovat a tvořit kroky na nich závislé. Tato operace je jednosměrná, tj. pokud současně nepřipojíme naše hřiště ke vzdálenému, tak ve vzdáleném hřišti to naše vidět nebude.

Je dobré si uvědomit, že spolu s krokem, o který nám jde, možná získáme stovky dalších kroků, které nás nezajímají a možná nám znepřehlední situaci na hřišti. Navíc připojení vzdáleného hřiště v současné době nejde nijak jednoduše odvolat. Z těchto důvodů je možná lepší vytvořit si nové prázdné hřiště a připojit k němu jak naše stávající hřiště, tak vzdálené hřiště.

Připojení vzdáleného hřiště se provede příkazem eman addremote DIR ALIAS, např. 

eman addremote /net/tmp/bojar/wmt12-bojar/playground obo

Stěhování hřiště za chodu

Příklad ze života: hřiště mám na /net/work/people/zeman, jenže pokusy generují stále více souborů a kvůli kvótě se tam nevejdu. Chci to celé přestěhovat na /net/cluster/TMP. Problém je, že prakticky neustále některé kroky běží a nemůžu jim ani jejich závislostem stěhovat půdu pod nohama. Takhle zjistím seznam kroků, které běží (na clusteru jim patří nějaká úloha) nebo na nich ty běžící závisí. (Všimněte si toho grep -v ke konci. Eman bohužel odmítne pokračovat, jestliže se mu k nějakému číslu úlohy nepodaří přiřadit existující krok. Proto explicitně vyřazuju čísla, o kterých vím, že tento problém mají.) 

eman ls > steps-all.txt
eman traceback --no-tree `qstat | grep zeman | grep -P '\ss\.' | cut -d' ' -f1 | grep -v 4296093` | sort -u > steps-tabu.txt
perl -e 'open(TABU, "steps-tabu.txt") or die; while(<TABU>) { $tabu{$_}++ } open(ALL, "steps-all.txt") or die; while(<ALL>) { print unless($tabu{$_}) }' > steps-free.txt
for i in `cat steps-free.txt` ; do echo $i ; cp -r $i /net/cluster/TMP/zeman/statmt/playground ; done
for i in `cat steps-free.txt` ; do echo $i ; rm -rf $i ; done

Je dobré si uvědomit, že stěhování existujícího hřiště má ještě jednu další nevýhodu. Mnoho Ondřejových kroků vytváří hardlinky na existující soubory s korpusy. Při stěhování na jiný souborový systém se z těchto hardlinků zřejmě stanou samostatné soubory a hřiště bude zabírat mnohem více místa než to stávající. Lze si pomoci skriptem find_hardlinks.pl, který se pokouší hardlinky najít a znova pospojovat. Ale pozor! Tento skript není obecný a spoléhá na strukturu hřiště a na to, že hardlinky jsou v něm řádně označeny (mají v názvu .hardlink) a vedle nich leží buď původní soubor, nebo symbolický odkaz na něj. Navíc skript obsahuje některé cesty specifické pro Danův případ, takže pokud nejste já, musíte si ho nejdříve upravit!

Jestliže stěhujete kroky, které jsou ve stavu FAILED, na novém hřišti je pravděpodobně nebudete moci spustit pomocí eman continue, protože jejich eman.command (který už se znova nepřegeneruje) nejspíš obsahuje cesty na staré hřiště (a např. když zavoláte corpman starého hřiště, bude vám hledat korpusy tam, ne tady). Můžete ale použít eman redo –start, čímž se na novém hřišti vytvoří kopie kroku s novým eman.command, bez přegenerování všech kroků, na kterých krok závisí.

Přechod na nové úložiště Redmine/git

ÚFALí server Redmine je na adrese https://redmine.ms.mff.cuni.cz/projects. Ondra na něj v říjnu 2012 přestěhoval podstatnou část repozitáře StatMT z svn/trac (https://svn.ms.mff.cuni.cz/trac/statmt). Konkrétně jsou tu teď projekty ufal-smt-playground a eman (na něj se z playgroundu odkazuje jako na podmodul).

Pro vybalení hřiště Ondra doporučil studentům následující příkaz. Předpokládám, že studenti, neznajíce Ondrovo heslo, to museli volat bez toho ondrej.bojar@ na začátku a získali nějaký read-only přístup. A já na rozdíl od nich můžu použít daniel.zeman a získám přístup i pro zápis. 

git clone https://ondrej.bojar@redmine.ms.mff.cuni.cz/ufal-smt-playground.git jmeno_pracovni_kopie
# Raději pracovat na 64bitovém stroji kvůli kompilacím.
ssh sol12
cd /net/cluster/TMP/zeman
git clone https://daniel.zeman@redmine.ms.mff.cuni.cz/ufal-smt-playground.git redplayground

Eman jako podmodul se asi neaktualizuje sám. Nějakou verzi k nějakému datu zřejmě získám automaticky s hřištěm, ale pokud chci mít jistotu, že budu mít ten aktuální, můžu/měl bych? udělat 

cd redplayground
git submodule init
git submodule update

Další Ondrova doporučení (ale to druhé, vizualizace commitů, bude asi fungovat jen v ixech): 

git svn crashcourse
gitk -a

Dokumentace ke gitu je například tady.

Strategie přechodu

# Zkusit si, zda lze repozitář git jen tak kopírovat a on nadále funguje.
ssh sol12
cd /net/cluster/TMP/zeman
cp -R redplayground gitplayground
cd gitplayground
# Sesynchronizovat můj git. Tím dostanu všechny revize až do současnosti.
git pull origin
# Vrátit se mezi commity přenesené z svn k poslednímu mému.
# Označit to jako novou větev dansvn.
git checkout -b dansvn dfcb57a2
# Někde vedle si vyrobit čistý checkout nejnovější verze v svn, bez těch neverzovaných bumbrlíčků.
cd ..
svn --username zeman checkout https://svn.ms.mff.cuni.cz/svn/statmt/trunk cleansvnplayground
# Zkopírovat poslední verze souborů v relevantních složkách z svn do gitu.
cd cleansvnplayground
cp -R playground ../gitplayground
cp -R scripts ../gitplayground
cp -R src ../gitplayground
cd ../gitplayground
# Odstranit pomocné složky .svn ze všech složek ve zkopírovaném stromu.
find -type d -regex '.*\.svn' -print -exec rm -rf '{}' \;
# Podívat se, které soubory se změnily a které mám teď navíc.
# Těch navíc se Ondřej při stěhování zbavil a já je chci nejspíš taky ručně smazat.
# Výjimkou jsou soubory, které jsem si do svn přidal sám a chci je zachovat. Ty nemazat, svezou se s git add.
git status
rm ...
# Označit všechny změny v existujících souborech v svn, + případně přidané nesmazané soubory, ke commitu.
git add .
# Zapamatovat si změny a uložit je v místním repozitáři.
git commit -m 'Danovy změny v svn po odštěpení git verze.'
# Vyrobit protějšek nové větve i na serveru.
git push origin dansvn
# Slít změny z obou větví. Součástí musí být vyřešení konfliktů.
# V tomto případě byl navíc soubor scripts/eman vyčleněn do samostatného repozitáře git, to ošetřil Aleš.
# Po vyřešení konfliktů promítnout změnu na server.
git checkout master
git merge dansvn
git push origin master
# Po slití už větev dansvn nepotřebujeme, smazat u nás i na serveru.
# (Neměníme tím rozvětvenou historii, pouze zapomínáme pojmenovanou záložku, která do ní ukazuje.)
git branch -d dansvn
git push origin :dansvn
# Naroubovat nové hřiště verzované gitem na to staré, které navíc obsahuje složky s pokusy.
cd ../statmt/playground
# Chceme zachovat neverzované složky s experimenty. Jejich název začíná "s.".
# Vše ostatní je buď verzované, nebo jsou to pomocné soubory, které lze vyhodit.
for i in `ls -A1 | grep -vP '^s\.'` ; do rm -rf $i ; done
cd ..
rm -rf .svn addicter addicter-experiments joshua-scripts papers perl projects scripts src
cp -R ../gitplayground/.git ../gitplayground/scripts ../gitplayground/src ../gitplayground/.git* .
cd playground
cp -R ../../gitplayground/playground/* .
cp ../../gitplayground/.gitignore .
cp ../../gitplayground/.vimrc .
cd ..
git status
# Vybalit Emana, je teď v samostatném repozitáři.
cd /home/zeman/nastroje
git clone daniel.zeman@redmine.ms.mff.cuni.cz:eman.git

[ Back to the navigation ] [ Back to the content ]