This is an old revision of the document!
Table of Contents
Morpho Challenge 2008
Stránky soutěže jsou na http://www.cis.hut.fi/morphochallenge2008/. E-mailová adresa organizátorů je morphochallenge2007@james.hut.fi. Poznámky k mému loňskému řešení jsou na stránce Morpho Challenge 2007.
Data mám v ~/data/morphochallenge/2008
. Programy mám v ~/projekty/morphochallenge
(odkaz na data vede i odsud). Původně byly v ~/zapoctaky/konc
.
setenv MC /home/zeman/projekty/morphochallenge
Příprava dat
Organizátoři používají trochu zvláštní kódování, navíc pro každý jazyk jiné. Napsal jsem si skript, který převede data od organizátorů do UTF-8. Bude umět i převod opačným směrem, což bude potřeba, až budu organizátorům posílat výsledky.
cd ~/data/morphochallenge/2008 gunzip -c wordlist.ara.gz | $MC/mc_convert.pl -f ar > wordlist.ar.txt gunzip -c wordlist.eng.gz | $MC/mc_convert.pl -f en > wordlist.en.txt gunzip -c wordlist.fin.gz | $MC/mc_convert.pl -f fi > wordlist.fi.txt gunzip -c wordlist.ger.gz | $MC/mc_convert.pl -f de > wordlist.de.txt gunzip -c wordlist.tur.gz | $MC/mc_convert.pl -f tr > wordlist.tr.txt
Můj skript pro automatické rozsekání slov na kmeny a koncovky předpokládá, že vstup je textový korpus ve formátu CSTS. Nejprve tedy musíme trénovací seznamy slov a jejich četností převést do tohoto formátu.
cd $MC foreach l (ar de en fi tr) mc2csts.pl < data/2008/wordlist.$l.txt -l $l > data/2008/$l.csts end
Trénování morfologických vzorů
Pro některé jazyky (zejména pro finštinu) trvá zpracování déle, než by se chtělo čekat, a vyplatí se tedy úlohy odeslat na cluster:
# lrc cd $MC foreach l (ar de en fi tr) qsub.csh mc_jazyk.csh $l end
Během trénování pro každý jazyk l vzniknou následující soubory:
l.csts
… vstupní seznam slovních tvarů převedený do CSTSl.kmkon
… první rozdělení na kmeny a koncovky. Každý slovní tvar byl rozdělen na dvě části všemi možnými způsoby a výsledky byly seskupeny podle kmenů (stejná levá část).l.nefiltr
… převedeno do podoby vzorů, na každém řádku jeden vzor. Vzor je popsán seznamem koncovek, které byly nalezeny se stejnými kmeny. Dotyčný seznam kmenů následuje za seznamem koncovek. Seznam vzorů zatím neprošel žádným filtrováním.l.vzor
… přefiltrovaný a upravený seznam vzorů. Údaje o každém vzoru jsou rozložené na několik řádků a doplněné českými komentáři, aby byl seznam čitelný pro člověka.l.kmeny.txt
al.koncovky.txt
… seznam všech kmenů a koncovek, které přežily filtrování a figurují v závěrečném seznamu vzorů. Tyto strojově čitelné seznamy se dají využít při pozdější segmentaci nových slov.
Seznam vzorů se buduje takto (práce je rozdělena do několika kroků, protože zpracování velkých dat trvá dlouho a při opravě nějaké drobnosti u filtrování vzorů nechceme muset opakovat i první dva kroky):
csts2kmkon.pl < en.csts > en.kmkon kmkon2vzor.pl < en.kmkon > en.nefiltr vzorfiltr.pl -okm en.kmeny.txt -okonc en.koncovky.txt < en.nefiltr > en.vzor
Skript vzorfiltr.pl
jako vedlejší účinek vedle standardního výstupu tiše vyrobí soubory kmeny.txt
a koncovky.txt
.
Morfematická segmentace
Mám natrénovaný seznam vzorů, resp. seznam kmenů a koncovek. Segmentace ve skutečnosti znamená najít takové dělení slova na dvě části, aby první část odpovídala známému kmenu a druhá část známé koncovce.
Slovo umím rozložit na právě dva morfémy (kmen a koncovka) nebo nechat nerozložené. Při přiřazování slov ke vzorům se přednostně zjišťuje, zda známe přímo danou dvojici kmen-koncovka. Pokud žádnou takovou dvojici nenajdeme, zjišťujeme, zda rozpoznáme alespoň koncovky (aniž bychom znali kmen).
Rozklad slov na základě již vybudovaného seznamu vzorů se provede takto:
mchallenge.pl kmeny.txt koncovky.txt < wordlist.eng > en.dz.txt
cd $MC/data/2008 foreach l (ar de en fi tr) $MC/mchallenge.pl $l.kmeny.txt $l.koncovky.txt < wordlist.$l.txt > $l.dz.txt end
Úprava výstupu před odesláním
Ve výstupních souborech musí být první slovo (tvar, který jsme měli rozebrat) identické s řetězcem, který jsme od organizátorů dostali, tedy také v původním kódování. Zbytek řádku mohou být více méně libovolné řetězce, kterými si označujeme morfémy. Mohli bychom výstupy prohnat převodem kódování inverzním k tomu, který jsme na začátku dělali se vstupem. O něco bezpečnější se zdá žádné překódování neprovádět a pouze nahradit první slovo kopií prvního slova ze vstupu (vstupní a výstupní soubor mají stejný počet řádků, což se dá snadno ověřit). Má to ale háček. Původní texty obsahují ne-ASCII znaky, které jsou pak vesměs zakódované v ISO Latin 1. Uvnitř Perlu budou tyto znaky reprezentované jako UTF-8. Pokud pak na výstupu zvolíme UTF-8, bude se výstupní slovo lišit od vstupního. Pokud zvolíme ISO Latin 1, budou v pytli morfémy (možná jde nejen o estetickou chybu, ale i o věcnou, protože např. v arabštině by to mohlo dopadnout tak, že většina morfémů se převede na řetězce otazníků). Takže nakonec bude možná přece jen lepší překódovat celé výstupní soubory do těch příšerných kódování, která používají organizátoři.
cd ~/data/morphochallenge/2008 $MC/mc_convert.pl -t ar < ar.dz.txt | gzip -c > wordlist.ara.dz.gz $MC/mc_convert.pl -t de < de.dz.txt | gzip -c > wordlist.ger.dz.gz $MC/mc_convert.pl -t en < en.dz.txt | gzip -c > wordlist.eng.dz.gz $MC/mc_convert.pl -t fi < fi.dz.txt | gzip -c > wordlist.fin.dz.gz $MC/mc_convert.pl -t tr < tr.dz.txt | gzip -c > wordlist.tur.dz.gz $MC/mc_convert.pl -t ar < ar.dz3.txt | gzip -c > wordlist.ara.dz3.gz $MC/mc_convert.pl -t de < de.dz3.txt | gzip -c > wordlist.ger.dz3.gz $MC/mc_convert.pl -t en < en.dz3.txt | gzip -c > wordlist.eng.dz3.gz $MC/mc_convert.pl -t fi < fi.dz3.txt | gzip -c > wordlist.fin.dz3.gz $MC/mc_convert.pl -t tr < tr.dz3.txt | gzip -c > wordlist.tur.dz3.gz
Zpracování převrácených slov a hledání předpon
# lrc cd $MC/data/2008 foreach l (ar de en fi tr) $MC/reverse.pl < $l.csts > $l.rev.csts qsub.csh $MC/mc_jazyk.csh $l.rev end
foreach l (ar de en fi tr) cat $l.rev.kmeny.txt | $MC/reverse_line.pl > $l.kmeny1.txt cat $l.rev.koncovky.txt | $MC/reverse_line.pl > $l.predpony.txt $MC/mchallenge3.pl $l.predpony.txt $l.kmeny1.txt $l.kmeny.txt $l.koncovky.txt < wordlist.$l.txt > $l.dz3.txt end
Zbývá udělat
- Vyzkoušet skórování.
- Pustit celý algoritmus na převrácená slova a získat předpony.
- Zkusit rozpoznat složená slova, resp. složené kmeny. Pouze jednoduchý přístup, snažit se najít uvnitř kmenu jiný existující kmen tak, aby to, co zbyde, byl také existující kmen nebo složenina.
- Vymyslet způsob, jak využít četnosti slovních tvarů, které jsme dostali s trénovacími daty.
- Odeslat výsledky Mikkovi.
Skórování
Organizátoři poskytli program eval_morphemes.pl
. Pokyny pro správné vyhodnocování sepsali na stránce http://www.cis.hut.fi/morphochallenge2008/evaluation.shtml.
Co ještě potřebujeme:
wordpairs_goldstd
… vzorek dvojic slov ze zlatého standardu. Získá se programemsample_word_pairs.pl
.wordpairs_proposed
… vzorek dvojic slov z výstupu analyzátoru. Získá se programemsample_word_pairs.pl
.morphemeanalyses_goldstd
… vzorové analýzy slov (zlatý standard)morphemeanalyses_proposed
… výstup analyzátoru
Jaký je tedy úplný postup při vyhodnocování?
- Stáhnout program
eval_morphemes.pl
z webu http://www.cis.hut.fi/morphochallenge2008/evaluation.shtml. - Stáhnout program
sample_word_pairs.pl
z téhož webu. - Pro jazyk, který chceme vyhodnocovat, stáhnout vzorovou analýzu. Organizátoři poskytují pro každý jazyk vzorové analýzy pro podmnožinu 500 slov (pravděpodobně prostě proto, že větší část vzorových analýz chtějí udržet v tajnosti, aby soutěž byla regulérní). Jmenuje se např.
goldstdsample.ara
(pro arabštinu) a je k dispozici na adrese http://www.cis.hut.fi/morphochallenge2008/datasets.shtml#download. - Pro jazyk, který chceme vyhodnocovat, stáhnout soubor náhodných dvojic slov (“random word pairs file”). Tento soubor obsahuje na každém řádku slovo (např. “abacus'”, za tabulátorem pak jednu nebo více dvojic slovo2 [morfém], kde slovo2 je slovo, se kterým první slovo sdílí stejně pojmenovaný morfém, a [morfém] (uveden v hranatých závorkách) je označení tohoto sdíleného morfému. Např. pro “abacus'” jsou to dvojice “abacuses [abacus_N]” a “presbytery's [+GEN]”.
- Z výstupu analyzátoru, který chceme vyhodnotit, navzorkovat dvojice slov podobné těm, které jsme si stáhli pro gold standard. Zatímco ty stažené se použijí pro výpočet úplnosti, ty naše budou potřeba pro výpočet přesnosti. Námi zjištěná přesnost bude ve skutečnosti velmi hrubý odhad přesnosti, protože nemáme k dispozici celý gold standard.
- Nejdříve vytvoříme seznam relevantních slov, tedy takových, která se vyskytují ve vzorových analýzách, které jsme dostali k dispozici.
cut -f1 goldstdfile > relevantwordsfile
- Potom náhodně vybereme 100 relevantních slov z výstupu našeho analyzátoru.
sample_word_pairs.pl -refwords relevantwordsfile < resultfile > wordpairsfile_result
- Nyní již máme pohromadě všechny soubory potřebné jako vstupy pro vyhodnocovací program a můžeme spustit vyhodnocování:
eval_morphemes.pl -trace wordpairsfile_goldstd wordpairsfile_result goldstdfile resultfile
cut -f1 $MC/data/2008/goldstdsample.eng > $MC/data/2008/relevantwords.eng $MC/sample_word_pairs.pl -refwords $MC/data/2008/relevantwords.eng < $MC/data/2008/en.dz.txt > $MC/data/2008/wordpairs_result.eng $MC/eval_morphemes.pl -trace $MC/data/2008/samplepairs.goldstd.eng $MC/data/2008/wordpairs_result.eng $MC/data/2008/goldstdsample.eng $MC/data/2008/en.dz.txt
Postřehy
Předpony, zdá se, fungují, ale na rozdíl od přípon by to tu nechtělo dávat společná písmena ke kmeni, nýbrž k předponě.
Jednopísmenné předpony jsou problém. Nemůžu je úplně zakázat (české o-, u-), ale ve výstupu se mi nezdravě množí.
Segmentaci dělám hladově, i když by to chtělo chart parser. Problém: máme 2 seznamy kmenů (jeden zbytky po předponách, druhý po příponách). Který seznam použít?
Algoritmus 3 (předpony + kmeny + přípony) nedělá to, co má. Jaktože nepoznal vzor abrupt - abruptly - abruptness, když všechna tato slova jsou v datech a -ly i -ness jsou běžné koncovky?