Differences

This shows you the differences between two versions of the page.

--- user:zeman:morpho-challenge-2008 [2008/05/06 12:53]
zeman Zpracování na clusteru.
+++ user:zeman:morpho-challenge-2008 [2008/06/27 12:02]
zeman Popis výstupních souborů.
@@ Line 34: / Line 34: @@
 end</code>
-===== Zbytek této stránky je zatím pouhá kopie z roku 2007 =====
+Během trénování pro každý jazyk l vzniknou následující soubory:
-Dostali jsme pro každý jazyk (angličtinu, němčinu, finštinu, turečtinu a arabštinu) seznam slovních tvarů a jejich četností. Měli jsme za úkol pro každý slovní tvar vrátit jeho dělení na morfémy. Morfémy mohly být identifikovány libovolným řetězcem, při vyhodnocování se pouze zjišťovalo, zda se u slov, která mají obsahovat tentýž morfém, skutečně opakuje stejně pojmenovaný morfém.
+  * ''l.csts'' ... vstupní seznam slovních tvarů převedený do CSTS
+  * ''l.kmkon'' ... první rozdělení na kmeny a koncovky. Každý slovní tvar byl rozdělen na dvě části všemi možnými způsoby a výsledky byly seskupeny podle kmenů (stejná levá část).
-Moje zpracování se skládá ze dvou částí:
+  * ''l.nefiltr'' ... převedeno do podoby vzorů, na každém řádku jeden vzor. Vzor je popsán seznamem koncovek, které byly nalezeny se stejnými kmeny. Dotyčný seznam kmenů následuje za seznamem koncovek. Seznam vzorů zatím neprošel žádným filtrováním.
-  - Rozebrat slova na vstupu, získat seznam vzorů, kmenů a koncovek.
+  * ''l.vzor'' ... přefiltrovaný a upravený seznam vzorů. Údaje o každém vzoru jsou rozložené na několik řádků a doplněné českými komentáři, aby byl seznam čitelný pro člověka.
-  - Znova projít slova na vstupu, každé přiřadit k jednomu nebo několika vzorům a vypsat odpovídající rozklady.
+  * ''l.kmeny.txt'' a ''l.koncovky.txt'' ... seznam všech kmenů a koncovek, které přežily filtrování a figurují v&nbsp;závěrečném seznamu vzorů. Tyto strojově čitelné seznamy se dají využít při pozdější segmentaci nových slov.
-Nijak nevyužívám informaci o četnosti slovních tvarů ani o kontextu slov v korpusu. Slovo umím rozložit na právě dva morfémy (kmen a koncovka) nebo nechat nerozložené. Při přiřazování slov ke vzorům se přednostně zjišťuje, zda známe přímo danou dvojici kmen-koncovka. Pokud žádnou takovou dvojici nenajdeme, zjišťujeme, zda rozpoznáme alespoň koncovky (aniž bychom znali kmen).
-Potřebné skripty a výstupy jsou ve složce ''~/zapoctaky/konc''.
 Seznam vzorů se buduje takto (práce je rozdělena do několika kroků, protože zpracování velkých dat trvá dlouho a při opravě nějaké drobnosti u filtrování vzorů nechceme muset opakovat i první dva kroky):
@@ Line 52: / Line 48: @@
 Skript ''vzorfiltr.pl'' jako vedlejší účinek vedle standardního výstupu tiše vyrobí soubory ''kmeny.txt'' a ''koncovky.txt''.
-Rozklad slov na základě již vybudovaného seznamu vzorů se provede takto:
+===== Zbývá udělat =====
-<code>mchallenge.pl kmeny.txt koncovky.txt < wordlist.eng > en.dz.txt</code>
-Turečtinu je pak ještě nutné prohnat skriptem ''tr2mctr.pl'', aby se obnovilo exotické kódování, které organizátoři vyžadují.
-===== Nové seznamy slov pro soutěž v získávání informací =====
+  * Vzít testovací data a mnou natrénované kmeny a koncovky a provést morfematickou segmentaci testovacích dat. Jedno slovo může být rozebráno několika způsoby. Morfémy mohou být identifikovány libovolným řetězcem, takže je nemusíme převádět zpět do původního kódování, ale na výstupu je každopádně potřeba uvést původní nerozdělený slovní tvar v&nbsp;původním kódování.
+  * Vyzkoušet skórování.
+  * Pustit celý algoritmus na převrácená slova a získat předpony.
+  * Vymyslet způsob, jak využít četnosti slovních tvarů, které jsme dostali s&nbsp;trénovacími daty.
-Organizátoři dodatečně poskytli seznamy nových slov, která se neobjevila v původních trénovacích datech, ale vyskytují se v datech, nad kterými se vyhodnocuje získávání informací (information retrieval). Spojuji nový seznam slov se starým. Nad spojeným seznamem natrénuji nový seznam vzorů. Těmito vzory pak rozeberu nový seznam slov a pošlu ho zpátky organizátorům.
+==== Morfematická segmentace ====
+Mám natrénovaný seznam vzorů, resp. seznam kmenů a koncovek. Segmentace ve skutečnosti znamená najít takové dělení slova na dvě části, aby první část odpovídala známému kmenu a druhá část známé koncovce.
+Slovo umím rozložit na právě dva morfémy (kmen a koncovka) nebo nechat nerozložené. Při přiřazování slov ke vzorům se přednostně zjišťuje, zda známe přímo danou dvojici kmen-koncovka. Pokud žádnou takovou dvojici nenajdeme, zjišťujeme, zda rozpoznáme alespoň koncovky (aniž bychom znali kmen).
+Rozklad slov na základě již vybudovaného seznamu vzorů se provede takto:
+<code>mchallenge.pl kmeny.txt koncovky.txt < wordlist.eng > en.dz.txt</code>
-<code>cat wordlist.eng new-wordlist.eng > combined.eng
-iconv -f iso-8859-1 -t utf8 < combined.eng | mctr2csts.pl > entrain1.csts
-csts2kmkon.pl < entrain1.csts > en1.kmkon
-kmkon2vzor.pl < en1.kmkon > en1.vzor
-vzorfiltr.pl < en1.vzor > en1.filtr.vzor
-mv kmeny.txt en1kmeny.txt
-mv koncovky.txt en1koncovky.txt
-mchallenge.pl en1kmeny.txt en1koncovky.txt < new-wordlist.eng > en1.dz.txt</code>

[ Back to the navigation ] [ Back to the content ]

Institute of Formal and Applied Linguistics Wiki

Differences