Differences
This shows you the differences between two versions of the page.
Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
user:zeman:dz-parser:conll [2008/03/28 17:56] zeman |
user:zeman:dz-parser:conll [2009/03/03 16:28] zeman Makefile. |
||
---|---|---|---|
Line 20: | Line 20: | ||
===== Zpracování ===== | ===== Zpracování ===== | ||
+ | |||
+ | Zpracování má dvě části. První se týká přípravy dat, jejich převodu do formátu CSTS apod. Tato část není bezprostředně závislá na konkrétním parseru a odehrává se přímo ve složce s& | ||
Každý jazyk zkouším zpracovat jednak s& | Každý jazyk zkouším zpracovat jednak s& | ||
Line 29: | Line 31: | ||
($PARSER/ | ($PARSER/ | ||
+ | ===== Zpracování na clusteru ===== | ||
- | + | V& | |
- | + | * '' | |
- | + | * '' | |
- | + | * '' | |
- | + | * '' | |
- | + | * '' | |
- | + | * '' | |
- | + | ||
===== Výsledky ===== | ===== Výsledky ===== | ||
- | Následující tabulka ukazuje úspěšnost DZ parseru s výchozím nastavením na průběžných testovacích datech CoNLL, s původními značkami CoNLL (tabulátory, | ||
- | | Jazyk | Rok | A | G | B | P | | + | ==== Výchozí nastavení ==== |
- | | ar | 2006 | 3955 | 2527 | 1428 | 63,9 | | + | |
- | | ar | 2007 | 5873 | 3813 | 2060 | 64,9 | | + | |
- | | bg | 2006 | 4677 | 3380 | 1297 | 72,3 | | + | |
- | | ca | 2007 | 10971 | 7978 | 2993 | 72,7 | | + | |
- | | cs | 2006 | 5643 | 3617 | 2026 | 64,1 | | + | |
- | | cs | 2007 | 5760 | 3981 | 1779 | 69,1 | | + | |
- | | da | 2006 | 5470 | 3825 | 1645 | 69,9 | | + | |
- | | de | 2006 | 5403 | 3877 | 1526 | 71,8 | | + | |
- | | el | 2007 | 4874 | 3170 | 1704 | 65,0 | | + | |
- | | en | 2007 | 9529 | 6725 | 2804 | 70,6 | | + | |
- | | eu | 2007 | 4334 | 2538 | 1796 | 58,6 | | + | |
- | | hu | 2007 | 5995 | 3733 | 2262 | 62,3 | | + | |
- | | it | 2007 | 7643 | 5467 | 2176 | 71,5 | | + | |
- | | ja | 2006 | 3384 | 2953 | 431 | 87,3 | | + | |
- | | nl | 2006 | 6187 | 4561 | 1626 | 73,7 | | + | |
- | | pt | 2006 | 6719 | 4959 | 1760 | 73,8 | | + | |
- | | sl | 2006 | 4307 | 2529 | 1778 | 58,7 | | + | |
- | | sv | 2006 | 7140 | 5071 | 2069 | 71,0 | | + | |
- | | tr | 2007 | 6210 | 4011 | 2199 | 64,6 | | + | |
- | | zh | 2006 | 1839 | 1286 | 553 | 69,9 | | + | |
- | | zh | 2007 | 2277 | 1570 | 707 | 69,0 | | + | |
- | Následující tabulka | + | Následující tabulka |
+ | Úspěšnost parsingu s& | ||
+ | | Jazyk | Rok | P | | ||
+ | | ar | 2006 | 63.9 | | ||
+ | | ar | 2007 | 64.9 | | ||
+ | | bg | 2006 | 72.3 | | ||
+ | | ca | 2007 | 72.7 | | ||
+ | | ca | 2009 | 73.6 | | ||
+ | | cs | 2006 | 64.1 | | ||
+ | | cs | 2007 | 69.1 | | ||
+ | | cs | 2009 | 65.8 | | ||
+ | | da | 2006 | 69.9 | | ||
+ | | de | 2006 | 71.8 | | ||
+ | | de | 2009 | 72.3 | | ||
+ | | el | 2007 | 65.0 | | ||
+ | | en | 2007 | 70.6 | | ||
+ | | en | 2009 | 69.5 | | ||
+ | | es | 2009 | 71.8 | | ||
+ | | eu | 2007 | 58.6 | | ||
+ | | hu | 2007 | 62.3 | | ||
+ | | it | 2007 | 71.5 | | ||
+ | | ja | 2006 | 87.3 | | ||
+ | | ja | 2009 | 83.2 | | ||
+ | | nl | 2006 | 73.7 | | ||
+ | | pt | 2006 | 73.8 | | ||
+ | | sl | 2006 | 58.7 | | ||
+ | | sv | 2006 | 71.0 | | ||
+ | | tr | 2007 | 64.6 | | ||
+ | | zh | 2006 | 69.9 | | ||
+ | | zh | 2007 | 69.0 | | ||
+ | | zh | 2009 | 57.7 | | ||
- | | Jazyk | Rok | Značky | A | G | B | P | SV | | + | Následující tabulka srovnává výsledky s původními značkami CoNLL a výsledky se značkami |
- | | ar | 2006 | CoNLL | 3955 | 2555 | 1400 | 64,6 | | + | |
- | | ar | 2006 | PDT | 3955 | 2595 | 1360 | 65,6 | ne | | + | |
- | | ar | 2007 | CoNLL | 5873 | 3757 | 2116 | 64,0 | | + | |
- | | ar | 2007 | PDT | 5873 | 3793 | 2080 | 64,6 | ne | | + | |
- | | bg | 2006 | CoNLL | 4677 | 3178 | 1499 | 67,9 | | + | |
- | | bg | 2006 | PDT | 4677 | 3338 | 1339 | 71,4 | ano | | + | |
- | | cs | 2006 | CoNLL | 5643 | 3822 | 1821 | 67,7 | | + | |
- | | cs | 2006 | PDT | 5643 | 4050 | 1593 | 71,8 | ano | | + | |
- | | cs | 2007 | CoNLL | 5760 | 4061 | 1699 | 70,5 | | + | |
- | | cs | 2007 | PDT | 5760 | 4294 | 1466 | 74,5 | ano | | + | |
- | | da | 2006 | CoNLL | 5470 | 3792 | 1678 | 69,3 | | + | |
- | | da | 2006 | PDT | 5470 | 3804 | 1666 | 69,5 | ne | | + | |
- | | en | 2007 | CoNLL | 9529 | 6163 | 3366 | 64,7 | | + | |
- | | en | 2007 | PDT | 9529 | 6254 | 3275 | 65,6 | ano | | + | |
- | | sv | 2006 | CoNLL | 7140 | 5075 | 2065 | 71,1 | | + | |
- | | sv | 2006 | PDT | 7140 | 5232 | 1908 | 73,3 | ano | | + | |
- | | zh | 2006 | CoNLL | 1839 | 1269 | 570 | 69,0 | | + | |
- | | zh | 2006 | PDT | 1839 | 1252 | 587 | 68,1 | ne | | + | |
- | | zh | 2007 | CoNLL | 2277 | 1506 | 771 | 66,1 | | + | |
- | | zh | 2007 | PDT | 2277 | 1449 | 828 | 63,6 | ano | | + | |
- | Převod značek do sady PDT pomohl všude kromě čínštiny, | + | | Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | |
- | + | | ar | 2006 | 63.9 | 66.8 | lepší | ano (19.858476) | | |
- | Následující tabulka je opravou té předchozí. Značky obsahující tabulátory už se ukládají správně, úprava značek je opravdu vypnutá. | + | | ar | 2007 | 64.9 | 64.2 | horší | ne (1.497453) | |
+ | | bg | 2006 | 72.3 | 71.2 | horší | ne (3.205607) | | ||
+ | | cs | 2006 | 64.1 | 64.1 | lepší | ne (0.007519) | | ||
+ | | cs | 2007 | 69.1 | 68.6 | horší | ano (3.948357) | | ||
+ | | da | 2006 | 69.9 | 70.5 | lepší | ne (2.082218) | | ||
+ | | de | 2006 | 71.8 | 67.5 | horší | ano (61.301887) | | ||
+ | | en | 2007 | 70.6 | 65.4 | horší | ano (227.951382) | | ||
+ | | pt | 2006 | 73.8 | 76.4 | lepší | ano (44.312588) | | ||
+ | | sv | 2006 | 71.0 | 72.6 | lepší | ano (12.763713) | | ||
+ | | zh | 2006 | 69.9 | 68.4 | horší | ne (1.574297) | | ||
+ | | zh | 2007 | 69.0 | 63.7 | horší | ano (22.360248) | | ||
- | | Jazyk | Rok | Značky | A | G | B | P | SV | | + | U čínštiny lze zhoršení snadno vysvětlit. Čínská sada značek se velmi liší od ostatních, do Intersetu se vejde jen nepatrný zlomek informace, kterou značky nesou, takže ztráta informace při převodu značek je mimořádně veliká. |
- | | ar | 2006 | CoNLL | 3955 | 2527 | 1428 | 63,9 | | + | |
- | | ar | 2006 | PDT | 3955 | 2640 | 1315 | 66,8 | ano | | + | |
- | | ar | 2007 | CoNLL | 5873 | 3813 | 2060 | 64,9 | | + | |
- | | ar | 2007 | PDT | 5873 | 3771 | 2102 | 64,2 | ne | | + | |
- | | bg | 2006 | CoNLL | 4677 | 3380 | 1297 | 72,3 | | + | |
- | | bg | 2006 | PDT | 4677 | 3331 | 1346 | 71,2 | ne | | + | |
- | | cs | 2006 | CoNLL | 5643 | 3617 | 2026 | 64,1 | | + | |
- | | cs | 2006 | PDT | 5643 | 3618 | 2025 | 64,1 | ne | | + | |
- | | cs | 2007 | CoNLL | 5760 | 3981 | 1779 | 69,1 | | + | |
- | | cs | 2007 | PDT | 5760 | 3952 | 1808 | 68,6 | ano | | + | |
- | | da | 2006 | CoNLL | 5470 | 3825 | 1645 | 69,9 | | + | |
- | | da | 2006 | PDT | 5470 | 3858 | 1612 | 70,5 | ne | | + | |
- | | en | 2007 | CoNLL | 9529 | 6725 | 2804 | 70,6 | | + | |
- | | en | 2007 | PDT | 9529 | 6236 | 3293 | 65,4 | ano | | + | |
- | | sv | 2006 | CoNLL | 7140 | 5071 | 2069 | 71,0 | | + | |
- | | sv | 2006 | PDT | 7140 | 5181 | 1959 | 72,6 | ano | | + | |
- | | zh | 2006 | CoNLL | 1839 | 1286 | 553 | 69,9 | | + | |
- | | zh | 2006 | PDT | 1839 | 1258 | 581 | 68,4 | ne | | + | |
- | | zh | 2007 | CoNLL | 2277 | 1570 | 707 | 69,0 | | + | |
- | | zh | 2007 | PDT | 2277 | 1450 | 827 | 63,7 | ano | | + | |
==== 01: zapnuté upravování značek a selektivní lexikalizace ==== | ==== 01: zapnuté upravování značek a selektivní lexikalizace ==== | ||
Line 155: | Line 134: | ||
| zh | 2006 | 69.0 | 68.1 | horší | ne (1.000000) | | | zh | 2006 | 69.0 | 68.1 | horší | ne (1.000000) | | ||
| zh | 2007 | 66.1 | 63.6 | horší | ano (8.950413) | | | zh | 2007 | 66.1 | 63.6 | horší | ano (8.950413) | | ||
+ | |||
+ | === Srovnání výchozího nastavení CoNLL s nastavením 01 PDT === | ||
+ | |||
+ | | Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | | ||
+ | | ar | 2006 | 63.9 | 67.3 | lepší | ano (21.670630) | | ||
+ | | ar | 2007 | 64.9 | 66.7 | lepší | ano (9.078534) | | ||
+ | | bg | 2006 | 72.3 | 71.4 | horší | ne (1.904968) | | ||
+ | | cs | 2006 | 64.1 | 71.6 | lepší | ano (170.571020) | | ||
+ | | cs | 2007 | 69.1 | 74.2 | lepší | ano (85.242604) | | ||
+ | | da | 2006 | 69.9 | 69.5 | horší | ne (0.821288) | | ||
+ | | en | 2007 | 70.6 | 65.6 | horší | ano (176.765737) | | ||
+ | | sv | 2006 | 71.0 | 73.1 | lepší | ano (24.369923) | | ||
+ | | zh | 2006 | 69.9 | 68.1 | horší | ne (2.330645) | | ||
+ | | zh | 2007 | 69.0 | 63.6 | horší | ano (22.769829) | | ||
+ | |||
+ | |||
+ | ==== 02: navíc zakázané přeskakování bezdětných předložek ==== | ||
+ | | Jazyk | Rok | P | | ||
+ | | ar | 2006 | 64.3 | | ||
+ | | ar | 2007 | 59.8 | | ||
+ | | bg | 2006 | 68.0 | | ||
+ | | ca | 2007 | 69.9 | | ||
+ | | cs | 2006 | 56.1 | | ||
+ | | cs | 2007 | 58.7 | | ||
+ | | da | 2006 | 68.3 | | ||
+ | | de | 2006 | 68.5 | | ||
+ | | el | 2007 | 67.1 | | ||
+ | | en | 2007 | 63.8 | | ||
+ | | eu | 2007 | 58.4 | | ||
+ | | hu | 2007 | 62.3 | | ||
+ | | it | 2007 | 72.1 | | ||
+ | | ja | 2006 | 74.6 | | ||
+ | | nl | 2006 | 73.0 | | ||
+ | | pt | 2006 | 73.5 | | ||
+ | | sl | 2006 | 63.8 | | ||
+ | | sv | 2006 | 71.0 | | ||
+ | | tr | 2007 | 65.1 | | ||
+ | | zh | 2006 | 69.0 | | ||
+ | | zh | 2007 | 66.1 | | ||
+ | |||
+ | | Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | | ||
+ | | ar | 2006 | 64.3 | 67.6 | lepší | ano (24.635569) | | ||
+ | | ar | 2007 | 59.8 | 66.9 | lepší | ano (162.665108) | | ||
+ | | bg | 2006 | 68.0 | 71.3 | lepší | ano (41.317073) | | ||
+ | | cs | 2006 | 56.1 | 71.4 | lepší | ano (583.183944) | | ||
+ | | cs | 2007 | 58.7 | 74.0 | lepší | ano (611.467919) | | ||
+ | | da | 2006 | 68.3 | 69.8 | lepší | ano (9.116809) | | ||
+ | | en | 2007 | 63.8 | 67.3 | lepší | ano (97.889876) | | ||
+ | | sv | 2006 | 71.0 | 73.5 | lepší | ano (38.126126) | | ||
+ | | zh | 2006 | 69.0 | 68.0 | horší | ne (1.249135) | | ||
+ | | zh | 2007 | 66.1 | 63.5 | horší | ano (9.836066) | | ||
+ | |||
+ | | Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | | ||
+ | | ar | 2006 | 63.9 | 67.6 | lepší | ano (26.578554) | | ||
+ | | ar | 2007 | 64.9 | 66.9 | lepší | ano (12.122523) | | ||
+ | | bg | 2006 | 72.3 | 71.3 | horší | ne (2.198697) | | ||
+ | | cs | 2006 | 64.1 | 71.4 | lepší | ano (163.208696) | | ||
+ | | cs | 2007 | 69.1 | 74.0 | lepší | ano (78.750246) | | ||
+ | | da | 2006 | 69.9 | 69.8 | horší | ne (0.065772) | | ||
+ | | en | 2007 | 70.6 | 67.3 | horší | ano (80.847587) | | ||
+ | | sv | 2006 | 71.0 | 73.5 | lepší | ano (35.800000) | | ||
+ | | zh | 2006 | 69.9 | 68.0 | horší | ne (2.623482) | | ||
+ | | zh | 2007 | 69.0 | 63.5 | horší | ano (23.875776) | | ||
+ | |||
+ | ==== 03: navíc zapnuté modelování pseudovalence ==== | ||
+ | |||
+ | Úspěšnost parsingu s& | ||
+ | | Jazyk | Rok | P | | ||
+ | | ar | 2006 | 64.4 | | ||
+ | | ar | 2007 | 59.8 | | ||
+ | | bg | 2006 | 67.6 | | ||
+ | | ca | 2007 | 69.9 | | ||
+ | | cs | 2006 | 56.0 | | ||
+ | | cs | 2007 | 58.7 | | ||
+ | | da | 2006 | 68.3 | | ||
+ | | de | 2006 | 69.5 | | ||
+ | | el | 2007 | 67.2 | | ||
+ | | en | 2007 | 64.2 | | ||
+ | | eu | 2007 | 58.4 | | ||
+ | | hu | 2007 | 62.3 | | ||
+ | | it | 2007 | 72.2 | | ||
+ | | ja | 2006 | 74.9 | | ||
+ | | nl | 2006 | 73.2 | | ||
+ | | pt | 2006 | 73.5 | | ||
+ | | sl | 2006 | 63.8 | | ||
+ | | sv | 2006 | 71.0 | | ||
+ | | tr | 2007 | 65.2 | | ||
+ | | zh | 2006 | 67.5 | | ||
+ | | zh | 2007 | 64.6 | | ||
+ | |||
+ | Srovnání úspěšnosti parsingu s& | ||
+ | | Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | | ||
+ | | ar | 2006 | 64.4 | 67.6 | lepší | ano (23.953216) | | ||
+ | | ar | 2007 | 59.8 | 67.0 | lepší | ano (165.491130) | | ||
+ | | bg | 2006 | 67.6 | 71.0 | lepší | ano (45.224638) | | ||
+ | | cs | 2006 | 56.0 | 71.4 | lepší | ano (587.655280) | | ||
+ | | cs | 2007 | 58.7 | 74.3 | lepší | ano (627.063764) | | ||
+ | | da | 2006 | 68.3 | 69.8 | lepší | ano (8.878214) | | ||
+ | | de | 2006 | 69.5 | 67.7 | horší | ano (9.841876) | | ||
+ | | en | 2007 | 64.2 | 67.9 | lepší | ano (110.976037) | | ||
+ | | pt | 2006 | 73.5 | 76.4 | lepší | ano (42.581187) | | ||
+ | | sv | 2006 | 71.0 | 73.2 | lepší | ano (27.717540) | | ||
+ | | zh | 2006 | 67.5 | 68.8 | lepší | ne (2.042553) | | ||
+ | | zh | 2007 | 64.6 | 64.6 | stejná | ne (0.000000) | | ||
+ | |||
+ | Totéž, ale parsing s& | ||
+ | | Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | | ||
+ | | ar | 2006 | 63.9 | 67.6 | lepší | ano (27.380000) | | ||
+ | | ar | 2007 | 64.9 | 67.0 | lepší | ano (12.949640) | | ||
+ | | bg | 2006 | 72.3 | 71.0 | horší | ne (3.688525) | | ||
+ | | cs | 2006 | 64.1 | 71.4 | lepší | ano (167.052632) | | ||
+ | | cs | 2007 | 69.1 | 74.3 | lepší | ano (87.422200) | | ||
+ | | da | 2006 | 69.9 | 69.8 | horší | ne (0.046272) | | ||
+ | | de | 2006 | 71.8 | 67.7 | horší | ano (54.691057) | | ||
+ | | en | 2007 | 70.6 | 67.9 | horší | ano (55.470000) | | ||
+ | | pt | 2006 | 73.8 | 76.4 | lepší | ano (34.848721) | | ||
+ | | sv | 2006 | 71.0 | 73.2 | lepší | ano (22.530318) | | ||
+ | | zh | 2006 | 69.9 | 68.8 | horší | ne (0.757576) | | ||
+ | | zh | 2007 | 69.0 | 64.6 | horší | ano (14.266376) | | ||
+ | |||
+ | ===== Která konfigurace je nejúspěšnější pro který jazyk? ===== | ||
+ | |||
+ | | Jazyk | Rok | orig df | pdt df | orig 03 | pdt 03 | | ||
+ | | ar | 2006 | 63.9 | 66.8 | 64.4 | 67.6 | | ||
+ | | ar | 2007 | 64.9 | 64.2 | 59.8 | 67.0 | | ||
+ | | bg | 2006 | 72.3 | 71.2 | 67.6 | 71.0 | | ||
+ | | ca | 2007 | 72.7 | | 69.9 | | | ||
+ | | cs | 2006 | 64.1 | 64.1 | 56.0 | 71.4 | | ||
+ | | cs | 2007 | 69.1 | 68.6 | 58.7 | 74.3 | | ||
+ | | da | 2006 | 69.9 | 70.5 | 68.3 | 69.8 | | ||
+ | | de | 2006 | 71.8 | 67.5 | 69.5 | 67.7 | | ||
+ | | el | 2007 | 65.0 | | 67.2 | | | ||
+ | | en | 2007 | 70.6 | 65.4 | 64.2 | 67.9 | | ||
+ | | eu | 2007 | 58.6 | | 58.4 | | | ||
+ | | hu | 2007 | 62.3 | | 62.3 | | | ||
+ | | it | 2007 | 71.5 | | 72.2 | | | ||
+ | | ja | 2006 | 87.3 | | 74.9 | | | ||
+ | | nl | 2006 | 73.7 | | 73.2 | | | ||
+ | | pt | 2006 | 73.8 | 76.4 | 73.5 | 76.4 | | ||
+ | | sl | 2006 | 58.7 | | 63.8 | | | ||
+ | | sv | 2006 | 71.0 | 72.6 | 71.0 | 73.2 | | ||
+ | | tr | 2007 | 64.6 | | 65.2 | | | ||
+ | | zh | 2006 | 69.9 | 68.4 | 67.5 | 68.8 | | ||
+ | | zh | 2007 | 69.0 | 63.7 | 64.6 | 64.6 | | ||
===== Starší poznámky ===== | ===== Starší poznámky ===== |