[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki


[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision
Previous revision
Next revision Both sides next revision
user:zeman:dz-parser:conll [2008/03/27 21:51]
zeman Výsledky 2006.
user:zeman:dz-parser:conll [2008/03/28 18:23]
zeman Srovnání výchozího nastavení CoNLL s nastavením 01 PDT.
Line 31: Line 31:
 ===== Výsledky ===== ===== Výsledky =====
  
-Následující tabulka ukazuje úspěšnost DZ parseru s výchozím nastavením na průběžných testovacích datech CoNLL 2007, s původními značkami CoNLL (tabulátory, rysy oddělené svislítky):+==== Výchozí nastavení ====
  
-| Jazyk | Rok | +Následující tabulka ukazuje úspěšnost DZ parseru s výchozím nastavením na průběžných testovacích datech CoNLL, s původními neupravenými značkami CoNLL (tabulátory, rysy oddělené svislítky). 
-| ar | 2006 | 3955 2555 1400 | 64,6 + 
-ar | 2007 | 5873 3757 2116 64,0 | +| Jazyk | Rok | | 
-bg | 2006 | 4677 3178 1499 67,9 +ar 2006 | 63.9 
-ca | 2007 | 10971 7670 3301 | 69,9 | +| ar | 2007 | 64.9 | 
-| cs | 2006 | 5643 3822 1821 67,7 +| bg | 2006 | 72.3 | 
-| cs | 2007 | 5760 4061 1699 | 70,5 | +ca | 2007 | 72.7 | 
-da | 2006 | 5470 3792 1678 | 69,3 | +| cs | 2006 | 64.1 
-de | 2006 | 5403 3704 1699 68,6 +cs | 2007 | 69.1 | 
-el | 2007 | 4874 3132 1742 64,3 | +da 2006 | 69.9 | 
-en | 2007 | 9529 6163 3366 | 64,7 | +| de | 2006 | 71.8 | 
-| eu | 2007 | 4334 2477 1857 57,2 +| el | 2007 | 65.0 | 
-hu | 2007 | 5995 4088 1907 68,2 +en | 2007 | 70.6 | 
-it | 2007 | 7643 5556 2087 72,7 | +| eu | 2007 | 58.6 | 
-ja | 2006 | 3384 2524 860 74,6 +| hu | 2007 | 62.3 | 
-nl | 2006 | 6187 4579 1608 | 74,0 +| it | 2007 | 71.5 | 
-pt | 2006 | 6719 4941 1778 | 73,5 +| ja | 2006 | 87.3 | 
-sl | 2006 | 4307 2765 1542 | 64,2 +nl 2006 | 73.7 
-sv | 2006 | 7140 5075 2065 | 71,1 | +pt | 2006 | 73.8 | 
-tr | 2007 | 6210 3920 2290 63,1 | +| sl | 2006 | 58.7 | 
-| zh | 2006 | 1839 1269 570 69,0 +| sv | 2006 | 71.0 | 
-| zh | 2007 | 2277 1506 771 66,1 |+| tr | 2007 | 64.6 | 
 +zh | 2006 | 69.9 | 
 +| zh | 2007 | 69.0 | 
 + 
 +Následující tabulka srovnává výsledky s původními značkami CoNLL a výsledky se značkami PDT. Data jsou dtest. Nastavení parseru je výchozítj. úprava značek ani selektivní lexikalizace není zapnuta. Poslední sloupec říká, zda je změna úspěšnosti statisticky významná podle McNemarova testu na úrovni 0,05 (χ<html><sup>2</sup></html> ≥ 3,84). 
 + 
 +| Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | 
 +| ar | 2006 | 63.| 66.8 | lepší | ano (19.858476) | 
 +| ar | 2007 | 64.9 | 64.2 | horší | ne (1.497453) | 
 +| bg | 2006 | 72.3 | 71.2 | horší | ne (3.205607) 
 +| cs | 2006 | 64.1 64.1 lepší ne (0.007519) 
 +| cs | 2007 | 69.1 68.6 horší | ano (3.948357) | 
 +| da | 2006 | 69.9 | 70.| lepší | ne (2.082218) 
 +en | 2007 | 70.6 | 65.4 | horší | ano (227.951382) | 
 +| sv | 2006 | 71.0 72.6 lepší | ano (12.763713) | 
 +| zh | 2006 | 69.9 | 68.4 | horší | ne (1.574297) | 
 +| zh | 2007 | 69.0 | 63.7 | horší | ano (22.360248) | 
 + 
 +U čínštiny lze zhoršení snadno vysvětlit. Čínská sada značek se velmi liší od ostatníchdo Intersetu se vejde jen nepatrný zlomek informace, kterou značky nesou, takže ztráta informace při převodu značek je mimořádně veliká. 
 + 
 +==== 01: zapnuté upravování značek a selektivní lexikalizace ==== 
 + 
 +Následující tabulka ukazuje úspěšnost DZ parseru se zapnutou úpravou morfologických značek a selektivní lexikalizací na průběžných testovacích datech CoNLL, s původními značkami CoNLL (tabulátory, rysy oddělené svislítky). 
 + 
 +| Jazyk | Rok | P | 
 +| ar | 2006 | 64.3 | 
 +ar | 2007 | 59.8 | 
 +| bg | 2006 | 67.9 | 
 +ca 2007 | 69.9 
 +cs | 2006 | 56.0 | 
 +| cs | 2007 | 58.7 | 
 +da 2006 | 69.3 | 
 +de | 2006 | 68.5 | 
 +| el | 2007 | 67.5 | 
 +en | 2007 | 64.7 | 
 +| eu | 2007 | 58.4 | 
 +hu 2007 | 66.1 
 +it | 2007 | 73.4 | 
 +ja 2006 | 74.6 
 +nl | 2006 | 73.0 | 
 +| pt | 2006 | 73.5 | 
 +| sl | 2006 | 63.8 | 
 +| sv | 2006 | 71.1 | 
 +| tr | 2007 | 65.1 | 
 +zh 2006 | 69.0 | 
 +| zh | 2007 | 66.1 | 
 + 
 +| Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | 
 +| ar | 2006 | 64.3 | 67.3 | lepší | ano (20.855670) | 
 +| ar | 2007 | 59.8 | 66.| lepší | ano (149.962142) 
 +bg | 2006 | 67.9 71.4 lepší ano (44.137931) 
 +cs | 2006 | 56.0 71.6 lepší | ano (597.483871) | 
 +| cs | 2007 | 58.7 | 74.2 | lepší | ano (616.602151) 
 +da | 2006 | 69.3 69.5 lepší | ne (0.114286) | 
 +| en | 2007 | 64.7 | 65.6 | lepší | ano (8.781548) | 
 +| sv | 2006 | 71.1 | 73.1 | lepší | ano (24.144134) 
 +zh | 2006 | 69.0 68.1 horší | ne (1.000000) | 
 +| zh | 2007 | 66.1 | 63.6 | horší | ano (8.950413) | 
 + 
 +=== Srovnání výchozího nastavení CoNLL s nastavením 01 PDT === 
 + 
 +| Jazyk | Rok | P(CoNLL) | P(PDT) | Změna | McNemar | 
 +| ar | 2006 | 63.9 | 67.3 | lepší | ano (21.670630) | 
 +| ar | 2007 | 64.9 | 66.7 | lepší | ano (9.078534) 
 +bg | 2006 | 72.3 71.4 horší | ne (1.904968) | 
 +| cs | 2006 | 64.1 | 71.6 | lepší | ano (170.571020) | 
 +| cs | 2007 | 69.| 74.2 | lepší | ano (85.242604) 
 +da | 2006 | 69.9 | 69.5 | horší | ne (0.821288) | 
 +| en | 2007 | 70.6 65.6 horší ano (176.765737) | 
 +| sv | 2006 | 71.0 | 73.| lepší | ano (24.369923) 
 +| zh | 2006 | 69.9 68.1 horší ne (2.330645) 
 +| zh | 2007 | 69.0 63.6 horší ano (22.769829) |
  
 ===== Starší poznámky ===== ===== Starší poznámky =====

[ Back to the navigation ] [ Back to the content ]