Differences
This shows you the differences between two versions of the page.
| Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
|
user:zeman:treebanks [2011/11/02 22:14] zeman Sample CoNLL 2006. |
user:zeman:treebanks [2014/05/26 18:00] zeman Přidány odkazy do ACL Wiki. Inzerce hotova, uff. |
||
|---|---|---|---|
| Line 1: | Line 1: | ||
| - | ====== | + | ====== |
| - | ===== Arabic (ar) ===== | + | 22.4.2014: DZ: Prošel jsem všech 30 jazyků a dal jsem jejich pražskou normalizaci alespoň částečně do pořádku. Částečně znamená, že jsem vynuloval testy na AfunNotNR, FinalPunctuation a vše kolem nekonzistentních koordinací. Samozřejmě by to chtělo dál pracovat na Auxech, interpunkci a zbytečných neprojektivitách, |
| - | Prague Arabic Dependency Treebank (PADT) | + | **Verze 2.0 by měla být hotová a zakonzervovaná nejpozději v pátek 23.5.2014!** V pondělí 26. začíná LREC na Islandu, kde bude Ruda tuto verzi prezentovat. |
| - | ==== Versions ==== | + | * < |
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * Vygenerovat HamleDT 2.0 free do ''/ | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * Asi už zrušit webový přístup k této složce. Kvůli verzi 1.0 to šlo, ale teď by měli všichni chodit přes Lindat. | ||
| + | * < | ||
| + | * Aktualizovat [[http:// | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| + | * < | ||
| - | * Original PADT 1.0 as distributed by the LDC | + | Odloženo na dobu po vydání HamleDTa 2.0: |
| - | * CoNLL 2006 | + | |
| - | * CoNLL 2007 | + | |
| - | The CoNLL 2007 version reportedly improves over CoNLL 2006 in quality of morphological annotation. Both CoNLL versions miss important parts of the original PADT annotation | + | * Po LRECu 2014 doplnit referenci na nový článek a na webu z něj udělat ten hlavní "how to cite". |
| + | * K odkazům na články dodat také odkazy na PDF a BibTeX. | ||
| + | * Hodila by se i podrobnější dokumentace obsahu treebanků a harmonizačního procesu. Pokud to nestihneme, tak alespoň tabulka afunů s vysvětlivky (v podstatě už ji máme v islandském článku) | ||
| + | * Dan musí dodělat v Bibliu značkování publikací, aby bylo možné na stránky HamleDTa vygenerovat seznam všech publikací, které se HamleDTa týkají | ||
| + | * Vymyslet lepší hierarchii složek na disku? | ||
| + | * Rozšířit systém testů, aby pokrýval i stanfordskou mutaci HamleDTa. | ||
| + | * Zlepšit podporu práci s CoNLL patchi. Dodat skript, který to slepí s původními daty a případně nějak pomůže u treebanků, u kterých není jasné, jak se jmenují a jak jsou uspořádané soubory, ve kterých uživatel dostal originální verzi. | ||
| + | * Dotáhnout parsing HamleDTa 2.0 a popsat jeho výsledky na webu. | ||
| + | * Vymyslet způsob, jak by se obsah webu zrcadlil v SVN, kde máme treexový kód pro HamleDTa | ||
| + | * Do jazyků s cizími písmy doplnit transliteraci. | ||
| + | * Pro některou z příštích verzí zvažujeme přidat automatický a zarovnaný překlad od Googlu, tak bychom transliteraci mohli odložit na stejný okamžik. | ||
| + | * Přidat HamleDT do (aktualizovat v) PML-TQ. Dořešit přístup pro nepřihlášené vs. přihlášené uživatele. Odkázat na to ze stránek HamleDTa. | ||
| + | * Zavést verzování dat, dotáhnout pravidelné automatické regresní testování (cron-diff, Dan má zatím první nástřel) | ||
| + | * Zařídit posílání e-mailů a automatické mazání výstupů, ve kterých nebyl zjištěn žádný rozdíl. Jinak se rychle zaplní disk, každou noc tam přibude několik gigabajtů. | ||
| + | * Vytvořit webovou službu (např. scénář v rámci Treex:: | ||
| + | * Nahradit arabská data novými (Zdeněk je slíbil do začátku května) | ||
| + | * Aktualizace 19. května: Zdeněk to nestihne. Znamená to, že v 99 % vět je alespoň jeden uzel, který nemá vyplněné lemma nebo značku nebo obojí. Nemám spočítané přímo procento všech uzlů, ale bude taky velmi vysoké. Rozhodně to není tak, že by v každé větě byl jen jeden uzel vadný. | ||
| + | * Bohužel teď nemáme moc možností, co s tím. Stará data z CoNLL 2007 byla mizerná, protože tam chyběly hodnoty is_member. K nim se vracet nechci. S novými daty nedokážu ve zbývajícím čase nic pořádného udělat, to bude urgentní TODO po vydání HamleDTa 2.0. Vynechat arabštinu taky nechci, je to jeden z těch volných jazyků a v článku jsme ho slíbili. Takže to prostě vydáme v tom stavu, ve kterém to je, nedá se nic dělat. | ||
| + | * Konečné rozhodnutí pro HamleDT 2.0: vrátil jsem se k PADT r349, z ní jsem do HamleDTa zařadil jen ty věty, ve kterých všechny uzly měly vyplněný afun. Pro další verze HamleDTa musíme nejdříve dotáhnout do přijatelného stavu samotné PADT. | ||
| - | ==== Obtaining and License | + | ====== |
| - | + | ||
| - | The original PADT 1.0 is distributed by the LDC under the catalogue number [[http:// | + | |
| - | + | ||
| - | * non-commercial research usage | + | |
| - | * no redistribution | + | |
| - | * cite [[http:// | + | |
| - | + | ||
| - | The CoNLL 2006 and 2007 versions are obtainable upon request under similar license terms. Their publication in the LDC together with the other CoNLL treebanks is being prepared. | + | |
| - | + | ||
| - | PADT was created by members of the [[http:// | + | |
| - | + | ||
| - | ==== Domain ==== | + | |
| - | + | ||
| - | Newswire text from press agencies (Agence France Presse, Ummah, Al Hayat, An Nahar, Xinhua 2001-2003). | + | |
| - | + | ||
| - | ==== Size ==== | + | |
| - | + | ||
| - | According to their website, the original PADT 1.0 contains 113,500 tokens annotated analytically. The CoNLL 2006 version contains 59752 tokens in 1606 sentences, yielding 37.21 tokens per sentence on average (CoNLL 2006 data split: 54379 tokens / 1460 sentences training, 5373 tokens / 146 sentences test). The CoNLL 2007 version contains 116,793 tokens in 3043 sentences, yielding 38.38 tokens per sentence on average (CoNLL 2007 data split: 111,669 tokens / 2912 sentences training, 5124 tokens / 131 sentences test). | + | |
| - | + | ||
| - | ==== References | + | |
| - | + | ||
| - | * Website | + | |
| - | * http:// | + | |
| - | * Data | + | |
| - | * Jan Hajič, Otakar Smrž, Petr Zemánek, Petr Pajas, Jan Šnaidauf, Emanuel Beška, Jakub Kráčmar, Kamila Hassanová: //Prague Arabic Dependency Treebank 1.0// (LDC2004T23). Linguistic Data Consortium, Philadelphia, | + | |
| - | * Principal publications | + | |
| - | * Jan Hajič, Otakar Smrž, Petr Zemánek, Jan Šnaidauf, Emanuel Beška: [[http:// | + | |
| - | ==== Inside ==== | + | http:// |
| - | The original PADT 1.0 is distributed in the [[:format-fs|FS format]]. The CoNLL versions are distributed in the [[:format-conll|CoNLL-X format]]. The original PADT contains more information than the CoNLL version. There is morphological annotation | + | * [[user:zeman: |
| + | * [[user:zeman: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| + | * [[user: | ||
| - | ==== Sample | + | ===== To Process ===== |
| - | The first two sentences of the CoNLL 2006 training | + | Ahoj, |
| + | stáhl jsem nový španělský závislostní korpus IULA (větší než AnCora) | ||
| + | / | ||
| - | | 1 | غِيابُ_giyAbu | غِياب_giyAb | N N case=1< | + | License: |
| - | | 2 | فُؤاد_fu& | + | Web: http://www.iula.upf.edu/ |
| - | | 3 | كَنْعان_kanoEAn | كَنْعان_kanoEAn | Z Z _ | 1 Atr _ _ | | + | Doc: http://www.iula.upf.edu/recurs01_conll_uk.htm |
| - | | | | | | | | + | Download: http://repositori.upf.edu/handle/10230/20048 |
| - | | 1 | فُؤاد_fu& | + | Parsing: |
| - | | 2 | كَنْعان_kanoEAn | كَنْعان_kanoEAn | Z Z _ | 9 Sb _ _ | | + | state-of-the-art LAS score is 94.7 using Mate-C |
| - | | 3 | ،_, | ،_, | G G _ | 2 AuxG _ _ | | + | sentences |
| - | | 4 | رائِد_rA}id | رائِد_rA}id | N N _ | 2 Atr _ _ | | + | tokens |
| - | | 5 | القِصَّة_AlqiS~ap | قِصَّة_qiS~ap | N N gen=F< | + | |
| - | | 6 | القَصِيرَةِ_AlqaSiyrapi | قَصِير_qaSiyr | A A gen=F< | + | |
| - | | 7 | فِي_fiy | فِي_fiy | P P _ | 4 AuxP _ _ | | + | |
| - | | 8 | لُبْنانِ_lubonAni | لُبْنان_lubonAn | Z Z case=2< | + | |
| - | | 9 | رَحَلَ_raHala | رَحَل-َ_raHal-a | V VP pers=3< | + | |
| - | | 10 | مَساءَ_masA' | + | |
| - | | 11 | أَمْسِ_> | + | |
| - | | 12 | عَن_Ean | عَن_Ean | P P _ | 9 AuxP _ _ | | + | |
| - | | 13 | 81_81 | 81_81 | Q Q _ | 12 Adv _ _ | | + | |
| - | | 14 | عاماً_EAmAF | عام_EAm | N N gen=M< | + | |
| - | | 15 | ._. | ._. | G G _ | 0 AuxK _ _ | | + | |
| - | ==== TO DO ==== | + | The sentences have been choosed from the IULA LSP corpus, automatically annotated with POS information and manually annotated with syntactical information using the DELPH-IN environment. The resulting syntactic analysis is automatically converted to dependencies and delivered using the CONLL format. |
| - | * Documentation of m-tags, s-tags etc., tokenization issues, vocalization, | + | Martin |
| - | * Sample sentence, statistics of nonprojectivity etc. | + | |
| - | * Known published parsing accuracies, especially CoNLL 2006 and 2007 | + | |