[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki


[ Back to the navigation ]

Table of Contents

Formát CoNLL

Jednoduchý sloupcový formát použitý pro uložení treebanků pro účely soutěže CoNLL (2006, 2007, 2008, 2009) v závislostním parsingu. Seznam treebanků, které máme v tomto formátu, najdete na stránce Data.

Každý řádek odpovídá jednomu slovu původního textu, věty jsou oddělené prázdným řádkem. Na řádku je předem známý počet hodnot (sloupců), oddělených tabulátory. To jsou hodnoty jednotlivých atributů daného slova. Podrobnější popis formátu najdete např. na http://depparse.uvt.nl/depparse-wiki/DataFormat.

Formát CoNLL 2009

Pozor! Kromě toho, že pro rozšířenou úlohu (označování sémantických rolí) potřebujeme nové sloupce, došlo oproti letům 2006 a 2007 i ke změně ve starých sloupcích! Nový formát je popsán na http://ufal.mff.cuni.cz/conll2009-st/task-description.html#Dataformat. (A podobný projekt pro angličtinu z roku 2008 na http://barcelona.research.yahoo.net/conll2008/.) Následující tabulka porovnává oba formáty. Vlevo jsou sloupce z CoNLL 2006, vpravo z CoNLL 2009.

Field number Field name 2006 Field name 2009
1 ID ID
2 FORM FORM
3 LEMMA LEMMA
4 CPOSTAG PLEMMA
5 POSTAG POS
6 FEATS PPOS
7 HEAD FEAT
8 DEPREL PFEAT
9 PHEAD HEAD
10 PDEPREL PHEAD
11 DEPREL
12 PDEPREL
13 FILLPRED
14 PRED
15+ APREDs

Následující tabulka vysvětluje, co jednotlivá pole znamenají.

Field name Description
ID Token counter, starting at 1 for each new sentence.
FORM Word form or punctuation symbol.
LEMMA Lemma or stem (depending on particular data set) of word form, or an underscore if not available.
CPOSTAG Coarse-grained part-of-speech tag, where tagset depends on the language.
POSTAG, POS Fine-grained part-of-speech tag, where the tagset depends on the language, or identical to the coarse-grained part-of-speech tag if not available.
FEATS, FEAT Unordered set of syntactic and/or morphological features (depending on the particular language), separated by a vertical bar (|), or an underscore if not available.
HEAD Head of the current token, which is either a value of ID or zero ('0'). Note that depending on the original treebank annotation, there may be multiple tokens with an ID of zero.
DEPREL Dependency relation to the HEAD. The set of dependency relations depends on the particular language. Note that depending on the original treebank annotation, the dependency relation may be meaningful or simply 'ROOT'.
PLEMMA, PPOS, PFEAT 2009: automatically predicted values of LEMMA, POS, FEAT
PHEAD 2006: Projective head of current token, which is either a value of ID or zero ('0'), or an underscore if not available. Note that depending on the original treebank annotation, there may be multiple tokens an with ID of zero. The dependency structure resulting from the PHEAD column is guaranteed to be projective (but is not available for all languages), whereas the structures resulting from the HEAD column will be non-projective for some sentences of some languages (but is always available). 2009: PHEAD contains automatically predicted value of HEAD!
PDEPREL 2006: Dependency relation to the PHEAD, or an underscore if not available. The set of dependency relations depends on the particular language. Note that depending on the original treebank annotation, the dependency relation may be meaningful or simply 'ROOT'. 2009: PDEPREL contains automatically predicted value of DEPREL!
FILLPRED Contains Y for lines where PRED is/should be filled.
PRED Rolesets of the semantic predicates in this sentence. This includes both nominal and verbal predicates. The split-form tokens that are not semantic predicates must be marked with “_”. We use the same roleset names as the PropBank and NomBank frames.
APREDs Columns with argument labels for the each semantic predicate following textual order, i.e., the first column corresponds to the first predicate in PRED, the second column to the second predicate, etc. Note that, because this algorithm uniquely identifies the ID of the corresponding predicate, it is sufficient to store the label of the argument here. The argument labels for verbal predicates follow the PropBank conventions. Labels of arguments to nominal predicates use NomBank conventions. The differences between PropBank and NomBank labels are discussed here.

Poznámka Dan: Z toho vysvětlení polí PRED a APREDs nejsem ani trochu moudrý a podezírám organizátory, že se tam možná upsali. Česká data obsahují v poli PRED často totéž co v poli LEMMA, ale občas je tam jakýsi identifikátor (např. “v-w3075f2”), který možná odkazuje do Vallexu. Sloupce APREDs zřejmě neodpovídají “to the first/second/etc. predicate in PRED”, protože v PREDu je vždy nejvýše jeden predikát. Spíše odpovídají prvnímu/druhému/atd. argumentu predikátu v PRED. Pořadí argumentů zřejmě odpovídá povrchovému slovosledu, i když pak nechápu, jak je možné, se před vyplněnými poli mohou objevit nějaká nevyplněná (resp. vyplněná podtržítkem). Hodnotou pole jsou “labels” argumentů, v případě českých dat funktory. Zatím mi není vůbec jasné, proč se to dělá takhle složitě, proč nejsou hodnoty uložené přímo u uzlů (řádků) odpovídajících argumentům.

Neupsali, podívej se na ten jejich příklad. Je to šíleně složité a vede to k tomu, že některé české věty mají přes sto sloupců. Námi navrhovaná reforma formátu ale neprošla. Sloupce opravdu odpovídají jednotlivým predikátům ve sloupci PRED, ale v rámci celé věty.
stepanek 01.3.2009 18:51

Převody z a do jiných formátů


[ Back to the navigation ] [ Back to the content ]