[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki


[ Back to the navigation ]

This is an old revision of the document!


Table of Contents

GAUK na HamleDT

Co je kurzívou, to je obsah velkého textového pole – obvykle je požadavek na min. 50 znaků.
Co není kurzívou, to je moje poznámka.
Nevim, jak moc to má bejt česky a jak moc to může bejt anglicky.

Základní informace o projektu č. 1572314

Tady se akorát možná vymyslí lepší název?
Český název projektu: HamleDT: Kolekce harmonizovaných závislostních treebanků pro mnoho jazyků
Anglický název projektu: HamleDT: Collection of harmonized dependency treebanks for many languages
Aktuální řešitel: Mgr. Rudolf Rosa
První žadatel: Rudolf Rosa
Studium: Matematicko-fyzikální fakulta
Program: Informatika
Obor: Matematická lingvistika
Typ studia: doktorské studium
Rok založení projektu: 2014
Délka řešení projektu: 3
Sekce oborové rady: Společenské vědy - Informatika
Pracoviště ÚFAL MFF UK
Historie stavu:
07. 11. 2013 - nový

Řešitelský kolektiv

Mgr. Rudolf Rosa
Stipendia 60

doc. Ing. Zdeněk Žabokrtský Ph.D.
Osobní náklady (mzdy a odvody) 20

Bc. Jan Mašek
Stipendia 40

Dal jsem si 60, protože na dalších dvou návrhách GAUKů mam 20 a 20 a max pro mě je 100.
Max pro vedoucího je 20, pro spoluřešitele asi taky 100 (ale asi se očekává, že bude mít míň než hlavní řešitel - aspoň u všech GAUKů co jsem viděl to tak bylo).

Charakteristika řešitelského kolektivu - rok 2014:

Tohle od vás potřebuju napsat, nějak jsem to nahodil. Prej by bylo dobrý, aby tu bylo definováno, jakou roli na projektu bude kdo mít… Nevim, jestli tam u sebe mam psát “bude dělat všechno” :-))

Hlavní řešitel, Mgr. Rudolf Rosa, je studentem prvního ročníku doktorského studia Matematické lingvistiky na Ústavu formální a aplikované lingvistiky MFF UK v Praze, v červnu 2013 dokončil navazující magisterské studium tamtéž. Po dobu studia se podílel na několika výzkumných projektech, zaměřených na zlepšování kvality strojového překladu, a je spoluautorem řady článků prezentovaných na mezinárodních konferencích. Téma grantového projektu bude součástí jeho disertace.
Životopis a publikace řešitele se nacházejí v příloze. [GAUK1039756]

Školitel doc. Ing. Zdeněk Žabokrtský Ph. D. je docentem na Ústavu formální a aplikované lingvistiky. Dlouhodobě se zabývá parsingem, závislostní syntaxí, tektogramatickými strukturami, valencí sloves, zdroji lingvistických dat a strojovým překladem. Podílel se na projektu HamleDT 1.0, jehož cílem byla konverze různých závislostních korpusů do společného formátu a jejich částečná harmonizace, a na nějž navazuje tento grantový projekt. Řešitelům poskytne metodické vedení při výzkumných pracech a přípravě prezentací výsledků.
Životopis a publikace školitele se nacházejí v příloze.

Spoluřešitel Bc. Jan Mašek je studentem druhého ročníku magisterského studia Matematické lingvistiky na Ústavu formální a aplikované lingvistiky MFF UK v Praze, v XXX absolvoval bakalářské studium XXX na Filosofické fakultě UK. Od XXX se podílí na projektu sentimentové analýzy. Téma grantového projektu odpovídá tématu jeho diplomové práce. Pro své lingvistické vzdělání bude jeho hlavním úkolem návrh a vyhodnocování testů lingvistické adekvátnosti výstupů, a bude se podílet na návrhu jazykově univerzálního anotačního schématu.
Životopis spoluřešitele se nachází v příloze.

Finanční požadavky

Položky Rok 2014
Ostatní neinvestiční náklady 10
Cestovné 90
Doplňkové náklady (počítá se automaticky)
Osobní náklady (mzdy) a stipendia (počítá se automaticky)
Celkem (počítá se automaticky)

90k na cestování je asi celkem dost – není asi zakázáno o to žádat, ale nevím, jestli jim to nebude připadat přehnaný a nezamítnou kvůli tomu ten projekt. Je to zhruba LREC+ACL. Pokud by to třeba bylo třeba LREC+TLT, tak by to bylo řekněme 80k, nevim jestli je to o tolik lepší…

Struktura finančních prostředků - rok 2014:

Za prostředky na ostatní neinvestiční náklady bude pořízen nezbytně nutný hardware, zejména pevné disky.

Plánované konference a pobyty:
* LREC 2014, Rejkjavík (poplatek 8000 Kč, ubytování a doprava 35000 Kč)
* ACL 2014, Baltimore (poplatek 15000 Kč, ubytování a doprava 30000 Kč)
* TLT 2014 (poplatek 3500 Kč, ubytování a doprava 20000 Kč)
Náklady na pobyty jsou určeny přibližně na základě minulých let.

Částky na stipendia a mzdy jsou navrženy v souladu s požadavky Grantové agentury UK.

Neinvest náklady:
Mam tam harddisky (viz materiální todleto). Požádal jsem Milana o nějakej cenovej odhad, zatim ho nemam.
Kancelářský potřeby se tam prej psát nemaj.
Literaturu nevim jestli nějakou chcem kupovat.
Dal bych tam případné licence na potřebné datové zdroje, pač nevim, jestli si nějaký treebanky třeba nebudem muset koupit, ale to nevim a asi spíš ne, tak bych to tam nepsal.

Finanční výhled na další roky

Rok 2015: 250
Rok 2016: 250

Rozšiřující informace

Anotace (max 200 slov):


Lze předpokládat, že lidské jazyky jsou si navzájem více či méně podobné, a že znalost jednoho jazyka lze využít pro snazší porozumění jinému jazyku. Doklady toho vidíme běžně kolem sebe, když pozorujeme, že lidé jsou schopni s malou nebo žádnou dopomocí porozumět neznámému jazyku, který je podobný jazyku jim známému; a že každý další jazyk se učí snáze, i pokud není blízce příbuzný s žádným jim známým jazykem.

V tomto projektu tuto vlastnost jazyků využijeme v počítačovém zpracování přirozených jazyků, a to pro dva typy úloh odpovídající těmto dvěma pozorováním.
Prvním typem jsou technologie crosslingvální projekce, kdy schopnost zpracovávat jeden jazyk bychom měli být schopni využít pro zpracování jazyka podobného, pro který nemáme dostatečné jazykové zdroje.
Druhým typem je přenositelnost monolingválních technologií, kdy nástroje a postupy vyvinuté pro práci s jedním jazykem by mělo být snadné adaptovat pro práci s jiným jazykem.

V praxi se bohužel často ukazuje, že je obtížné toto uskutečnit, přestože již existují rozsáhlé jazykové zdroje pro mnoho jazyků, neboť tyto zdroje jsou obvykle silně heterogenní, používají různá anotační schémata a jsou vystavěny dle odlišných lingvistických rozhodnutí. Nutným mezikrokem pro uskutečnění hlavních cílů projektu je proto shromáždění a harmonizace existujících jazykových zdrojů; konkrétně se zaměříme na syntakticky anotované korpusy.

Všechny lidské jazyky jsou si více či méně podobné. Víme, že lidé, kteří již znají jeden cizí jazyk, se druhý cizí jazyk učí snáze, i když je typologicky odlišný - během učení se prvního jazyka se tedy naučí i nějaké univerzálnější dovednosti, které poté dovedou využít pro snadnější naučení druhému jazyku. Také víme, že lidé, kteří mluví francouzsky, dokážou alespoň omezeně porozumět italštině - je tedy možné znalost jendoho jazyka použít pro omezené porozumění podobnému jazyku.

Anotace v anglickém jazyce (max 200 slov):

To se přeloží až to bude česky.

Současný stav poznání:


Treebanky se dělaj už dlouho: Penn Treebank, a nevim co ještě jsou starý treebanky, FGD co dalo vzniknout PDT a dalším pražským (PADT, PEDT, PCEDT, TamilTB)…

Obvykle každý treebank (případně malá rodina treebanků, jako např. pražské treebanky) používá jiný anotační styl. Každý styl obvykle vychází z některých jiných, kterým je více či méně podobný, ale v praxi se většina stylů od sebe liší natolik, že pro práci s daty anotovanými jedním stylem není znalost jiného podobného stylu plně postačující.
Rozdíly nejen ve struktuře stromů (předložky, koordinace, složená slovesa) a značkách hran (dependency labels no, jak se to česky…), ale i v tagsetech (značkách pro slovní druhy a další morfologické rysy), a dokonce i v tokenizaci (citace, příklady).

Každé anotační schéma je nějak lingvisticky motivované, nicméně u každého anotačního schématu je třeba vyřešit mnohé otázky, na které je těžké najít jednoznačnou odpověď na základě lingvistické motivace, a jde tedy v důsledku o rozhodnutí spíše technická než lingvistická. Existuje hypotéza, že mnoho rozdílů v anotačních schématech je ve skutečnosti spíše technického rázu, a opravdu dobře lingvisticky motivovaných rozdílů je poměrně málo.
Krom toho se ví (snad?), že některý anotační schémata se parserum líp učej, tak jsou možná lepší, možná lépe zachycují skutečnou strukturu vět daného jazyka. (Ovšem nejlíp se učí left chain nebo right chain, ale asi to neznamená, že jsou nejlepší, to nějak říct vhodně.) Je otázkou, zda totéž platí napříč jazyky, nebo zda pro různé jazyky jsou různé anotační styly výrazně vhodnější.

Heterogenní treebanky představují překážku v mnoha oblastech - např. vyhodnocení neřízeného závislostního rozboru (nebo tomu řikat unsupervised dependency parsing? neřízený závislostní parsing? závislostní analýza bez učitele?) viz David, delexikalizovaný parsing a projekce těch stromů viz Googlové, ale i pro formální lingvisty, kteří chtějí provádět komparativní analýzu jednotlivých jazyků.

Snahy o sjednocení obvykle na několika málo treebancích (viz related work UDT). Jediná větší aktivita v harmonizaci je HamleDT – todo napsat co to je.
Pak je UDT od Googlů, který na to jdou od lesa, a krom toho, že si definujou jednotnej anotační styl, tak nepoužívaj existující treebanky ale anotujou si vlastní. To je ale asi škoda, když už jich tolik je, a je nejspíš levnější je harmonizovat než to anotovat “od nuly” – taky maj ty treebanky poměrně malý.

Tagset: řeší Danovo Interset a dělá to celkem dobře (snad?), my to asi nějak extra měnit nebudem. Taky to řeší univerzální tagy od Googlů, ale dosti nepostačujícím způsobem.

Struktura stromů: dá se dělat lecjaks, ale vlastně těch rozdílů obvykle není moc. Pražský styl, Stanfordský styl (má varianty), když přijeme nějaký základní ideje jako že by to měl bejt strom, tak je to obvykle celkem dobře převoditelný z jednoho stylu na jinej.

Dependency labels: je to hodně divoký, velice rozličná granularita (jednotky až stovky různých hodnot). HamleDT to mapuje na afuny, jejichž definice trochu rozšířil, ale je to trochu pofidérní. Googlové to mapujou na upravené Stanford Labeled Dependencies a maj to asi o něco hežčí, ale je to work in progress a maj tam lecjaký nejasnosti. Je vidět, že tady je potřeba ještě zapracovat, ideálně najít nějakou dobrou sadu labelů který půjdou použít relativně univerzálně – jakoby Interset na deprely, ale když už máme všechno možný v Intersetu, tak to asi nemusí bejt tak expresivní a spíš to může bejt něco jako SD.
Anebo by se třeba měl Interset rozšířit o syntaktický rysy a pokrývat jak tagy, tak deprely? Stejně je hranice mezi tagem a deprel dost fuzzy.

HamleDT má mnoho problémů - chyby v konverzích, ztrátovost, nedostatečná harmonizace (koordinace ano, ale co třeba slovesné skupiny?), podivná sada labelů… Asi je to dobrá cesta, ale chtělo by to dotáhnout.

Potenciál pro budoucí výzkum (až tohle bude): ty collapsed SD, to by taky asi šlo pak dělat něco takovýho jakože jazykově nezávisle a mít najednou automatickou analýzu z a-roviny na t-rovinu pro libovolnej jazyk.

Přínos projektu k rozvoji fakulty / VŠ:

(Popis návaznosti projektu na další řešené projekty tuzemské i zahraniční.)
Tohle by pravděpodobně mělo být celkem konkrétní, tj. o poznání konkrétnější než je to teď. A asi by se tu nemělo mluvit moc o tom, na co to bude lidem mimo ÚFAL, na to jsou asi Cíle řešení projektu.


Tento projekt navazuje na dlouhou a úspěšnou tradici treebankingu na Ústavu formální a aplikované lingvistiky a umožňuje mu zůstat na světové špičce v této oblasti. Zároveň ještě více zpřístupní treebanky vytvořené na ÚFALu (PDT, PEDT, PADT, TamilTB) dalším výzkumníkům.

Hlavním výstupem projektu bude kolekce mnoha treebanků hamonizovaných do jednotného anotačního stylu, což bude představovat významný a cenný datový zdroj pro výzkumníky z mnoha oblastí počítačové i formální lingvistiky.

Parsing. Využijou to lidi, který už dělaj unsupervised parsing (David, Valentýn Spitkovský), delexicalized parsing and projection of dependency structures (Loganathan, Googlové), syntax-based machine translation (TectoMT, a určitě ještě někdo) a tak.

Srovnávací lingvistika, porovnávající vlastnosti různých jazyků – usnadnění převedením treebanků do jednotného formátu a anotačního schámatu, včetně existence řady nástrojů vyvíjených na ÚFALu, které je možné použít pro práci s vytvořenými daty.

Kromě vytvoření datového zdroje věříme, že se nám podaří posunout i hranice poznání v oblasti treebankingu, zejména umožněním lepšího nadhledu, a že na naší práci budou moci stavět další výzkumníci v této oblasti na ÚFALu i v zahraničí.

Materiální zajištění projektu:

Tento projekt bude vyžadovat především hardware a software umožňující efektivní zpracovávání, ukládání a verzování velkého množství dat. Ústav formální a aplikované lingvistiky již tímto vybavením disponuje, s výjimkou dostatečné diskové kapacity. Prostředky grantu budou proto použity na nákup pevných disků potřebné kapacity.

Cíle řešení projektu:

(Předpokládaný výsledek a jeho využití, význam projektu pro praxi a společnost.)


1. Vytvoření univerzálního anotačního schématu, použitelného pro reprezentaci treebanků mnoha různých jazyků.
2. Vytvoření velké kolekce existujících treebanků automaticky zkonvertovaných a harmonizovaných do tohoto univerzálního schématu.
3. Prohloubení poznání o míře odlišnosti jazyků a aplikovatelnosti jednotných přístupů na typologicky odlišné jazyky, doloženo experimenty na vytvořené datové sadě.

Výstupy projektu budou mít rozsáhlé využití v mnoha oblastech lingvistiky pro české i zahraniční výzkumníky. Vytvořenou kolekci bude možné využít v mnoha typech parsingu. Klasický parsing využije jednotnost schématu a formátu, takže bude snadné parser bez zásadních úprav natrénovat pro libovolný z jazyků obsažených v kolekci. Kolekce bude snadno využitelná pro všechny oblasti vícejazyčného parsingu, jako je crosslinguální parsing. Díky sjednoceným značkám slovních druhů a morfologických rysů bude také dobře využitelná pro delexikalizovaný parsing. Měla by také být díky jednotnosti schématu vhodnější pro evaluaci neřízeného parsingu.
Kolekce bude také cenná pro srovnávací výzkum jazyků, neboť umožní postihnout skutečné rozdíly mezi jazyky odstíněním rozdílů daných pouze různými anotačními styly různých datových zdrojů. Navíc umožní zkoumat různé jazyky bez nutnosti seznamovat se pro každý jazyk s anotačním schématem jeho treebanku, zájemci bude postačovat seznámit se pouze s jedním anotačním stylem.
Na teoretičtější rovině pak výstupy projektu přinesou zřetelné argumenty pro rozličná tvrzení o vzájemné podobnosti či odlišnosti jednotlivých jazyků a o míře existence či neexistence takzvaných jazykových univerzálií.

Původní text:
Vytvoření datového zdroje HamleDT 2.5, prozkoumání jazykové specifičnosti a univerzálnosti různých vlastností jazyků a jazykových jevů.
Taky budeme experimentálně ověřovat přenositelnost technologií a znalostí mezi jazyky, což lze provést například experimenty s delexikalizovaným parsingem nebo joint parsingem.

Způsob řešení:


Práce na projektu bude probíhat na platformě Treex, nad níž je vystavěn projekt HamleDT 1.0, a která poskytuje mnoho nástrojů pro zpracování jazyka.

Základem práce na projektu bude navržení a vytvoření sady automatických a semiautomatických testů konzistence a adekvátnosti zkonvertovaných treebanků. K tomu bude využito jak pravidlových metod, které umožní odhalit výstupy konverzí v přímém rozporu s anotačním schématem, tak metod statistických a metod strojového učení. Ty umožní podchytit jevy nezachytitelné pravidly, jako jsou nepravidelnosti v rozložení jednotlivých značek přiřazených hranám (na základě různých kritérií, zejména slovních druhů slov spojených danou hranou), rozložení počtů potomků jednotlivých rodičovských uzlů, a podobně.
Vytvořené testy budou použity na existující sbírku treebanků HamleDT 1.0, která se stane východiskem pro práci na tomto projektu.

S tím je přímo svázán další krok, kterým je vylepšení a obohacení existujících konverzí, tak aby se minimalizovaly chyby a nepravidelnosti ve výstupech konverzí. Bude zejména nutné nalézt a opravit chyby a nepřesnosti v konverzích dat ze zdrojových treebanků, tak aby bylo zachováno co nejvíce původních informací jak na úrovni zachycení slovních druhů a morfologických rysů, tak na úrovni struktury závislostních stromů a značek jednotlivých hran. Bude nutné harmonizovat závislostní struktury odpovídající spojkovým skupinám, předložkovým skupinám, složeným slovesům, a podobně.
Je možné, že v některých případech se ukáže jako výhodnější použít jinou verzi zdrojového treebanku – HamleDT 1.0 jako zdroj obvykle používá data ze sad CoNLL, která často již prošla nějakou automatickou konverzí, během které se mohly mnohé informace ztratit. V některých případech byla použita ne zcela kvalitní závislostní konverze původně složkového treebanku, v takových případech může být vhodné implementovat konverzi přímo z původního složkového treebanku.

Jedním z výstupů výše uvedených úprav bude i úprava stávajícího anotačního schématu, tak aby umožňoval vhodným způsobem zachytit všechny informace, které jsou obsaženy v podstatné části treebanků, ale anotační schéma PDT je zachycuje nedostatečně nebo vůbec, neboť se v českém jazyce běžně nevyskytují - půjde pravděpodobně zejména o negativní částice a členy. Bude zváženo, zda místo úpravy existující sady analytických funkcí nezvolit přechod na jinou sadu značek závislostních vztahů, inspirovanou například Stanford Dependencies.
Na to budou navázány metody pro export sady harmonizovaných treebanků do některých dalších formátů a anotačních schémat (CoNLL, Stanford Dependencies, Google Universal Dependency Treebanks), tak aby byly co nejpřístupnější pro koncové uživatele.

Dalším z podúkolů projektu bude zmapování dalších existujících treebanků, které nejsou součástí sbírky HamleDT 1.0, a jejich zapojení do projektu. V kolekci dosud chybí některé velké treebanky, jako například treebanky čínštiny, francouzštiny či jeden z německých treebanků. Dále budou přidány i některé menší existující treebanky, například pro polštinu a hebrejštinu.

Vrcholem projektu pak bude jeho závěrečná část, jejímž cílem bude experimentálně ověřit využitelnost datových zdrojů vytvořených v první části projektu. To může být provedeno například využitím kolekce pro vyhodnocování úspěšnosti neřízené závislostní analýzy vět, pro delexikalizovaný parsing, pro paralelní parsing, a podobně. Zároveň bude provedeno vyhodnocení různých anotačních schémat z pohledu vhodnosti pro trénování parserů.

Prezentace výsledků:

Výsledky budou průběžně prezentovány na seminářích Ústavu formální a aplikované lingvistiky a na WDS.
Budeme také publikovat příspěvky na mezinárodních konferencích – plánujeme účast na
konferencích LREC, ACL, a/nebo TLT.
Plus se budem snažit o časopisy.
A taky budem publikovat software, kterej z toho vznikne, s otevřenejma licencema.
U všech publikací, včetně disertační práce, bude uvedeno, že byly finančně podporovány
Grantovou agenturou Univerzity Karlovy.

Přílohy

Moje CV a publikace (http://cv.nikde.eu/rosa_rudolf_cv_cs.php),
CV, publikace, HM CV.


[ Back to the navigation ] [ Back to the content ]