This is an old revision of the document!
Table of Contents
Plan 2011
Rekapitulace 2010
- na portalu prezentovany tri hry: Shannon Game (pro dva hrace), Place the Space (pro jednoho hrace), PlayCoref (pro jednoho a pro dva hrace)
- vsechny tri hratelne v anglictine s vetami a s odstavci z Sherlocka Holmese
- pro kazdou hru existuje demo cesky i anglicky a how to play pruvodce anglicky, pro Shannona i cesky
- prvni predstaveni portalu sirsi odborne verejnosti Play the Language Competition, december 2010
Tym
- Barbora Hladka (koordinace)
- Jiri Mirovsky (data)
- Jan Kohout (implementace her)
- Vladimir Rovensky (sprava LGame)
Schuzky 2011
- 31. ledna, 11:30, chodba k S1
Portal LGame
- Ukoly pro Honzu
http://lgame.ms.mff.cuni.cz/lgame
Presun LGame na novy server. Realizace s Milanem Fucikem. (Do konce ledna)- JK: Myslim, ze nam staci Apache server + PHP + PostgreSQL, pro zacatek asi nejlip ve stejne verzi, jako jsou na soucasnem serveru, aby nenastaly nahodou problemy s kompatibilitou.
- Kliknuti na vlajecku znamena, ze se zobrazi lokalizace odpovidajiciho jazyka (nebo jineho, predem stanoveneho, napr. thajstina –> anglictina). Zaroven to znamena, zase az na vyjimky, ze s texty prislusneho jazyka chce hrac hrat. Proto doplnit vlajecky k demum. (Do 4. unora))
- JK: Pridavani novych jazykovych verzi her je uz ted docela dobre navrzene, co se Flashe tyce, tak to nepotrebuje menit program, staci, kdyz se prida dalsi xml s prekladem jednotlivych popisku GUI. V PHP by to take nemelo vyzadovat vetsi zasahy (co se API jednotlivych her tyce).
- Na vhodnych forech hledat designera. (Vyvesit inzerat do konce ledna)
- Zvetsit velikost hracich oken ve spolupraci s Vladimirem. (Do 25. ledna)
- Programatorska dokumentace. (Do konce unora)
- Export dat ze souteze PlayCoref –> preslat Jirkovi. (Do konce ledna)
- Uzivatelske zprijemneni. System by si mel pamatovat, s jaky nastavenim portalu hrac skoncil. Pri naslednem prihlaseni se objevi prave toto nastaveni. (tj. jakou hru, jaky jazyk ma uzivatel rad:-))
- Data. Pokud nemame “spolehliva” data, brat vystupy z predchozich partii. Prvni hrac je na tom nejhur, pro nej se pouzije automaticka procedura - zohlednit pri pocitani skore. Spolehlivost anotace. Vyzkouset u PlayCoref.
- U kazde verze pro dva hrace, dat v okne, kdy ceka hrac ceka na protihrace, moznost, aby mohl okamzite zacit hrat single verzi.
- Shannon Game
- Pro jednoho hrace.
- Ze stareho svn repozitare vytahnout zdrojak Shannona.
- Place the Space
- Implementovat verzi pro dva hrace.
- Podrobnosti na strance Place the space.
- Ukoly pro Jirku
- Najit Conana Doyla v cestine. (JM: Studie v šarlatové nalezeny dvě; první v překladu z roku 1907 (bezpochyby “free”, ale jazykově spíš nepoužitelná), druhá novější na serveru http://ld.johanesville.net/doyle-06-studie-v-sarlatove?page=1, ale nic tam nepíšou o roku překladu a o autorských právech; o autorském právu ale píšu níže v samostatné sekci)
- Thajske texty pro PtS. (ani cinstina, ani hindi nejsou vhodnymi kandidaty - bud se tam mezery pisou nebo je to jeste jinak komplikovany). Korpus s mezerama. (Do 15. unora - navrhuji vzhledem k deadlinu na IJCNLP 20. kvetna)
- exportovana data z prosincove souteze nachystat tak, abychom je mohli analyzovat (Do konce unora)
- “podstrcit” ceskeho Doyla anotatorum (Na zacatku brezna)
- vypsat projekty (Do konce unora)
- Ukoly pro Baru
- sjednotit anglickou a ceskou lokalizaci LGame (Do konce ledna)
- promluvit s Nathanem Greenem - on ma rovnez nejake hry, snad i pro Named Entity. (Do konce ledna)
- nachystat osnovu clanku do PBMl (Do konce brezna, deadline mame na konci kvetna); viz svn
\playlang_UFAL\doc\papers\2011_PBML_96
- sepsat pozadavky na funkcnost LGame a dle nich formulovat pozadavky na vizualizaci - oslovit Michala Sotkovskeho (Do 15. unora)
- na hlavni stranku dat informaci o textech, se kterymi se hraje (Do 15. unora)
- vypsat rocnikove projekty (Do konce unora)
- implementace Place the Space pro iPhone a Android
- nova hra: koherence textu: na urovni vety: prehazet poradi slov ve vete, uzivatel rekonstruuje puvodni poradek slov ve vete - implementovat pro iPhone, Android.
- Ukoly pro Vladimira
- zmenit proporce na strankach LGame tak, aby uzivatel nemusel scrollovat, aby videl napriklad odkayz pod hlavnim oknem (Do konce ledna)
—
- Pro kazdou hru mit automatickou proceduru, ktera se nasadi jako (virtualni) protihrac.
- Nove hry
- Pojmenovane entity - viz PlayNE.
- Koherence vety/odstavce. Na vstupu prehazena slova vety, hrac je usporada dle jeho citu “spravne”. Na urovni odstavcu by se zamichalo s poradim vet.
- …
- Vypsat rocnikove projekty, bakalarky, diplomky! VOlnost v technologiich, ale pozor na PLUGINS!!!
Autorské právo
Originální anglické verze děl sira Arthura Conana Doyla je možno používat volně.
U modernějších českých překladů se musíme řídit zákonem o autorském právu.
Našel jsem Zákon č. 398/2006 Sb. - úplné znění zákona č. 121 /2000 Sb.; výňatek z tohoto zákona, který se nás týká:
§31 - Citace
(1) Do práva autorského nezasahuje ten, kdo
a) užije v odůvodněné míře výňatky ze zveřejněných děl jiných autorů ve svém díle,
b) užije výňatky z díla nebo drobná celá díla pro účely kritiky nebo recenze vztahující se k takovému dílu, vědecké či odborné tvorby a takové užití bude v souladu s poctivými zvyklostmi a v rozsahu vyžadovaném konkrétním účelem,
c) užije dílo při vyučování pro ilustrační účel nebo při vědeckém výzkumu, jejichž účelem není dosažení přímého nebo nepřímého hospodářského nebo obchodního prospěchu, a nepřesáhne rozsah odpovídající sledovanému účelu;
vždy je však nutno uvést, je-li to možné, jméno autora, nejde-li o dílo anonymní, nebo jméno osoby, pod jejímž jménem se dílo uvádí na veřejnost, a dále název díla a pramen.
(2) Do práva autorského nezasahuje ani ten, kdo výňatky z díla nebo drobná celá díla citovaná podle odstavce 1 písm. a) nebo b) dále užije; ustanovení odstavce 1 části věty za středníkem platí obdobně.
Závěr JM: Pro naše účely můžeme i novější český překlad použít; měli bychom ale pod nějaký odkaz dát jméno autora překladu a odkaz, odkud jsme to stáhli.
Prezentace, demonstrace, publikace
- GACR 2012 (po trech neuspesnych pokusech frustrace, ale … )
- PBML 96, rozsah: 20 stranek, deadline: May 30, 2011.
- IJCNLP, Chiang Mai, Thailand, Nov 8-13, System Demo, deadline: May 20, 2011.
- …
Finance
- OON
- Jan Kohout, student, 24 tis.
- Vladimir Rovensky, student, 5 tis.
- Sluzby
- Design her, 20 tis.
- Naklady na prezentaci, 20 tis.
- LGame hosting, cca 2 tis. (nevim presne)
Motivation
Games with a purpose (GWAP)
- images, tunes, “nějaká” data z ESP Game a z Peekaboom jsou ke stažení (zalistuj trochu níž)
- ontologies (semantic web)
- Carolina Parada with Fred Jelinek
- text (náš LGame)
- Phrase Detectives anaphora resolution
- JM Docela pekny. Vzdycky se ptaji na jednu konkretni vec, to se podoba mymu puvodnimu navrhu. Chvilku jsem to zkousel, nevim ale, jak dlouho by me to bavilo, moc asi ne. Graficky je to nezajimavy (hra se odehrava jen v kousku obrazovky na obycejnem textu), tam je prostor ke zlepseni hratelnosti.
- BH
- Napad s detektivem se mi libi.
- Graficky je uvodni strana celkem pekna, ale na muj vkus je tam prilis mnoho informaci. Musim toho pomerne dost precist, abych mohla zacit hrat.
- Postradam dynamiku.
- Vzdy se ma najit “closest” - nevim, co se stane, kdyz nevyberu nejblizsi.
Related initiatives
- Amazon Mechanical Turk is an online labor market where workers are paid small amount of money to complete small tasks.
- ANAWIKI - pod timto projektem vznika Phrase Detectives - viz vyse
- Flash hry - jak pekne muze vypadat design hry
Papers/Videos to read/watch
- (Snow et al., 2008) Cheap and Fast - But is it Good? ... , Proceedings of the Conference on Empirical Methods in Natural Language Processing, Waikiki, Honolulu, Hawaii, 2008, pp. TBA.
affect recognition, word similarity, recognizing textual entailment, event temporal ordering, word sense disambiguation
; see discussion at Dolores' blog- Bara's summary:
- the units under the consideration: headlines (i.e. a single sentence), word-pairs, two sentences, paragraphs (I do not know what is the average length of them (sentences/words)?) So the documents are still real challenge:-))
- a term “crowdsourcing”
- their annotation tasks deal with labels of a broad scale. That is why they present a numerical (probabilistic) method to correct the non-expert annotations - I have to go through it!
- when comparing non-expert and expert annotations, one has to say who are the experts!!!! - I miss it in the paper.
Our ideas
Date: Fri, 10 Oct 2008 09:42:43 +0200, updated on Tue, 7 Apr 2009
From: Jiří Mírovský
napadly me dve dalsi jazykove hry, ale bohuzel nejsou lingvisticky uzitecne
(nenapada me, jak ta data vyuzit) - jen by mohly byt zabavne pro hrace a
naladit je na jine, mene zabavne lingvisticke hry.
Plus jedna, ktera by uzitecna byt mohla.
- Hraci dostanou vetu bez mezer mezi slovy a jejich ukolem je nadelat tam mezery, tedy provest tokenizaci. Jediny mozny uplatneni vidim na jazycich jako je thajstina, kde se mezery mezi slovy opravdu nepisou a na konferencich se prednasi o tom, jak to automaticky delat. viz Place the space
- Hraci dostanou vetu s prehazenejma slovama (kazdy jinak, nahodne). Jejich cilem je sestavit puvodni vetu. Hraji, dokud se neshodnou, vyhrava ten, kdo to mel driv. Tady uz vubec nevidim zadne vyuziti vlastnich dat, ale mohlo by to fungovat jako reklama na lingvisticke hry, protoze bych rekl, ze tohle hrace bude bavit. Aby to bylo spravedlive, algoritmus na nahodne prehazeni slov by musel byt chytry, aby to prehazel pro oba hrace ruzne, ale stejne obtizne.
- Speech reconstruction (nebo jak se tomu odborne rika) - hraci dostanou vetu z rozpoznavace reci a jejich ukolem je udelat z toho standardni ceskou vetu - bez koktani, opakovani apod.
- Koherence textu - hráči dostanou text s přeházenými větami - dostanou množinu vět. Cílem je sestavit původní text - seřadit věty. Lucie tvrdí, že to jde vždy, když je text dobře napsaný. Měla na to diplomku. Já tvrdím, že jsou případy, kdy to nejde rozhodnout. Ale hra by z toho mohla být pěkná.
- Projit si hry, ktere vydavaji velka vydavatelstvi (Hasbro, …) a hledat motivaci.
The PlayLang Project
Directory structure
Projekt využívá SVN repozitář, návod k použití zde:
https://svn.ms.mff.cuni.cz/projects/PlayLang
Samotná textová data nejsou ovšem součástí repozitáře (k pracovní kopii se jen přilinkují, viz návod v odkazu výše), k nalezení jsou zde:
/net/projects/playlang_shared
Data Format (and Tred Support) for the Project Play the Language
Date: Wed, 24 Dec 2008
Updates: 6 Jan 2009, 27 Mar 2009, 21 Jan 2011
From: Jiří Mírovský
Formát souborů pro playlang (minimálně playcoref): rozšíření m-roviny z PDT 2.0
Důvody:
- automatická lemmatizace a morfologická disambiguace textů je uspokojivě zvládnutý problém, pro nás téměř zadarmo
- rozdělení textu na věty je až na morfologické rovině
- automatické procedury pro předzpracování textů (např. detekce kandidátů pro koreferenci) budou lemmatizaci a morfologii nejspíš potřebovat
- morfologická rovina jde dobře zobrazit v Tredu
Alternativně používáme také rozšíření a-roviny z PDT 2.0.
Data pro projekt playlang jsou v adresáři: {ROOT}/playcoref/data/shared
Schémata rozšířené m-roviny a rozšířené a-roviny:
PML schémata jsou zde: {ROOT}/playcoref/tred_extension/package/playlang/resources
- obě schémata (a- i m-) obsahují rozšíření o atribut
coref
- seznam struktur pro anotaci koreference; o strukturu jde proto, aby šly snadno přidat další atributy (podobně jako v projektu anotování rozšířené textové koreference); obsahuje atributy:target-node.rf
- id antecedentatype
- určuje, o jakou koreferenci jde: textual, grammatical nebo chained (chained znamená: na povrchové rovině je to jeden link, na tekto rovině je to více linků vedoucích přes uzel, který nemá povrchové vyjádření)lock
- pro účely hry PlayCoref zamyká či odemyká jednotlivé šipky (hodnoty: locked/unlocked)
- dalším rozšířením obou schémat je možnost vkládat informaci o pojmenovaných entitách, a to ve struktuře
named_entity
s těmito atributy:last_member.rf
- id uzlu, kde pojmenovaná entita končí (začíná na aktuálním uzlu)head_member.rf
- id uzlu, který je hlavou pojmenované entity
Převod dat PDT 2.0 (rozšíření bridging) do formátu playlang:
V adresáři {ROOT}/playcoref/scripts
jsou skripty pro převod textové a gramatické koreference z rozšířené tektogramatické roviny projektu bridging do rozšířené m-roviny nebo do rozšířené a-roviny:
Nejprve se změní schéma souboru (m- nebo a-):
_change_mschema_to_playlang.sh
- změní schéma m-souborů na mdata_schema_playlang.xml_change_aschema_to_playlang.sh
- změní schéma a-souborů na adata_schema_playlang.xml (m-soubor je pak klasický z PDT 2.0)
Pak se z rozšířené t-roviny získá seznam koreferenčních dvojic promítnutých na uzly a-roviny nebo m-roviny:
coreference_extract_surface_joint.ntred
- prochází textovou a gramatickou koreferenci na t-rovině z projektu anotování rozšířené textové koreference a vypíše seznam koreferenčních dvojic - identifikátorů příslušných koreferenčních lemmat na m-rovině; pokud antecedent nemá povrchové vyjádření, hledá se nejbližší antecedent v řetězci, který povrchové vyjádření mácoreference_extract_surface_a_joint.ntred
- totéž, ale pro a-rovinu, tj. vypisují se identifikátory a-uzlů odpovídajících koreferenčním dvojicím z t-roviny
Nakonec se koreferenční dvojice z daného seznamu vloží do rozšířeného m-souboru nebo a-souboru:
coreference_add_m.ntred
- ze seznamu bere dvojice identifikátorů koreferenčních lemmat na m-rovině a tyto koreference vkládá do rozšířené m-rovinycoreference_add_a.ntred
- ze seznamu bere dvojice identifikátorů koreferenčních lemmat na a-rovině a tyto koreference vkládá do rozšířené a-roviny
Některé koreferenční vztahy je možno zamknout:
coreference_lock.ntred
- koreferenční šipky opatří správnými hodnotami atributu lock
Pojmenované entity
Nejprve je potřeba získat seznam pojmenovaných entit:
- To se provádí v TectoMT (kde se ostatně pojmenované entity v souborech automaticky označí). Skript pro vytvoření seznamu pojmenovaných entit se jmenuje
ne_atrees_to_txt.pl
a nachází se v TectoMT repozitáři v adresářipersonal/mirovsky/coreference
.
Pojmenované entity z vytvořeného seznamu se vloží do rozšířeného a-souboru (zatím nebyl potřeba skript i pro m-soubor):
named_entities_add_a.ntred
- ze seznamu bere id uzlů a informaci o pojmenovaných entitách vkládá do rozšířené a- nebo m-roviny
Vkládání dat do herní databáze
Pro vkládání dat do herní databáze používáme formát csts.
Převod rozšířené a-roviny do rozšířeného csts
convert_atrees_to_csts.ntred
- skript pro převod rozšířené a-roviny obsahující koreferenci (a případně pojmenované entity) do rozšířeného csts
Převod dat z prostého textu do formátu playlang:
Převod pro PlayCoref
Využíváme analýzu v modulárním systému TectoMT.
Postup při zpracování české verze Studie v Šarlatové byl tento:
- Do textového souboru v UTF-8 jsem za nadpisy a čísla kapitol přidal tečku - konec věty; česká TectoMT analýza nadpisy nezná.
- Následně jsem použil aktuální verzi analýzy na tekto rovinu, která je k dispozici v TectoMT; použil jsem i bloky pro přidání gramatické koreference.
- Ve výsledném naparsovaném souboru jsem rozpoznal základní pojmenované entity - kombinace cizích a mých vlastních modulů TectoMT; prozatím v PlayCoref neumíme zpracovat vnořené entity, a tak jsem použil opravdu jen základní moduly, vynechal jsem např. spojení přívlastků vlastních s podstatnými jmény. (Použitý scénář:
personal/mirovsky/coreference/sc_CzNEMWRecognition.scen
.) - Nalezené pojmenované entity jsem vyextrahoval pomocí skriptu
ne_atrees_to_txt.pl
do textového souboru; z něj pak jdou později vložit do stejných dat v jiném formátu než tmt (pro mne je to schůdnější cesta než psát/upravovat přímou konverzi z tmt do pdt tak, aby uměla i pojmenované entity). - Pak nastává převod do formátu PDT. Používám skript z TectoMT→
tools/format_convertors/tmt_to_pdt
:tmt-to-pdt.pl -a amdata_schema.xml soubor.tmt
… vznikne t-soubor a a-soubor s vloženými m a w rovinami; tento a-soubor dále filtruji a získávám z něj samostatné w- a m-soubory (používám vlastní skriptyma_to_w.pl
ama_to_m.pl
(PlayLang→playcoref/scripts/tmt_to_pdt
)tmt-to-pdt.pl soubor.tmt
… spustím to znovu bez přepínače, tak získám čistý a-soubor- V takto získaných datech je ještě potřeba upravit identifikátory (vlastní skripty
fix_id_ta.pl
afix_id_mw.pl
+ drobné ruční úpravy). - Pozor, skript hledá elementy SCzech*, proto pro anglický text je nejdřív potřeba nahradit v tmt souboru výskyty SEnglish za SCzech!
Převod pro Shannona a Place the Space
Je potřeba převádět jinak, neboť v TectoMT (nebo při převodu do PDT formátu) se ztrácí informace o přítomnosti mezery. Automatické doplnění není spolehlivé.
Pro češtinu proto používám tool-chain z projektu ČAK. Bohužel mi nefunguje (a nevím proč) tool-chain až na a-rovinu, a tak ho používám jen na m-rovinu, navíc jen v csts. Ale to pro tyto účely stačí! Vstupní text musí být v ISO-LATIN-2, což znamená, že některé znaky (spodní a horní uvozovky, dlouhé pomlčky a další) je potřeba napřed nahradit standardními ekvivalenty. Tokenizer je v tool-chainu lepší než v TectoMT, a tak není potřeba dávat tečky za nadpisy a lépe se vypořádá s tečkami uprostřed vět. Nový řádek znamená konec věty - ve vstupním textu tedy nesmí být věty přerušeny novým řádkem; nový odstavec bude tam, kde je ve vstupním textu prázdný řádek.
Vzniklý csts soubor převedu do UTF-8, pomocí skriptu PlayLang→playcoref/scripts/txt_to_csts/_csts_fill_ids.pl
dodělám id k elementům <f> a <d>; následně vyberu věty minimální délky 6 (a pro Shannona bez interpunkce) pomocí skriptu PlayLang→playcoref/scripts/_csts_filter_sentences.pl
. (Id-čka předtím ještě zkracuju (aby byla jen pXsYwZ) a také nahrazuju elementy <MD[lt] src=“m”> pouhými <[lt]>.)
Zobrazení v Tredu:
Pro Tred existuje rozšíření Play the Language (playlang), nainstalovat lze přes Session→Manage Extensions.
(zdroj: {ROOT}/playcoref/tred_extension
)
Umožňuje otevřít rozšířené m-soubory nebo rozšířené a-soubory a zobrazit koreferenční šipky. Nastavuje zobrazení kontextových “stromů” a kontextových vět a v nich zvýrazňuje prvky koreferenčních řetízků, ve kterých se účastní aktuální slovo. Zamčené a nezamčené koreferenční šipky zobrazuje odlišně.
Pozor, při otvírání souborů s maskou *.m.gz v souborovém dialogu v Tredu je potřeba přepnout filtr souborů na “všechny soubory”, aby byly soubory s touto maskou vidět.
Ovládání:
Ctrl+t - zapne/vypne zobrazení šipek koreference a zvýraznění prvků koreferenčních řetízků aktuálního slova v kontextových větách
Alt+p - přepne do čistě morfologického módu - nejsou zobrazeny kontextové “stromy” a věty, nezobrazují se koreferenční šipky
Alt+c - přepne do módu playcoref - zobrazují se kontextové “stromy” a věty, zobrazují se koreferenční šipky i slova
Aktuální uzel lze měnit jak kliknutím na uzel, tak i jednoduchým kliknutím na slovo v kontextových větách.