Differences
This shows you the differences between two versions of the page.
| Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
|
user:zeman:wmt [2013/03/21 14:20] zeman Nová data. |
user:zeman:wmt [2013/04/15 13:47] zeman Kombinace newseuro-czeng. |
||
|---|---|---|---|
| Line 7: | Line 7: | ||
| ===== Aktuální úkoly ===== | ===== Aktuální úkoly ===== | ||
| - | * Dořešit s Ondřejem, proč mu vadí to mazání nepořádku po předchozích neúspěšných pokusech v eman.seeds/ | ||
| * Znova označkovat anglický Gigaword, tentokrát Featuramou. | * Znova označkovat anglický Gigaword, tentokrát Featuramou. | ||
| + | * Označkováno už je, dva dílčí dokumenty se musely značkovat dodatečně. Nyní (pondělí 15.4.2013) běží slévání výstupu. | ||
| + | * Vyrobit jazykový model z anglického Gigawordu (předtím se ještě bude sto let vyrábět faktor stc, tak bacha, zablokuje to konzoli). | ||
| + | * Všechny překlady do angličtiny zopakovat s Gigawordem. | ||
| + | * Pokračovat v práci na gigafren. Překladový model je natrénovaný, | ||
| + | * Pro oba směry (en-fr a fr-en) chci překlad s Gigawordem i bez něj, tj. TM: | ||
| + | * Pak chci ještě totéž, ale překladový model je kombinovaný s newseuro, případně i s un (ale un to asi moc nevylepší a bude to nezvladatelně veliké). | ||
| * Dokončit pokusy s korpusy un.es-en a un.fr-en. Běží merty, pak translate a evaluator. Pak kombinace un s jinými korpusy (newseuro a newsall). | * Dokončit pokusy s korpusy un.es-en a un.fr-en. Běží merty, pak translate a evaluator. Pak kombinace un s jinými korpusy (newseuro a newsall). | ||
| + | * Pokusy s překladovým modelem pouze na UN doběhly a moc se nevyznamenaly. Bez ohledu na to, že jazykový model obsahoval newsall i gigaword. | ||
| + | * Ještě je ale potřeba vyzkoušet kombinovaný překladový model (newseuro+un). Ten byl na minulém hřišti úspěšný. | ||
| + | * Obdobně mi chybí výsledky pro kombinaci Czengu a newseuro (oba směry en-cs i cs-en). | ||
| * Zkontrolovat data pro rok 2013. | * Zkontrolovat data pro rok 2013. | ||
| * Nejsou náhodou letos nové verze korpusů newseuro a newsall? | * Nejsou náhodou letos nové verze korpusů newseuro a newsall? | ||
| Line 16: | Line 24: | ||
| * Korpus UN bude asi stejný, i když to na stránkách WMT výslovně nepíšou. | * Korpus UN bude asi stejný, i když to na stránkách WMT výslovně nepíšou. | ||
| * Navíc je úplně nový korpus Common Crawl (prý je ale špinavý). | * Navíc je úplně nový korpus Common Crawl (prý je ale špinavý). | ||
| + | * Nové by mělo být i newsall, protože přibyl rok 2012. | ||
| * Používám správné verze Gigawordů? | * Používám správné verze Gigawordů? | ||
| * O ruštině nemluvě... | * O ruštině nemluvě... | ||
| Line 23: | Line 32: | ||
| * Jazykové modely gigaword/ | * Jazykové modely gigaword/ | ||
| * Velká paralelní data un, gigafren, czeng | * Velká paralelní data un, gigafren, czeng | ||
| - | * Rozpracované: | ||
| - | * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit. | ||
| * Pokusit se napodobit Ondrův nejlepší výsledek. | * Pokusit se napodobit Ondrův nejlepší výsledek. | ||
| * Použít stejná data jako on nebo lepší (to znamená přinejmenším celý Czeng a velká jednojazyčná data; Ondra ale prý vynechal Europarl, ten já vynechat nechci). | * Použít stejná data jako on nebo lepší (to znamená přinejmenším celý Czeng a velká jednojazyčná data; Ondra ale prý vynechal Europarl, ten já vynechat nechci). | ||
| Line 191: | Line 198: | ||
| Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre. | Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre. | ||
| + | ===== Jak zpracovat obří korpus Treexem, třeba označkovat Gigaword? ===== | ||
| + | |||
| + | Dosud jsem používal obyčejné treex -p, kde se přesměrovává standardní výstup do nějakého souboru. Pro velké korpusy, které se zpracovávají několik dní na půlce clusteru, tohle není ten nejvhodnější způsob. Vždy je pravděpodobné, | ||
| + | |||
| + | Martin preferuje jiný způsob. Tisíce vstupních souborů leží v nějaké adresářové struktuře, někdy i vícepatrové, | ||
| + | |||
| + | Martinův postup lze vykoukat z '' | ||