Differences
This shows you the differences between two versions of the page.
| Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
|
user:zeman:wmt [2012/02/29 10:00] zeman Doběhlo fr-cs. |
user:zeman:wmt [2013/03/21 13:40] zeman Aktualizace. |
||
|---|---|---|---|
| Line 1: | Line 1: | ||
| - | ====== Danovy pokusy | + | ====== Danovy pokusy na WMT 2013, Sofija |
| http:// | http:// | ||
| - | http:// | + | http:// |
| - | http:// | + | |
| < | < | ||
| ===== Aktuální úkoly ===== | ===== Aktuální úkoly ===== | ||
| + | * Dořešit s Ondřejem, proč mu vadí to mazání nepořádku po předchozích neúspěšných pokusech v eman.seeds/ | ||
| + | * Znova označkovat anglický Gigaword, tentokrát Featuramou. | ||
| + | * Dokončit pokusy s korpusy un.es-en a un.fr-en. Běží merty, pak translate a evaluator. Pak kombinace un s jinými korpusy (newseuro a newsall). | ||
| + | * Zkontrolovat data pro rok 2013. | ||
| + | * Nejsou náhodou letos nové verze korpusů newseuro a newsall? | ||
| + | * Používám správné verze Gigawordů? | ||
| + | * O ruštině nemluvě... | ||
| + | * Proč při překladu odkudkoliv do angličtiny to s jazykovým modelem na newsall dopadne malinko hůř než bez něj? Nemělo by to spíš dopadnout zřetelně líp? Co je s ním? Jak je velký? Jakou dostal váhu? Jak se po jeho přidání změnil výstup překladu? | ||
| + | * danmake.pl na rozdíl od emana nerozlišuje kroky, které jsou OUTDATED nebo FAILED. Když mu eman select pro nějakou sadu požadavků najde několik kroků, z nichž první je nějak vadný a druhý je DONE, danmake klidně použije ten první a pak se diví. | ||
| + | * Nějak tu chybí pořádná tabulka loňských výsledků. To je mám opisovat z& | ||
| + | * Jazykové modely gigaword/ | ||
| + | * Velká paralelní data un, gigafren, czeng | ||
| * Rozpracované: | * Rozpracované: | ||
| * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit. | * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit. | ||
| - | * Všechny přípravy korpusů | + | * Pokusit se napodobit Ondrův nejlepší výsledek. |
| - | * Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7). | + | * Použít stejná data jako on nebo lepší (to znamená |
| - | * Data už jsou připravena, všech 6 pokusů běží. | + | * Natrénovat stejné modely jako on. Přinejmenším mi zatím chybí lexical reordering model. Ondra navíc prováděl ještě nějaké čachry se značkami (jazykový model na morfologických značkách). |
| + | * Srovnat supervised truecasing, který používám teď, s něčím méně sofistikovaným. Nezmenšovat první písmeno slova uprostřed věty jen proto, | ||
| * Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. | * Prohnat všechna data Morfessorem a vyhodnotit překlad s ním. | ||
| * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10). | ||
| Line 112: | Line 124: | ||
| **Šest přídavných jazykových párů: čeština s němčinou, španělštinou a francouzštinou.** Tyto jazykové páry nejsou součástí shared task. Organizátoři pro ně ani neposkytují trénovací data, ale ta je možné získat hledáním shodných vět v& | **Šest přídavných jazykových párů: čeština s němčinou, španělštinou a francouzštinou.** Tyto jazykové páry nejsou součástí shared task. Organizátoři pro ně ani neposkytují trénovací data, ale ta je možné získat hledáním shodných vět v& | ||
| - | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ | + | Sloupec Moses je první odpovídající pokus s& |
| - | | en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | 0.1161 | | + | |
| - | | cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | 0.1661 | | + | ^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ Moses ^ +NewsAll ^ +Gigaword ^ Czeng ^ |
| - | | en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 | | + | | en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | 0.1161 |
| - | | de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 | | + | | cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | 0.1661 |
| - | | en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | 0.2757 | | + | | en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 |
| - | | es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | 0.2699 | | + | | de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 |
| - | | en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 | | + | | en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | 0.2757 |
| - | | fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 | | + | | es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | 0.2699 |
| - | | cs-de | | | | | 0.1304 | | + | | en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 |
| - | | de-cs | | | | | **0.0237** | + | | fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 |
| - | | cs-es | | | | | 0.1848 | | + | | cs-de | | | | | 0.1304 |
| - | | es-cs | | | | | **0.0201** | + | | de-cs | | | | | 0.1186 | 12.12±0.52 |
| - | | cs-fr | | | | | 0.1822 | | + | | cs-es | | | | | 0.1848 |
| - | | fr-cs | | | | | 0.1175 | | + | | es-cs | | | | | 0.1220 | 12.81±0.54 |
| + | | cs-fr | | | | | 0.1822 | ||
| + | | fr-cs | | | | | 0.1175 | ||
| ===== Pokusy s Emanem ===== | ===== Pokusy s Emanem ===== | ||