[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

• ÚFAL Wiki Home
• ÚFAL Home
• Sitemap
• RSS
• ÚFAL calendar
• Recent changes
• Login
• Hledat:

[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

View differences: Side by SideInline Go

Link to this comparison view

Both sides previous revision Previous revision 2013/03/21 14:24 zeman Aktualizace.2013/03/21 14:21 zeman Ještě data.2013/03/21 14:20 zeman Nová data.2013/03/21 13:40 zeman Aktualizace.2013/03/19 17:43 zeman 2013/01/23 15:25 zeman To do.2013/01/23 15:22 zeman Hotovo: Přejít na hřiště verzované v Gitu.2013/01/23 14:55 zeman 2013/01/23 13:35 zeman Doplněno pár starých výsledků.2013/01/18 10:40 zeman Aktualizace.2013/01/15 11:24 zeman WMT 2013, Sofija.2012/06/21 18:11 zeman Zbývá udělat.2012/03/01 23:40 zeman První dávka výsledků s Mosesem.2012/02/29 13:46 zeman Doběhlo de-cs.2012/02/29 11:01 zeman Doběhlo es-cs.2012/02/29 10:00 zeman Doběhlo fr-cs.2012/02/29 07:01 zeman Doběhly pokusy bez angličtiny, ale směrem do češtiny asi došlo k nějaké chybě.2012/02/28 13:56 zeman Příprava tabulky pro překlad mezi češtinou a neangličtinou.2012/02/28 13:47 zeman Aktualizace úkolů.2012/02/28 13:42 zeman Už běží všech 6 pokusů s češtinou a neangličtinou.2012/02/28 13:30 zeman Doběhly zbývající pokusy s novými testovacími daty.2012/02/28 13:10 zeman První výsledky na testovacích datech 2012.2012/02/28 11:19 zeman Aktualizace úkolů: data pro páry s češtinou jsou hotová.2012/02/27 16:02 zeman Problémy se značkováním korpusů OSN.2012/02/27 15:55 zeman Aktualizace úkolů.2012/02/27 14:58 zeman Doběhlo en-es a en-fr v7.2012/02/27 14:21 zeman Doběhlo fr-en v7.2012/02/27 13:44 zeman Doběhlo es-en v7.2012/02/27 12:28 zeman Aktualizace aktuálních úkolů.2012/02/09 21:10 zeman Doběhlo de-en v7.2012/02/09 16:21 zeman Doběhlo en-de v7.2012/02/07 22:00 zeman Doběhlo en-cs v7.2012/02/07 14:47 zeman Doběhlo cs-en v7.2012/02/07 09:49 zeman BLEU.2012/02/07 09:48 zeman Aktualizace úkolů: uvozovky jsou hotové.2012/02/05 14:27 zeman Výsledky pokusů s uvozovkami včetně úpravy testovacích dat.2012/02/04 23:41 zeman Jak označkovat newstest.2012/02/04 18:24 zeman Jiná dev data?2012/02/04 18:23 zeman Aktuální úkoly.2012/02/04 18:16 zeman Čeština s němčinou, španělštinou a francouzštinou.2012/02/04 17:25 zeman Odkaz na WMT 2012.2012/02/04 17:21 zeman Úklid uvozovek.2012/02/04 16:53 zeman Uvozovky i na testovací data.2012/02/04 16:34 zeman Úklid.2012/02/03 18:15 zeman Poznámky o Ondrových datech a o pokusech s Emanem.2012/02/02 10:05 zeman fr-en s uvozovkami.2012/02/01 14:22 zeman Nový úkol: nová data.2012/02/01 10:02 zeman en-fr doběhlo, fr-en nějak havarovalo.2012/01/29 22:33 zeman Záznam o tom, jak se v datech upravují uvozovky.2012/01/29 22:18 zeman obo-max-test20112012/01/26 09:11 zeman Odstraněny zastaralé výsledky s výjimkou neobvyklých jazykových párů (čeština-neangličtina). Go Next revision		Previous revision 2013/04/15 13:47 zeman Kombinace newseuro-czeng.2013/04/15 12:39 zeman Plány s gigafren.2013/04/15 12:14 zeman Odstraněn duplicitní úkol.2013/04/15 12:13 zeman Aktuální úkoly.2013/04/15 11:40 zeman Martinův postup zpracování velkých korpusů Treexem.2013/04/15 09:47 zeman Gigafren.2013/04/15 09:43 zeman S Ondřejem dořešeno. Vyhrál :-)2013/03/21 14:24 zeman Aktualizace.2013/03/21 14:21 zeman Ještě data.2013/03/21 14:20 zeman Nová data.2013/03/21 13:40 zeman Aktualizace.2013/03/19 17:43 zeman 2013/01/23 15:25 zeman To do.2013/01/23 15:22 zeman Hotovo: Přejít na hřiště verzované v Gitu.2013/01/23 14:55 zeman 2013/01/23 13:35 zeman Doplněno pár starých výsledků.2013/01/18 10:40 zeman Aktualizace.2013/01/15 11:24 zeman WMT 2013, Sofija.2012/06/21 18:11 zeman Zbývá udělat.2012/03/01 23:40 zeman První dávka výsledků s Mosesem.2012/02/29 13:46 zeman Doběhlo de-cs.2012/02/29 11:01 zeman Doběhlo es-cs.2012/02/29 10:00 zeman Doběhlo fr-cs.2012/02/29 07:01 zeman Doběhly pokusy bez angličtiny, ale směrem do češtiny asi došlo k nějaké chybě.2012/02/28 13:56 zeman Příprava tabulky pro překlad mezi češtinou a neangličtinou.2012/02/28 13:47 zeman Aktualizace úkolů.2012/02/28 13:42 zeman Už běží všech 6 pokusů s češtinou a neangličtinou.2012/02/28 13:30 zeman Doběhly zbývající pokusy s novými testovacími daty.2012/02/28 13:10 zeman První výsledky na testovacích datech 2012.2012/02/28 11:19 zeman Aktualizace úkolů: data pro páry s češtinou jsou hotová.2012/02/27 16:02 zeman Problémy se značkováním korpusů OSN.2012/02/27 15:55 zeman Aktualizace úkolů.2012/02/27 14:58 zeman Doběhlo en-es a en-fr v7.2012/02/27 14:21 zeman Doběhlo fr-en v7.2012/02/27 13:44 zeman Doběhlo es-en v7.2012/02/27 12:28 zeman Aktualizace aktuálních úkolů.2012/02/09 21:10 zeman Doběhlo de-en v7.2012/02/09 16:21 zeman Doběhlo en-de v7.2012/02/07 22:00 zeman Doběhlo en-cs v7.2012/02/07 14:47 zeman Doběhlo cs-en v7.2012/02/07 09:49 zeman BLEU.2012/02/07 09:48 zeman Aktualizace úkolů: uvozovky jsou hotové.2012/02/05 14:27 zeman Výsledky pokusů s uvozovkami včetně úpravy testovacích dat.2012/02/04 23:41 zeman Jak označkovat newstest.2012/02/04 18:24 zeman Jiná dev data?2012/02/04 18:23 zeman Aktuální úkoly.2012/02/04 18:16 zeman Čeština s němčinou, španělštinou a francouzštinou.2012/02/04 17:25 zeman Odkaz na WMT 2012.2012/02/04 17:21 zeman Úklid uvozovek.2012/02/04 16:53 zeman Uvozovky i na testovací data.2012/02/04 16:34 zeman Úklid. Go Next revision Both sides next revision
user:zeman:wmt [2012/02/27 14:58] zeman Doběhlo en-es a en-fr v7.		user:zeman:wmt [2012/02/28 13:47] zeman Aktualizace úkolů.
Line 8:		Line 8:
	===== Aktuální úkoly =====		===== Aktuální úkoly =====
-	* Rozpracované: es-en a fr-en v7 a UN. Značkování Gigawordu. Chcíplý giga.fr-en a news.2007.de.	+	* Rozpracované: es-en a fr-en UN. Značkování Gigawordu. Chcíplý giga.fr-en a news.2007.de.
-	* Stáhnout a otestovat nová testovací data (WMT 2012).	+	* Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit.
	* Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem.		* Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem.
	* Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7).		* Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7).
		+	* Data už jsou připravena, všech 6 pokusů běží.
	* Prohnat všechna data Morfessorem a vyhodnotit překlad s ním.		* Prohnat všechna data Morfessorem a vyhodnotit překlad s ním.
	* Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10).		* Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10).
Line 107:		Line 108:
	Pokusy s uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K poslední úpravě došlo 21.4.2011. Vracím se k tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat.		Pokusy s uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K poslední úpravě došlo 21.4.2011. Vracím se k tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat.
-	Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b". Varianta "v7": nová trénovací data (verze 7 News Commentary a Europarlu pro WMT 2012) už jsou defaultně s upravenými uvozovkami; vývojová a testovací data jsou v tomto případě shodná s v6b.	+	Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b". Varianta "v7": nová trénovací data (verze 7 News Commentary a Europarlu pro WMT 2012) už jsou defaultně s upravenými uvozovkami; vývojová a testovací data jsou v tomto případě shodná s v6b. Verze wmt12 se od v7 liší tím, že netestujeme na newstest2011, ale newstest2012.
-	^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^	+	^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^
-	| en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 |	+	| en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | 0.1161 |
-	| cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 |	+	| cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | 0.1661 |
-	| en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 |	+	| en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 |
-	| de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 |	+	| de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 |
-	| en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 |	+	| en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | 0.2757 |
-	| es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 |	+	| es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | 0.2699 |
-	| en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 |	+	| en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 |
-	| fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 |	+	| fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 |
	===== Pokusy s Emanem =====		===== Pokusy s Emanem =====

---

[ Back to the navigation ] [ Back to the content ]