[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

• ÚFAL Wiki Home
• ÚFAL Home
• Sitemap
• RSS
• ÚFAL calendar
• Recent changes
• Login
• Hledat:

[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

View differences: Side by SideInline Go

Link to this comparison view

Both sides previous revision Previous revision 2013/03/21 13:40 zeman Aktualizace.2013/03/19 17:43 zeman 2013/01/23 15:25 zeman To do.2013/01/23 15:22 zeman Hotovo: Přejít na hřiště verzované v Gitu.2013/01/23 14:55 zeman 2013/01/23 13:35 zeman Doplněno pár starých výsledků.2013/01/18 10:40 zeman Aktualizace.2013/01/15 11:24 zeman WMT 2013, Sofija.2012/06/21 18:11 zeman Zbývá udělat.2012/03/01 23:40 zeman První dávka výsledků s Mosesem.2012/02/29 13:46 zeman Doběhlo de-cs.2012/02/29 11:01 zeman Doběhlo es-cs.2012/02/29 10:00 zeman Doběhlo fr-cs.2012/02/29 07:01 zeman Doběhly pokusy bez angličtiny, ale směrem do češtiny asi došlo k nějaké chybě.2012/02/28 13:56 zeman Příprava tabulky pro překlad mezi češtinou a neangličtinou.2012/02/28 13:47 zeman Aktualizace úkolů.2012/02/28 13:42 zeman Už běží všech 6 pokusů s češtinou a neangličtinou.2012/02/28 13:30 zeman Doběhly zbývající pokusy s novými testovacími daty.2012/02/28 13:10 zeman První výsledky na testovacích datech 2012.2012/02/28 11:19 zeman Aktualizace úkolů: data pro páry s češtinou jsou hotová.2012/02/27 16:02 zeman Problémy se značkováním korpusů OSN.2012/02/27 15:55 zeman Aktualizace úkolů.2012/02/27 14:58 zeman Doběhlo en-es a en-fr v7.2012/02/27 14:21 zeman Doběhlo fr-en v7.2012/02/27 13:44 zeman Doběhlo es-en v7.2012/02/27 12:28 zeman Aktualizace aktuálních úkolů.2012/02/09 21:10 zeman Doběhlo de-en v7.2012/02/09 16:21 zeman Doběhlo en-de v7.2012/02/07 22:00 zeman Doběhlo en-cs v7.2012/02/07 14:47 zeman Doběhlo cs-en v7.2012/02/07 09:49 zeman BLEU.2012/02/07 09:48 zeman Aktualizace úkolů: uvozovky jsou hotové.2012/02/05 14:27 zeman Výsledky pokusů s uvozovkami včetně úpravy testovacích dat.2012/02/04 23:41 zeman Jak označkovat newstest.2012/02/04 18:24 zeman Jiná dev data?2012/02/04 18:23 zeman Aktuální úkoly.2012/02/04 18:16 zeman Čeština s němčinou, španělštinou a francouzštinou.2012/02/04 17:25 zeman Odkaz na WMT 2012.2012/02/04 17:21 zeman Úklid uvozovek.2012/02/04 16:53 zeman Uvozovky i na testovací data.2012/02/04 16:34 zeman Úklid.2012/02/03 18:15 zeman Poznámky o Ondrových datech a o pokusech s Emanem.2012/02/02 10:05 zeman fr-en s uvozovkami.2012/02/01 14:22 zeman Nový úkol: nová data.2012/02/01 10:02 zeman en-fr doběhlo, fr-en nějak havarovalo.2012/01/29 22:33 zeman Záznam o tom, jak se v datech upravují uvozovky.2012/01/29 22:18 zeman obo-max-test20112012/01/26 09:11 zeman Odstraněny zastaralé výsledky s výjimkou neobvyklých jazykových párů (čeština-neangličtina).2012/01/26 09:03 zeman Ladí se na newstest2008.2012/01/26 09:01 zeman obo-max2012/01/26 08:44 zeman Doběhly uvozovky en-es. Go Next revision		Previous revision 2013/04/16 13:45 zeman Verze Gigawordů ověřeny.2013/04/16 11:26 zeman Upřesnění aktuálních úkolů.2013/04/16 11:24 zeman S gigafren počkat na gigaword.en.2013/04/16 11:14 zeman Anglický Gigaword.2013/04/15 13:47 zeman Kombinace newseuro-czeng.2013/04/15 12:39 zeman Plány s gigafren.2013/04/15 12:14 zeman Odstraněn duplicitní úkol.2013/04/15 12:13 zeman Aktuální úkoly.2013/04/15 11:40 zeman Martinův postup zpracování velkých korpusů Treexem.2013/04/15 09:47 zeman Gigafren.2013/04/15 09:43 zeman S Ondřejem dořešeno. Vyhrál :-)2013/03/21 14:24 zeman Aktualizace.2013/03/21 14:21 zeman Ještě data.2013/03/21 14:20 zeman Nová data.2013/03/21 13:40 zeman Aktualizace.2013/03/19 17:43 zeman 2013/01/23 15:25 zeman To do.2013/01/23 15:22 zeman Hotovo: Přejít na hřiště verzované v Gitu.2013/01/23 14:55 zeman 2013/01/23 13:35 zeman Doplněno pár starých výsledků.2013/01/18 10:40 zeman Aktualizace.2013/01/15 11:24 zeman WMT 2013, Sofija.2012/06/21 18:11 zeman Zbývá udělat.2012/03/01 23:40 zeman První dávka výsledků s Mosesem.2012/02/29 13:46 zeman Doběhlo de-cs.2012/02/29 11:01 zeman Doběhlo es-cs.2012/02/29 10:00 zeman Doběhlo fr-cs.2012/02/29 07:01 zeman Doběhly pokusy bez angličtiny, ale směrem do češtiny asi došlo k nějaké chybě.2012/02/28 13:56 zeman Příprava tabulky pro překlad mezi češtinou a neangličtinou.2012/02/28 13:47 zeman Aktualizace úkolů.2012/02/28 13:42 zeman Už běží všech 6 pokusů s češtinou a neangličtinou.2012/02/28 13:30 zeman Doběhly zbývající pokusy s novými testovacími daty.2012/02/28 13:10 zeman První výsledky na testovacích datech 2012.2012/02/28 11:19 zeman Aktualizace úkolů: data pro páry s češtinou jsou hotová.2012/02/27 16:02 zeman Problémy se značkováním korpusů OSN.2012/02/27 15:55 zeman Aktualizace úkolů.2012/02/27 14:58 zeman Doběhlo en-es a en-fr v7.2012/02/27 14:21 zeman Doběhlo fr-en v7.2012/02/27 13:44 zeman Doběhlo es-en v7.2012/02/27 12:28 zeman Aktualizace aktuálních úkolů.2012/02/09 21:10 zeman Doběhlo de-en v7.2012/02/09 16:21 zeman Doběhlo en-de v7.2012/02/07 22:00 zeman Doběhlo en-cs v7.2012/02/07 14:47 zeman Doběhlo cs-en v7.2012/02/07 09:49 zeman BLEU.2012/02/07 09:48 zeman Aktualizace úkolů: uvozovky jsou hotové.2012/02/05 14:27 zeman Výsledky pokusů s uvozovkami včetně úpravy testovacích dat.2012/02/04 23:41 zeman Jak označkovat newstest.2012/02/04 18:24 zeman Jiná dev data?2012/02/04 18:23 zeman Aktuální úkoly.2012/02/04 18:16 zeman Čeština s němčinou, španělštinou a francouzštinou. Go Next revision Both sides next revision
user:zeman:wmt [2012/02/27 12:28] zeman Aktualizace aktuálních úkolů.		user:zeman:wmt [2012/02/29 11:01] zeman Doběhlo es-cs.
Line 8:		Line 8:
	===== Aktuální úkoly =====		===== Aktuální úkoly =====
-	* Rozpracované: es-en a fr-en v7 a UN. Značkování Gigawordu. Chcíplý giga.fr-en a news.2007.de.	+	* Rozpracované: es-en a fr-en UN. Značkování Gigawordu. Chcíplý giga.fr-en a news.2007.de.
-	* Stáhnout a otestovat nová testovací data (WMT 2012).	+	* Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit.
	* Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem.		* Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem.
	* Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7).		* Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7).
		+	* Data už jsou připravena, všech 6 pokusů běží.
	* Prohnat všechna data Morfessorem a vyhodnotit překlad s ním.		* Prohnat všechna data Morfessorem a vyhodnotit překlad s ním.
	* Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10).		* Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10).
Line 107:		Line 108:
	Pokusy s uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K poslední úpravě došlo 21.4.2011. Vracím se k tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat.		Pokusy s uvozovkami začaly na jaře 2011. Tehdy jsem upravil pouze trénovací data (Europarl a News-Commentary) pro všechny čtyři jazykové páry. K poslední úpravě došlo 21.4.2011. Vracím se k tomu 16.1.2012. Nejdříve pouštím všechny tehdejší pokusy znova, potom přidám i úpravu vývojových a testovacích dat.
-	Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b". Varianta "v7": nová trénovací data (verze 7 News Commentary a Europarlu pro WMT 2012) už jsou defaultně s upravenými uvozovkami; vývojová a testovací data jsou v tomto případě shodná s v6b.	+	Nový průběh všech osmi starých pokusů (supervised truecasing, žádná normalizace uvozovek, nové je na nich paralelní počítání alignmentu, ale výsledek by měl být identický – nekontroloval jsem): ''$SRC$TGT-stc-allcstem4-tmnews+parl-lmnews+parl-lm6-test2011'', v tabulce uvedeno jako "v6". Varianta, ve které byly uvozovky upraveny pouze v trénovacích datech (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011''), je označena "v6b-tr". Varianta, ve které úpravou uvozovek prošla i vývojová a testovací data (''$SRC$TGT-stc-allemma-tmv6b-lmv6b-lm6-test2011v6b''), je označena "v6b". Varianta "v7": nová trénovací data (verze 7 News Commentary a Europarlu pro WMT 2012) už jsou defaultně s upravenými uvozovkami; vývojová a testovací data jsou v tomto případě shodná s v6b. Verze wmt12 se od v7 liší tím, že netestujeme na newstest2011, ale newstest2012.
-	^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^	+	**Šest přídavných jazykových párů: čeština s němčinou, španělštinou a francouzštinou.** Tyto jazykové páry nejsou součástí shared task. Organizátoři pro ně ani neposkytují trénovací data, ale ta je možné získat hledáním shodných vět v dotyčných jazycích v páru s angličtinou. Ve všech případech jsem dostal kolem 690 tisíc párů vět.
-	| en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 |	+
-	| cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 |	+	^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^
-	| en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 |	+	| en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | 0.1161 |
-	| de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 |	+	| cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | 0.1661 |
-	| en-es | 0.2573 | 0.2531 | 0.2627 | |	+	| en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 |
-	| es-en | 0.2446 | 0.2375 | 0.2497 | |	+	| de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 |
-	| en-fr | 0.2591 | 0.2619 | 0.2526 | |	+	| en-es | 0.2573 | 0.2531 | 0.2627 | 0.2756 | 0.2757 |
-	| fr-en | 0.2243 | 0.2285 | 0.2384 | |	+	| es-en | 0.2446 | 0.2375 | 0.2497 | 0.2562 | 0.2699 |
		+	| en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 |
		+	| fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 |
		+	| cs-de |        |        |        |        | 0.1304 |
		+	| de-cs |        |        |        |        | **0.0237** |
		+	| cs-es |        |        |        |        | 0.1848 |
		+	| es-cs |        |        |        |        | 0.1220 |
		+	| cs-fr |        |        |        |        | 0.1822 |
		+	| fr-cs |        |        |        |        | 0.1175 |
	===== Pokusy s Emanem =====		===== Pokusy s Emanem =====
Line 163:		Line 172:
	(Ondřej měl s Mosesem asi 0.1230.)		(Ondřej měl s Mosesem asi 0.1230.)
	Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre.		Ještě je potřeba to testovat stejným skriptem jako Ondřej, abychom použili stejnou tokenizaci a taky abychom dostali rozptyl skóre.
-
-	===== Čeština s němčinou, španělštinou a francouzštinou =====
-
-	Tyto jazykové páry nejsou součástí shared task. Organizátoři pro ně ani neposkytují trénovací data, ale ta je možné získat hledáním shodných vět v dotyčných jazycích v páru s angličtinou.
-
-	Není-li řečeno jinak, váhy se ladí na newstest2008 a testuje se na newstest2009. Trénuje se zatím na news-commentary, a to jak překladový, tak jazykový model. U testu WMT 2010 se jako základní uvádí BLEU skóre, které mi spočítal Joshua, v závorce pak skóre, které mi spočítali organizátoři, lowercase / truecase. Hodnoty se někdy výrazně liší, zřejmě kvůli odlišné tokenizaci.
-
-	| **Pokus** | **Dev WMT08** | **Test WMT09** | **Test WMT10** | **Poznámka** | **Datum** |
-	| decs-josh13 | 0.0935 | 0.0886 | | | 15.3.2010 |
-	| escs-josh13 | 0.0922 | 0.0872 | | | 15.3.2010 |
-	| frcs-josh13 | 0.0885 | 0.0818 | | Zřetelně menší trénovací data než pro encs, decs a escs. | 15.3.2010 |

---

[ Back to the navigation ] [ Back to the content ]