Differences

This shows you the differences between two versions of the page.

--- user:zeman:wmt [2012/03/01 23:40]
zeman První dávka výsledků s Mosesem.
+++ user:zeman:wmt [2013/04/15 09:47]
zeman Gigafren.
@@ Line 1: / Line 1: @@
-====== Danovy pokusy s Joshuou na WMT 2012 ======
+====== Danovy pokusy na WMT 2013, Sofija ======
 http://matrix.statmt.org/
-http://www.statmt.org/wmt12/translation-task.html
+http://www.statmt.org/wmt13/translation-task.html
-http://svn.ms.mff.cuni.cz/projects/statmt/wiki/enhi/joshua
 <code>/net/work/people/zeman/wmt</code>
 ===== Aktuální úkoly =====
-  * Rozpracované: es-en a fr-en UN. Značkování Gigawordu. Chcíplý giga.fr-en a news.2007.de.
+  * Znova označkovat anglický Gigaword, tentokrát Featuramou.
-    * Ještě by to chtělo zopakovat celý proces se značkováním korpusů OSN. Nejdřív se ale pokusím nechat alespoň jednou doběhnout současnou verzi. Původní korpus se nechtěl nechat označkovat a zdá se, že problém by mohl být v tom, že některé věty jsou příliš dlouhé. Pustil jsem tedy nejdřív čištění (pouze věty délky 1 až 99 slov), ale kvůli nějaké chybě má označkovaný korpus stejně původní počet vět. Zdá se, že poslední dávku jsem omylem nakopíroval tolikrát, abych se dostal na původní počet řádků. Mělo by to ale být striktně paralelní, takže by to výsledek snad nemuselo nějak zásadně poškodit.
+  * Pokračovat v práci na gigafren. Překladový model je natrénovaný, je potřeba vyrobit kroky model, mert, translate a evaluator.
-  * Všechny přípravy korpusů a zarovnání zopakovat i pod Emanem. Naučit se registrovat korpusy Corpmanem.
+  * Dokončit pokusy s korpusy un.es-en a un.fr-en. Běží merty, pak translate a evaluator. Pak kombinace un s jinými korpusy (newseuro a newsall).
-  * Připravit data pro cs-de, cs-es a cs-fr (news-commentary+europarl.v7).
+  * Zkontrolovat data pro rok 2013.
-    * Data už jsou připravena, všech 6 pokusů běží.
+    * Nejsou náhodou letos nové verze korpusů newseuro a newsall?
+      * Europarl je stejný jako loni, tedy verze 7.
+      * U News Commentary to není jisté, spíš asi budou nové.
+      * Korpus UN bude asi stejný, i když to na stránkách WMT výslovně nepíšou.
+      * Navíc je úplně nový korpus Common Crawl (prý je ale špinavý).
+      * Nové by mělo být i newsall, protože přibyl rok 2012.
+    * Používám správné verze Gigawordů?
+    * O ruštině nemluvě...
+  * Proč při překladu odkudkoliv do angličtiny to s jazykovým modelem na newsall dopadne malinko hůř než bez něj? Nemělo by to spíš dopadnout zřetelně líp? Co je s ním? Jak je velký? Jakou dostal váhu? Jak se po jeho přidání změnil výstup překladu?
+  * Giga.fr-en: Stále ještě se vyrábí překladový model. Pokud se ale stihne vyrobit, musím z něj vyždímat nějaké výsledky.
+  * danmake.pl na rozdíl od emana nerozlišuje kroky, které jsou OUTDATED nebo FAILED. Když mu eman select pro nějakou sadu požadavků najde několik kroků, z nichž první je nějak vadný a druhý je DONE, danmake klidně použije ten první a pak se diví.
+  * Nějak tu chybí pořádná tabulka loňských výsledků. To je mám opisovat z&nbsp;článku na WMT?
+    * Jazykové modely gigaword/czeng + newseuro + newsall
+    * Velká paralelní data un, gigafren, czeng
+  * Pokusit se napodobit Ondrův nejlepší výsledek.
+    * Použít stejná data jako on nebo lepší (to znamená přinejmenším celý Czeng a velká jednojazyčná data; Ondra ale prý vynechal Europarl, ten já vynechat nechci).
+    * Natrénovat stejné modely jako on. Přinejmenším mi zatím chybí lexical reordering model. Ondra navíc prováděl ještě nějaké čachry se značkami (jazykový model na morfologických značkách).
+  * Srovnat supervised truecasing, který používám teď, s něčím méně sofistikovaným. Nezmenšovat první písmeno slova uprostřed věty jen proto, že moje lematizace nezná dané slovo jako vlastní jméno (např. "doktor Chaloupka" by se neměl změnit na "doktor chaloupka").
   * Prohnat všechna data Morfessorem a vyhodnotit překlad s ním.
   * Otestovat vliv omezení délky fráze na 5 tokenů (zkusit i default a 10).
@@ Line 114: / Line 130: @@
 Sloupec Moses je první odpovídající pokus s&nbsp;Mosesem, už nad wmt12 (dev wmt10) a s&nbsp;jednojazyčným sjednocením news-europarl pro jazykový model.
-^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ Moses ^
+^ Jazyky ^ v6 ^ v6b-tr ^ v6b ^ v7 ^ wmt12 ^ Moses ^ +NewsAll ^ +Gigaword ^ Czeng ^
 | en-cs | 0.1191 | 0.1246 | 0.1257 | 0.1299 | 0.1161 | 11.96±0.50 |
-| cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | 0.1661 | 17.96±0.50 |
+| cs-en | 0.1692 | 0.1792 | 0.1801 | 0.1814 | 0.1661 | 17.96±0.50 | 0.2022 | | 0.2225 |
 | en-de | 0.1337 | 0.1274 | 0.1334 | 0.1350 | 0.1359 | 14.26±0.52 |
 | de-en | 0.1885 | 0.1859 | 0.1896 | 0.1915 | 0.1880 | 18.77±0.53 |
@@ Line 123: / Line 139: @@
 | en-fr | 0.2591 | 0.2619 | 0.2526 | 0.2729 | 0.2572 | 25.99±0.63 |
 | fr-en | 0.2243 | 0.2285 | 0.2384 | 0.2448 | 0.2391 | 24.59±0.68 |
-| cs-de |        |        |        |        | 0.1304 | 13.65±0.54 |
+| cs-de |        |        |        |        | 0.1304 | 13.65±0.54 | 0.1529 |
 | de-cs |        |        |        |        | 0.1186 | 12.12±0.52 |
-| cs-es |        |        |        |        | 0.1848 | 19.52±0.52 |
+| cs-es |        |        |        |        | 0.1848 | 19.52±0.52 | 0.2214 | 0.2243 |
 | es-cs |        |        |        |        | 0.1220 | 12.81±0.54 |
-| cs-fr |        |        |        |        | 0.1822 | 19.53±0.55 |
+| cs-fr |        |        |        |        | 0.1822 | 19.53±0.55 | 0.2169 |
 | fr-cs |        |        |        |        | 0.1175 | 12.53±0.57 |

[ Back to the navigation ] [ Back to the content ]

Institute of Formal and Applied Linguistics Wiki

Differences