[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

[ Back to the navigation ]

You are here: start » user » zeman » malt-parser

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision 		Previous revision
Next revision Both sides next revision
user:zeman:malt-parser [2010/05/13 10:53]
zeman Doběhl trénink jlibsvm na celém treebanku, ale parsing se nerozeběhl. 		user:zeman:malt-parser [2010/05/13 13:25]
zeman liblinear.
Line 125: Line 125:
 | 60000 | 1035254 | 7 dní 4:55 h | 34374 s = 9:33 h | 1 věta / 3,71 s | 85,80 % | 9.-17.4.2010 | | 60000 | 1035254 | 7 dní 4:55 h | 34374 s = 9:33 h | 1 věta / 3,71 s | 85,80 % | 9.-17.4.2010 |
 | 65000 | 1035255 | 5 dní 21:01 h | 31378 s = 8:43 h | 1 věta / 3,38 s | 85,96 % | 9.-15.4.2010 | | 65000 | 1035255 | 5 dní 21:01 h | 31378 s = 8:43 h | 1 věta / 3,38 s | 85,96 % | 9.-15.4.2010 |
-| full | 1177906 | 10 dní 4:40 h | | | | 27.4.-7.5.2010 |+| full | 1177906, 1305554 | 10 dní 4:40 h | | | | 27.4.-7.5.2010 |
  
 ==== Trénovací data rozsekaná na pětitisícové úseky ==== ==== Trénovací data rozsekaná na pětitisícové úseky ====
Line 206: Line 206:
 | 65000 | 1177894 | | | | | 27.4.2010 | Náhlá smrt. | | 65000 | 1177894 | | | | | 27.4.2010 | Náhlá smrt. |
 | full | 1177895 | | | | | 27.4.2010 | Náhlá smrt. | | full | 1177895 | | | | | 27.4.2010 | Náhlá smrt. |
 +
 +==== Java liblinear ====
 +
 +| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum | Poznámka |
 +| 1000 | 1305892 | | | | | 13.5.2010 | |
 +| 2000 | 1305893 | | | | | 13.5.2010 | |
 +| 5000 | 1306055 | | | | | 13.5.2010 | |
 +| 10000 | 1306056 | | | | | 13.5.2010 | |
 +| 20000 | 1306057 | | | | | 13.5.2010 | |
 +| 25000 | 1306219 | | | | | 13.5.2010 | |
 +| 30000 | 1306220 | | | | | 13.5.2010 | |
 +| 35000 | 1306221 | | | | | 13.5.2010 | |
 +| 40000 | 1306222 | | | | | 13.5.2010 | |
 +| 45000 | 1306223 | | | | | 13.5.2010 | |
 +| 50000 | 1306224 | | | | | 13.5.2010 | |
 +| 55000 | 1306225 | | | | | 13.5.2010 | |
 +| 60000 | 1306226 | | | | | 13.5.2010 | |
 +| 65000 | 1306388 | | | | | 13.5.2010 | |
 +| full | 1306389 | | | | | 13.5.2010 | |
  
 ==== Co dál? ==== ==== Co dál? ====
  
   * Ještě pustit javovské ''libsvm'' a uppsalské dělení (CPOSTAG) na celý treebank. Zatím jsem to udělal nejvýše pro prvních 65000 vět, ale treebank jich má přes 68000.   * Ještě pustit javovské ''libsvm'' a uppsalské dělení (CPOSTAG) na celý treebank. Zatím jsem to udělal nejvýše pro prvních 65000 vět, ale treebank jich má přes 68000.
-  * Navrhnout jemnější dělení modelů ''libsvm'', aby modely 003 a 004 nebyly tak velké. Např. přidat slovní poddruh a pád. 
-  * Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů? 
   * Zkusit ''liblinear'' místo ''libsvm''.   * Zkusit ''liblinear'' místo ''libsvm''.
   * Odladit ''train.pl'', aby se výsledný soubor ''.mco'' dal rozbalovat. Možná mu vadí pouze ".mco" u volby ''-c''.   * Odladit ''train.pl'', aby se výsledný soubor ''.mco'' dal rozbalovat. Možná mu vadí pouze ".mco" u volby ''-c''.
   * Jestli nakonec nějak prorazím, bude potřeba opět učesat obalovací skripty. Mj. jsem přišel na to, že ve většině svých skriptů používám jako dočasný adresář ''/tmp'' místo Milanem důrazně doporučeného ''/mnt/h/tmp''. Např. na tauri10 jsem tak počmáral 4 GB a proces skončil, protože příslušný svazek byl plný. Tohle by se mj. mělo opravit i u skriptů pro Joshuu a dalších. Jinak jsem taky mohutně čachroval s žádostí o příděl paměti na clusteru (týká se i skriptu ''qsub.csh''), s konfigurací Maltu atd.   * Jestli nakonec nějak prorazím, bude potřeba opět učesat obalovací skripty. Mj. jsem přišel na to, že ve většině svých skriptů používám jako dočasný adresář ''/tmp'' místo Milanem důrazně doporučeného ''/mnt/h/tmp''. Např. na tauri10 jsem tak počmáral 4 GB a proces skončil, protože příslušný svazek byl plný. Tohle by se mj. mělo opravit i u skriptů pro Joshuu a dalších. Jinak jsem taky mohutně čachroval s žádostí o příděl paměti na clusteru (týká se i skriptu ''qsub.csh''), s konfigurací Maltu atd.
   * Vyhodnotit to ještě i na e-testu a připsat to na stránku o českém parsingu.   * Vyhodnotit to ještě i na e-testu a připsat to na stránku o českém parsingu.
 +  * Zkusit hlasování pětitisícových kusů.
 +

[ Back to the navigation ] [ Back to the content ]