[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

• ÚFAL Wiki Home
• ÚFAL Home
• Sitemap
• RSS
• ÚFAL calendar
• Recent changes
• Login
• Hledat:

[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

View differences: Side by SideInline Go

Link to this comparison view

Both sides previous revision Previous revision 2010/05/13 11:28 zeman Aktualizace Co dál?2010/05/13 11:10 zeman Pustil jsem parser.2010/05/13 10:53 zeman Doběhl trénink jlibsvm na celém treebanku, ale parsing se nerozeběhl.2010/05/07 09:32 zeman Doběhlo jlibsvm full.2010/05/04 08:05 zeman Doběhlo jlibsvm 65000.2010/05/03 14:56 zeman Doběhly další jlibsvm.2010/04/29 10:01 zeman Doběhlo jlibsvm 30000.2010/04/28 16:19 zeman Doběhla další jlibsvm, zbývající clibsvm už všechna popadala.2010/04/27 21:43 zeman Na druhý pokus doběhlo clibsvm 20000.2010/04/27 16:21 zeman Doběhlo jlibsvm 10000.2010/04/27 15:03 zeman Větší céčkové modely už zase chcípají.2010/04/27 14:59 zeman Doběhlo clibsvm 5000 a 10000.2010/04/27 12:46 zeman Znova nezvěstné split-postag clibsvm 50000.2010/04/27 12:44 zeman Znova spuštěn jlibsvm full split-cpostag (včera zahynul při havárii NFS).2010/04/27 12:38 zeman Nově spuštěné úlohy clibsvm.2010/04/27 12:34 zeman Odstartovalo jlibsvm i clibsvm, ale některé úlohy clibsvm jsem musel pouštět znova.2010/04/27 11:14 zeman Po dvou pádech NFS znova pouštím split-postag jlibsvm.2010/04/26 16:49 zeman Puštěno jlibsvm na celém korpusu, příprava splitting tricku na subposu.2010/04/26 15:19 zeman Java celý treebank.2010/04/26 12:51 zeman Aktualizace Co dál?2010/04/26 12:49 zeman Doběhly zbývající testy javových modelů.2010/04/14 08:31 zeman Doběhla java 45000.2010/04/13 11:32 zeman Doběhla java 40000.2010/04/12 17:20 zeman Doběhla java 35000 test.2010/04/12 13:05 zeman Doběhla java 5000 opravný pokus.2010/04/12 10:42 zeman Nový pokus java 5000.2010/04/12 10:40 zeman Doběhla java 35000 trénink.2010/04/09 10:57 zeman V noci spadla síť, zbývající pokusy pouštím znova.2010/04/08 22:22 zeman Doběhla java 30000.2010/04/08 08:17 zeman Doběhla java 25000.2010/04/07 14:49 zeman Doběhla java 20000.2010/04/06 23:27 zeman Doběhla java 10000.2010/04/06 23:24 zeman 2010/04/06 17:47 zeman Doběhlo 05000-09999.2010/04/06 17:42 zeman 2010/04/06 17:13 zeman Doběhly javové pokusy 1000 a 2000 (a neúspěch 5000).2010/04/06 17:03 zeman Některé úlohy zahynuly, aniž by zanechaly chybové hlášení.2010/04/06 16:51 zeman Opravné pokusy alljava.pl a chunks5000.pl.2010/04/06 14:34 zeman Doběhly zbývající testy javových modelů.2010/04/02 16:10 zeman Java 35000.2010/04/02 15:00 zeman Komentář k pětitisícovým úsekům.2010/04/02 14:55 zeman Pětitisícové úseky.2010/04/02 10:10 zeman Java 25000.2010/04/01 22:54 zeman Trénovací data rozsekaná na pětitisícové úseky.2010/04/01 22:44 zeman 200002010/04/01 15:45 zeman Aktualizace Co dál?2010/04/01 15:34 zeman Javová implementace libsvm.2010/04/01 13:57 zeman Proč to padá?2010/03/31 16:01 zeman Doběhl švédský test 45000.2010/03/31 10:53 zeman 2010/03/31 10:50 zeman Aktualizace Co dál? Go Next revision		Previous revision 2010/05/13 11:28 zeman Aktualizace Co dál?2010/05/13 11:10 zeman Pustil jsem parser.2010/05/13 10:53 zeman Doběhl trénink jlibsvm na celém treebanku, ale parsing se nerozeběhl.2010/05/07 09:32 zeman Doběhlo jlibsvm full.2010/05/04 08:05 zeman Doběhlo jlibsvm 65000.2010/05/03 14:56 zeman Doběhly další jlibsvm.2010/04/29 10:01 zeman Doběhlo jlibsvm 30000.2010/04/28 16:19 zeman Doběhla další jlibsvm, zbývající clibsvm už všechna popadala.2010/04/27 21:43 zeman Na druhý pokus doběhlo clibsvm 20000.2010/04/27 16:21 zeman Doběhlo jlibsvm 10000.2010/04/27 15:03 zeman Větší céčkové modely už zase chcípají.2010/04/27 14:59 zeman Doběhlo clibsvm 5000 a 10000.2010/04/27 12:46 zeman Znova nezvěstné split-postag clibsvm 50000.2010/04/27 12:44 zeman Znova spuštěn jlibsvm full split-cpostag (včera zahynul při havárii NFS).2010/04/27 12:38 zeman Nově spuštěné úlohy clibsvm.2010/04/27 12:34 zeman Odstartovalo jlibsvm i clibsvm, ale některé úlohy clibsvm jsem musel pouštět znova.2010/04/27 11:14 zeman Po dvou pádech NFS znova pouštím split-postag jlibsvm.2010/04/26 16:49 zeman Puštěno jlibsvm na celém korpusu, příprava splitting tricku na subposu.2010/04/26 15:19 zeman Java celý treebank.2010/04/26 12:51 zeman Aktualizace Co dál?2010/04/26 12:49 zeman Doběhly zbývající testy javových modelů.2010/04/14 08:31 zeman Doběhla java 45000.2010/04/13 11:32 zeman Doběhla java 40000.2010/04/12 17:20 zeman Doběhla java 35000 test.2010/04/12 13:05 zeman Doběhla java 5000 opravný pokus.2010/04/12 10:42 zeman Nový pokus java 5000.2010/04/12 10:40 zeman Doběhla java 35000 trénink.2010/04/09 10:57 zeman V noci spadla síť, zbývající pokusy pouštím znova.2010/04/08 22:22 zeman Doběhla java 30000.2010/04/08 08:17 zeman Doběhla java 25000.2010/04/07 14:49 zeman Doběhla java 20000.2010/04/06 23:27 zeman Doběhla java 10000.2010/04/06 23:24 zeman 2010/04/06 17:47 zeman Doběhlo 05000-09999.2010/04/06 17:42 zeman 2010/04/06 17:13 zeman Doběhly javové pokusy 1000 a 2000 (a neúspěch 5000).2010/04/06 17:03 zeman Některé úlohy zahynuly, aniž by zanechaly chybové hlášení.2010/04/06 16:51 zeman Opravné pokusy alljava.pl a chunks5000.pl.2010/04/06 14:34 zeman Doběhly zbývající testy javových modelů.2010/04/02 16:10 zeman Java 35000.2010/04/02 15:00 zeman Komentář k pětitisícovým úsekům.2010/04/02 14:55 zeman Pětitisícové úseky.2010/04/02 10:10 zeman Java 25000.2010/04/01 22:54 zeman Trénovací data rozsekaná na pětitisícové úseky.2010/04/01 22:44 zeman 200002010/04/01 15:45 zeman Aktualizace Co dál?2010/04/01 15:34 zeman Javová implementace libsvm.2010/04/01 13:57 zeman Proč to padá?2010/03/31 16:01 zeman Doběhl švédský test 45000.2010/03/31 10:53 zeman 2010/03/31 10:50 zeman Aktualizace Co dál? Go Next revision Both sides next revision
user:zeman:malt-parser [2010/04/01 15:34] zeman Javová implementace libsvm.		user:zeman:malt-parser [2010/04/12 10:42] zeman Nový pokus java 5000.
Line 105:		Line 105:
	Joakim navrhuje, abychom zkusili dělení zjemnit, např. místo CPOSTAGu dělit modely podle slovního poddruhu (druhá pozice české značky). Pak by dílčí modely byly menší a libsvm by třeba nespadlo. Ve skutečnosti budu asi muset zjemňovat jiným způsobem, protože právě u podstatných jmen žádné zvláštní dělení na poddruhy neexistuje. Mohly by ale pomoct pády.		Joakim navrhuje, abychom zkusili dělení zjemnit, např. místo CPOSTAGu dělit modely podle slovního poddruhu (druhá pozice české značky). Pak by dílčí modely byly menší a libsvm by třeba nespadlo. Ve skutečnosti budu asi muset zjemňovat jiným způsobem, protože právě u podstatných jmen žádné zvláštní dělení na poddruhy neexistuje. Mohly by ale pomoct pády.
		+
		+
		+
		+
		+
		+
		+
		+
	==== Javová implementace libsvm ====		==== Javová implementace libsvm ====
-	Předpokládá se, že vyžaduje více času a paměti. Podle dokumentace může dojít i k drobným odchylkám v úspěšnosti způsobeným odlišným zpracováním racionálních čísel. Mně se zatím zdá, že odchylky budou spíše značné, a to v neprospěch javové implementace.	+	Předpokládá se, že vyžaduje více času a paměti. Podle dokumentace může dojít i k drobným odchylkám v úspěšnosti způsobeným odlišným zpracováním racionálních čísel.
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |
		+	| 1000 | 1032117 | 2:38 min | 1252 s = 20:52 min | 1 věta / 0,14 s | 74,63 % | 6.4.2010 |
		+	| 2000 | 1032118 | 8:44 min | 2344 s = 39:03 min | 1 věta / 0,25 s | 77,73 % | 6.4.2010 |
		+	| 5000 | 1032131, 1032132, 1040063 | | 1631 s = 27:10 min | 1 věta / 0,18 s | 76,65 % | 6.4.2010. Nějak se pustilo dvakrát přes sebe, takže trénink bohužel nemohl zapisovat do souboru s modelem. Nevím, co se stalo. Úspěšnost je tím pádem nesmyslná, protože parsing použil starý model, vyrobený s výchozím popisem rysů. Nový pokus 12.4.2010. |
		+	| 10000 | 1032120 | 3:57 h | 7235 s = 2:01 h | 1 věta / 0,78 s | 82,11 % | 6.4.2010 |
		+	| 20000 | 1032121 | 16:45 h | 12979 s = 3:36 h | 1 věta / 1,40 s | 83,65 % | 6.-7.4.2010 |
		+	| 25000 | 1032122 | 27:43 h | 16500 s = 4:35 h | 1 věta / 1,78 s | 84,24 % | 6.-8.4.2010 |
		+	| 30000 | 1032123 | 47:21 h | 24255 s = 6:44 h | 1 věta / 2,62 s | 84,54 % | 6.-8.4.2010 |
		+	| 35000 | 1035249 | 2 dny 11:08 h | | | | 9.-12.4.2010 |
		+	| 40000 | 1035250 | | | | | 9.4.2010 |
		+	| 45000 | 1035251 | | | | | 9.4.2010 |
		+	| 50000 | 1035252 | | | | | 9.4.2010 |
		+	| 55000 | 1035258 | | | | | 9.4.2010 |
		+	| 60000 | 1035254 | | | | | 9.4.2010 |
		+	| 65000 | 1035255 | | | | | 9.4.2010 |
		+
		+	==== Trénovací data rozsekaná na pětitisícové úseky ====
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |
		+	| 00000-04999 | 1021425 | | | | 76,65 % | |
		+	| 05000-09999 | 1021426 | | | | 76,99 % | |
		+	| 10000-14999 | 1021427 | | | | 76,47 % | |
		+	| 15000-19999 | 1021428 | | | | 76,72 % | |
		+	| 20000-24999 | 1021429 | | | | 76,72 % | |
		+	| 25000-29999 | 1021430 | | | | 76,80 % | |
		+	| 30000-34999 | 1021431 | | | | 76,87 % | |
		+	| 35000-39999 | 1021432 | | | | 76,94 % | |
		+	| 40000-44999 | 1021433 | | | | 76,72 % | |
		+	| 45000-49999 | 1021434 | | | | 76,98 % | |
		+	| 50000-54999 | 1021435 | | | | 76,69 % | |
		+	| 55000-59999 | 1021436 | | | | 76,96 % | |
		+	| 60000-64999 | 1021437 | | | | 76,81 % | |
		+	| 65000-68562 | 1021438 | | | | 75,86 % | |
		+
		+	Všechny díly se nakonec podařilo použít, čímž jsme definitivně vyvrátili, že by v trénovacích datech byla jedna nebo více vět, na kterých parser padá. Padání bylo asi opravdu způsobeno velikostí dílčích modelů v konkrétních případech.
		+
		+	Zarážející je ale úspěšnost. Přinejmenším pro první pětitisícový úsek měla být s céčkovým libsvm 80 %, tak jaktože jsme teď vždy naměřili pod 77 %?
		+
		+	=== Oprava 6.4.2010 ===
		+
		+	Předcházející pokusy s javovou implementací byly omylem spuštěny s výchozí, nikoli s Marcovou definicí rysů, což by mohlo vysvětlovat tu nižší úspěšnost. Nyní tedy druhý pokus:
	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |		| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |
-	| 1000 | 1011450 | 37 s | | | | Spadlo, kód -1 není v tabulce symbolů. |	+	| 00000-04999 | 1032102 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
-	| 2000 | 1011451 | 2:46 min | 661 s = 11 min | 1 věta / 0,07 s | 74,10 % | |	+	| 05000-09999 | 1032103 | 24:24 min | | | 80,59 % | |
-	| 5000 | 1011452 | 17:45 min | 1527 s = 25 min | 1 věta / 0,16 s | 76,65 % | |	+	| 10000-14999 | 1032104 | 31:56 min | | | 80,23 % | |
-	| 10000 | 1011453 | | | | | Nerozeběhlo se. |	+	| 15000-19999 | 1032116 | 30:27 min | | | 80,52 % | |
-	| 20000 | 1011454 | | | | | |	+	| 20000-24999 | 1032106 | 21:35 min | | | 80,45 % | |
-	| 25000 | 1011455 | | | | | |	+	| 25000-29999 | 1032107 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
-	| 30000 | 1011456 | | | | | Nerozeběhlo se. |	+	| 30000-34999 | 1032108 | 28:30 min | | | 80,48 % | |
-	| 35000 | 1011457 | | | | | |	+	| 35000-39999 | 1032109 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
-	| 40000 | 1011458 | | | | | |	+	| 40000-44999 | 1032110 | 19:17 min | | | 80,51 % | |
-	| 45000 | 1011459 | | | | | |	+	| 45000-49999 | 1032111 | 22:54 min | | | 80,62 % | |
-	| 50000 | 1011460 | | | | | |	+	| 50000-54999 | 1032112 | 22:31 min | | | 80,58 % | |
-	| 55000 | 1011461 | | | | | |	+	| 55000-59999 | 1032113 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
-	| 60000 | 1011462 | | | | | |	+	| 60000-64999 | 1032114 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
-	| 65000 | 1011463 | | | | | |	+	| 65000-68562 | 1032115 | 12:43 min | | | 79,69 % | |
	==== Co dál? ====		==== Co dál? ====
-	* Pokusy, na kterých céčková verze ''libsvm'' havarovala, zkusit ještě s javovou verzí.	+	* Pokusy, na kterých céčková verze ''libsvm'' havarovala, zkusit ještě s javovou verzí. (Již běží.)
		+	* Navrhnout jemnější dělení modelů ''libsvm'', aby modely 003 a 004 nebyly tak velké. Např. přidat slovní poddruh a pád.
	* Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů?		* Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů?
	* Zkusit ''liblinear'' místo ''libsvm''.		* Zkusit ''liblinear'' místo ''libsvm''.
		+	* Odladit ''train.pl'', aby se výsledný soubor ''.mco'' dal rozbalovat. Možná mu vadí pouze ".mco" u volby ''-c''.
	* Jestli nakonec nějak prorazím, bude potřeba opět učesat obalovací skripty. Mj. jsem přišel na to, že ve většině svých skriptů používám jako dočasný adresář ''/tmp'' místo Milanem důrazně doporučeného ''/mnt/h/tmp''. Např. na tauri10 jsem tak počmáral 4 GB a proces skončil, protože příslušný svazek byl plný. Tohle by se mj. mělo opravit i u skriptů pro Joshuu a dalších. Jinak jsem taky mohutně čachroval s žádostí o příděl paměti na clusteru (týká se i skriptu ''qsub.csh''), s konfigurací Maltu atd.		* Jestli nakonec nějak prorazím, bude potřeba opět učesat obalovací skripty. Mj. jsem přišel na to, že ve většině svých skriptů používám jako dočasný adresář ''/tmp'' místo Milanem důrazně doporučeného ''/mnt/h/tmp''. Např. na tauri10 jsem tak počmáral 4 GB a proces skončil, protože příslušný svazek byl plný. Tohle by se mj. mělo opravit i u skriptů pro Joshuu a dalších. Jinak jsem taky mohutně čachroval s žádostí o příděl paměti na clusteru (týká se i skriptu ''qsub.csh''), s konfigurací Maltu atd.
	* Vyhodnotit to ještě i na e-testu a připsat to na stránku o českém parsingu.		* Vyhodnotit to ještě i na e-testu a připsat to na stránku o českém parsingu.

---

[ Back to the navigation ] [ Back to the content ]