[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

• ÚFAL Wiki Home
• ÚFAL Home
• Sitemap
• RSS
• ÚFAL calendar
• Recent changes
• Login
• Hledat:

[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

View differences: Side by SideInline Go

Link to this comparison view

Both sides previous revision Previous revision 2010/04/26 12:51 zeman Aktualizace Co dál?2010/04/26 12:49 zeman Doběhly zbývající testy javových modelů.2010/04/14 08:31 zeman Doběhla java 45000.2010/04/13 11:32 zeman Doběhla java 40000.2010/04/12 17:20 zeman Doběhla java 35000 test.2010/04/12 13:05 zeman Doběhla java 5000 opravný pokus.2010/04/12 10:42 zeman Nový pokus java 5000.2010/04/12 10:40 zeman Doběhla java 35000 trénink.2010/04/09 10:57 zeman V noci spadla síť, zbývající pokusy pouštím znova.2010/04/08 22:22 zeman Doběhla java 30000.2010/04/08 08:17 zeman Doběhla java 25000.2010/04/07 14:49 zeman Doběhla java 20000.2010/04/06 23:27 zeman Doběhla java 10000.2010/04/06 23:24 zeman 2010/04/06 17:47 zeman Doběhlo 05000-09999.2010/04/06 17:42 zeman 2010/04/06 17:13 zeman Doběhly javové pokusy 1000 a 2000 (a neúspěch 5000).2010/04/06 17:03 zeman Některé úlohy zahynuly, aniž by zanechaly chybové hlášení.2010/04/06 16:51 zeman Opravné pokusy alljava.pl a chunks5000.pl.2010/04/06 14:34 zeman Doběhly zbývající testy javových modelů.2010/04/02 16:10 zeman Java 35000.2010/04/02 15:00 zeman Komentář k pětitisícovým úsekům.2010/04/02 14:55 zeman Pětitisícové úseky.2010/04/02 10:10 zeman Java 25000.2010/04/01 22:54 zeman Trénovací data rozsekaná na pětitisícové úseky.2010/04/01 22:44 zeman 200002010/04/01 15:45 zeman Aktualizace Co dál?2010/04/01 15:34 zeman Javová implementace libsvm.2010/04/01 13:57 zeman Proč to padá?2010/03/31 16:01 zeman Doběhl švédský test 45000.2010/03/31 10:53 zeman 2010/03/31 10:50 zeman Aktualizace Co dál?2010/03/31 08:13 zeman Doběhl švédský test 50000.2010/03/31 08:08 zeman Švédské trénování 45000.2010/03/30 16:10 zeman 2010/03/30 16:06 zeman Švédské trénování 65000 spadlo.2010/03/30 15:15 zeman Doběhl švédský test 35000.2010/03/30 15:11 zeman Doběhl švédský test 30000.2010/03/30 14:34 zeman 2010/03/30 14:31 zeman Švédské trénování 50000.2010/03/30 13:20 zeman Doběhl švédský test 25000.2010/03/30 09:42 zeman Švédské trénování 30000.2010/03/30 08:58 zeman Několik tréninků spadlo a dva úspěšně doběhly.2010/03/29 15:53 zeman Evidence nových procesů, jejichž cílem je zjistit, proč trénování libsvm padá.2010/03/29 10:57 zeman 2010/03/29 10:54 zeman Podrobnější dělení trénovacích dat od 25000 vět do celého treebanku.2010/03/29 10:47 zeman Švédské trénování 68563 spadlo podruhé.2010/03/29 10:18 zeman Doběhl švédský test 20000.2010/03/28 22:04 zeman Švédské trénování 20000.2010/03/28 21:31 zeman Švédské trénování 68563 spadlo.2010/03/28 21:26 zeman Doběhl švédský test 10000. Go Next revision		Previous revision 2010/08/14 16:29 zeman Covproj padá.2010/08/14 16:19 zeman Pouštím pokusy covproj.2010/08/14 16:13 zeman Doběhly pokusy stackeager.2010/08/14 16:03 zeman Doběhly pokusy stackproj.2010/06/07 15:57 zeman Doběhlo stackeager 50000.2010/06/07 12:38 zeman Doběhlo stackproj 5000.2010/06/07 12:37 zeman Nová sada pokusů stackproj.2010/06/07 10:33 zeman Doběhla řada výpočtů stackeager.2010/06/02 11:02 zeman Nová sada pokusů stackeager.2010/06/02 09:17 zeman Aktualizace Co dál?2010/06/02 09:15 zeman Aktualizace Co dál?2010/05/28 10:28 zeman Doběhl švédský test full.2010/05/28 10:18 zeman Doběhly všechny liblinear.2010/05/28 10:17 zeman Doběhly všechny liblinear.2010/05/13 13:25 zeman liblinear.2010/05/13 11:28 zeman Aktualizace Co dál?2010/05/13 11:10 zeman Pustil jsem parser.2010/05/13 10:53 zeman Doběhl trénink jlibsvm na celém treebanku, ale parsing se nerozeběhl.2010/05/07 09:32 zeman Doběhlo jlibsvm full.2010/05/04 08:05 zeman Doběhlo jlibsvm 65000.2010/05/03 14:56 zeman Doběhly další jlibsvm.2010/04/29 10:01 zeman Doběhlo jlibsvm 30000.2010/04/28 16:19 zeman Doběhla další jlibsvm, zbývající clibsvm už všechna popadala.2010/04/27 21:43 zeman Na druhý pokus doběhlo clibsvm 20000.2010/04/27 16:21 zeman Doběhlo jlibsvm 10000.2010/04/27 15:03 zeman Větší céčkové modely už zase chcípají.2010/04/27 14:59 zeman Doběhlo clibsvm 5000 a 10000.2010/04/27 12:46 zeman Znova nezvěstné split-postag clibsvm 50000.2010/04/27 12:44 zeman Znova spuštěn jlibsvm full split-cpostag (včera zahynul při havárii NFS).2010/04/27 12:38 zeman Nově spuštěné úlohy clibsvm.2010/04/27 12:34 zeman Odstartovalo jlibsvm i clibsvm, ale některé úlohy clibsvm jsem musel pouštět znova.2010/04/27 11:14 zeman Po dvou pádech NFS znova pouštím split-postag jlibsvm.2010/04/26 16:49 zeman Puštěno jlibsvm na celém korpusu, příprava splitting tricku na subposu.2010/04/26 15:19 zeman Java celý treebank.2010/04/26 12:51 zeman Aktualizace Co dál?2010/04/26 12:49 zeman Doběhly zbývající testy javových modelů.2010/04/14 08:31 zeman Doběhla java 45000.2010/04/13 11:32 zeman Doběhla java 40000.2010/04/12 17:20 zeman Doběhla java 35000 test.2010/04/12 13:05 zeman Doběhla java 5000 opravný pokus.2010/04/12 10:42 zeman Nový pokus java 5000.2010/04/12 10:40 zeman Doběhla java 35000 trénink.2010/04/09 10:57 zeman V noci spadla síť, zbývající pokusy pouštím znova.2010/04/08 22:22 zeman Doběhla java 30000.2010/04/08 08:17 zeman Doběhla java 25000.2010/04/07 14:49 zeman Doběhla java 20000.2010/04/06 23:27 zeman Doběhla java 10000.2010/04/06 23:24 zeman 2010/04/06 17:47 zeman Doběhlo 05000-09999.2010/04/06 17:42 zeman 2010/04/06 17:13 zeman Doběhly javové pokusy 1000 a 2000 (a neúspěch 5000). Go Next revision Both sides next revision
user:zeman:malt-parser [2010/04/01 22:44] zeman 20000		user:zeman:malt-parser [2010/04/27 15:03] zeman Větší céčkové modely už zase chcípají.
Line 105:		Line 105:
	Joakim navrhuje, abychom zkusili dělení zjemnit, např. místo CPOSTAGu dělit modely podle slovního poddruhu (druhá pozice české značky). Pak by dílčí modely byly menší a libsvm by třeba nespadlo. Ve skutečnosti budu asi muset zjemňovat jiným způsobem, protože právě u podstatných jmen žádné zvláštní dělení na poddruhy neexistuje. Mohly by ale pomoct pády.		Joakim navrhuje, abychom zkusili dělení zjemnit, např. místo CPOSTAGu dělit modely podle slovního poddruhu (druhá pozice české značky). Pak by dílčí modely byly menší a libsvm by třeba nespadlo. Ve skutečnosti budu asi muset zjemňovat jiným způsobem, protože právě u podstatných jmen žádné zvláštní dělení na poddruhy neexistuje. Mohly by ale pomoct pády.
-
	==== Javová implementace libsvm ====		==== Javová implementace libsvm ====
-	Předpokládá se, že vyžaduje více času a paměti. Podle dokumentace může dojít i k drobným odchylkám v úspěšnosti způsobeným odlišným zpracováním racionálních čísel. Mně se zatím zdá, že odchylky budou spíše značné, a to v neprospěch javové implementace.	+	Předpokládá se, že vyžaduje více času a paměti. Podle dokumentace může dojít i k drobným odchylkám v úspěšnosti způsobeným odlišným zpracováním racionálních čísel.
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum |
		+	| 1000 | 1032117 | 2:38 min | 1252 s = 20:52 min | 1 věta / 0,14 s | 74,63 % | 6.4.2010 |
		+	| 2000 | 1032118 | 8:44 min | 2344 s = 39:03 min | 1 věta / 0,25 s | 77,73 % | 6.4.2010 |
		+	| 5000 | 1040063 | 48:07 min | 3956 s = 1:06 h | 1 věta / 0,43 s | 80,18 % | 12.4.2010 |
		+	| 10000 | 1032120 | 3:57 h | 7235 s = 2:01 h | 1 věta / 0,78 s | 82,11 % | 6.4.2010 |
		+	| 20000 | 1032121 | 16:45 h | 12979 s = 3:36 h | 1 věta / 1,40 s | 83,65 % | 6.-7.4.2010 |
		+	| 25000 | 1032122 | 27:43 h | 16500 s = 4:35 h | 1 věta / 1,78 s | 84,24 % | 6.-8.4.2010 |
		+	| 30000 | 1032123 | 47:21 h | 24255 s = 6:44 h | 1 věta / 2,62 s | 84,54 % | 6.-8.4.2010 |
		+	| 35000 | 1035249 | 2 dny 11:08 h | 21468 s = 5:58 h | 1 věta / 2,32 s | 84,89 % | 9.-12.4.2010 |
		+	| 40000 | 1035250 | 3 dny 10 min | 24582 s = 6:50 h | 1 věta / 2,65 s | 85,08 % | 9.-12.4.2010 |
		+	| 45000 | 1035251 | 4 dny 10:53 h | 33744 s = 9:22 h | 1 věta / 3,64 s | 85,35 % | 9.-14.4.2010 |
		+	| 50000 | 1035252 | 5 dní 19:32 h | 37140 s = 10:19 h | 1 věta / 4,01 s | 85,47 % | 9.-15.4.2010 |
		+	| 55000 | 1035258 | 7 dní 8:37 h | 40518 s = 11:15 h | 1 věta / 4,37 s | 85,65 % | 9.-17.4.2010 |
		+	| 60000 | 1035254 | 7 dní 4:55 h | 34374 s = 9:33 h | 1 věta / 3,71 s | 85,80 % | 9.-17.4.2010 |
		+	| 65000 | 1035255 | 5 dní 21:01 h | 31378 s = 8:43 h | 1 věta / 3,38 s | 85,96 % | 9.-15.4.2010 |
		+	| full | 1177906 | | | | | 27.4.2010 |
		+
		+	==== Trénovací data rozsekaná na pětitisícové úseky ====
	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |		| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |
-	| 1000 | 1011450 | 37 s | | | | Spadlo, kód -1 není v tabulce symbolů. |	+	| 00000-04999 | 1021425 | | | | 76,65 % | |
-	| 2000 | 1011451 | 2:46 min | 661 s = 11 min | 1 věta / 0,07 s | 74,10 % | |	+	| 05000-09999 | 1021426 | | | | 76,99 % | |
-	| 5000 | 1011452 | 17:45 min | 1527 s = 25 min | 1 věta / 0,16 s | 76,65 % | |	+	| 10000-14999 | 1021427 | | | | 76,47 % | |
-	| 10000 | 1011453 | | | | | Nerozeběhlo se. |	+	| 15000-19999 | 1021428 | | | | 76,72 % | |
-	| 20000 | 1011454 | 6:23 h | 5602 s = 1:33 h | 1 věta / 0,60 s | 79,90 % | |	+	| 20000-24999 | 1021429 | | | | 76,72 % | |
-	| 25000 | 1011455 | | | | | |	+	| 25000-29999 | 1021430 | | | | 76,80 % | |
-	| 30000 | 1011456 | | | | | Nerozeběhlo se. |	+	| 30000-34999 | 1021431 | | | | 76,87 % | |
-	| 35000 | 1011457 | | | | | |	+	| 35000-39999 | 1021432 | | | | 76,94 % | |
-	| 40000 | 1011458 | | | | | |	+	| 40000-44999 | 1021433 | | | | 76,72 % | |
-	| 45000 | 1011459 | | | | | |	+	| 45000-49999 | 1021434 | | | | 76,98 % | |
-	| 50000 | 1011460 | | | | | |	+	| 50000-54999 | 1021435 | | | | 76,69 % | |
-	| 55000 | 1011461 | | | | | |	+	| 55000-59999 | 1021436 | | | | 76,96 % | |
-	| 60000 | 1011462 | | | | | |	+	| 60000-64999 | 1021437 | | | | 76,81 % | |
-	| 65000 | 1011463 | | | | | |	+	| 65000-68562 | 1021438 | | | | 75,86 % | |
		+
		+	Všechny díly se nakonec podařilo použít, čímž jsme definitivně vyvrátili, že by v trénovacích datech byla jedna nebo více vět, na kterých parser padá. Padání bylo asi opravdu způsobeno velikostí dílčích modelů v konkrétních případech.
		+
		+	Zarážející je ale úspěšnost. Přinejmenším pro první pětitisícový úsek měla být s céčkovým libsvm 80 %, tak jaktože jsme teď vždy naměřili pod 77 %?
		+
		+	=== Oprava 6.4.2010 ===
		+
		+	Předcházející pokusy s javovou implementací byly omylem spuštěny s výchozí, nikoli s Marcovou definicí rysů, což by mohlo vysvětlovat tu nižší úspěšnost. Nyní tedy druhý pokus:
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |
		+	| 00000-04999 | 1032102 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 05000-09999 | 1032103 | 24:24 min | | | 80,59 % | |
		+	| 10000-14999 | 1032104 | 31:56 min | | | 80,23 % | |
		+	| 15000-19999 | 1032116 | 30:27 min | | | 80,52 % | |
		+	| 20000-24999 | 1032106 | 21:35 min | | | 80,45 % | |
		+	| 25000-29999 | 1032107 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 30000-34999 | 1032108 | 28:30 min | | | 80,48 % | |
		+	| 35000-39999 | 1032109 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 40000-44999 | 1032110 | 19:17 min | | | 80,51 % | |
		+	| 45000-49999 | 1032111 | 22:54 min | | | 80,62 % | |
		+	| 50000-54999 | 1032112 | 22:31 min | | | 80,58 % | |
		+	| 55000-59999 | 1032113 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 60000-64999 | 1032114 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 65000-68562 | 1032115 | 12:43 min | | | 79,69 % | |
		+
		+	==== Splitting trick podle slovního poddruhu, jlibsvm ====
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum |
		+	| 1000 | 1177862 | 3:00 min | 1304 s = 21:43 min | 1 věta / 0,14 s | 73,81 % | 27.4.2010 |
		+	| 2000 | 1177863 | 7:32 min | 1715 s = 28:35 min | 1 věta / 0,19 s | 76,98 % | 27.4.2010 |
		+	| 5000 | 1177864 | 42:28 min | 3282 s = 54:42 min | 1 věta / 0,35 s | 79,86 % | 27.4.2010 |
		+	| 10000 | 1177866 | | | | | 27.4.2010 |
		+	| 20000 | 1177867 | | | | | 27.4.2010 |
		+	| 25000 | 1177868 | | | | | 27.4.2010 |
		+	| 30000 | 1177870 | | | | | 27.4.2010 |
		+	| 35000 | 1177871 | | | | | 27.4.2010 |
		+	| 40000 | 1177872 | | | | | 27.4.2010 |
		+	| 45000 | 1177873 | | | | | 27.4.2010 |
		+	| 50000 | 1177875 | | | | | 27.4.2010 |
		+	| 55000 | 1177876 | | | | | 27.4.2010 |
		+	| 60000 | 1177877 | | | | | 27.4.2010 |
		+	| 65000 | 1177878 | | | | | 27.4.2010 |
		+	| full | 1177879 | | | | | 27.4.2010 |
		+
		+	==== Splitting trick podle slovního poddruhu, clibsvm ====
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum |
		+	| 1000 | 1177881 | 42 s | 939 s = 15:38 min | 1 věta / 0,10 s | 73,81 % | 27.4.2010 |
		+	| 2000 | 1177882 | 2:31 min | 1659 s = 27:39 min | 1 věta / 0,18 s | 76,98 % | 27.4.2010 |
		+	| 5000 | 1177883 | 17:52 min | 3324 s = 55:23 min | 1 věta / 0,36 s | 79,86 % | 27.4.2010 |
		+	| 10000 | 1177884 | 1:15 h | 5966 s = 1:39 h | 1 věta / 0,64 s | 81,63 % | 27.4.2010 |
		+	| 20000 | 1177901 | náhlá smrt 1177885 | | | | 27.4.2010 |
		+	| 25000 | 1177886 | | | | | 27.4.2010 |
		+	| 30000 | 1177887 | | | | | 27.4.2010 |
		+	| 35000 | 1177888 | | | | | 27.4.2010 |
		+	| 40000 | 1177902 | náhlá smrt 1177889 | | | | 27.4.2010 |
		+	| 45000 | 1177890 | | | | | 27.4.2010 |
		+	| 50000 | 1177904 | náhlá smrt 1177891 i 1177904, vzdávám | | | | 27.4.2010 |
		+	| 55000 | 1177892 | | | | | 27.4.2010 |
		+	| 60000 | 1177893 | náhlá smrt 1177893 | | | | 27.4.2010 |
		+	| 65000 | 1177894 | náhlá smrt 1177894 | | | | 27.4.2010 |
		+	| full | 1177895 | náhlá smrt 1177895 | | | | 27.4.2010 |
	==== Co dál? ====		==== Co dál? ====
-	* Pokusy, na kterých céčková verze ''libsvm'' havarovala, zkusit ještě s javovou verzí. (Již běží.)	+	* Ještě pustit javovské ''libsvm'' a uppsalské dělení (CPOSTAG) na celý treebank. Zatím jsem to udělal nejvýše pro prvních 65000 vět, ale treebank jich má přes 68000.
	* Navrhnout jemnější dělení modelů ''libsvm'', aby modely 003 a 004 nebyly tak velké. Např. přidat slovní poddruh a pád.		* Navrhnout jemnější dělení modelů ''libsvm'', aby modely 003 a 004 nebyly tak velké. Např. přidat slovní poddruh a pád.
	* Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů?		* Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů?

---

[ Back to the navigation ] [ Back to the content ]