[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

• ÚFAL Wiki Home
• ÚFAL Home
• Sitemap
• RSS
• ÚFAL calendar
• Recent changes
• Login
• Hledat:

[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

View differences: Side by SideInline Go

Link to this comparison view

Both sides previous revision Previous revision 2010/08/14 16:13 zeman Doběhly pokusy stackeager.2010/08/14 16:03 zeman Doběhly pokusy stackproj.2010/06/07 15:57 zeman Doběhlo stackeager 50000.2010/06/07 12:38 zeman Doběhlo stackproj 5000.2010/06/07 12:37 zeman Nová sada pokusů stackproj.2010/06/07 10:33 zeman Doběhla řada výpočtů stackeager.2010/06/02 11:02 zeman Nová sada pokusů stackeager.2010/06/02 09:17 zeman Aktualizace Co dál?2010/06/02 09:15 zeman Aktualizace Co dál?2010/05/28 10:28 zeman Doběhl švédský test full.2010/05/28 10:18 zeman Doběhly všechny liblinear.2010/05/28 10:17 zeman Doběhly všechny liblinear.2010/05/13 13:25 zeman liblinear.2010/05/13 11:28 zeman Aktualizace Co dál?2010/05/13 11:10 zeman Pustil jsem parser.2010/05/13 10:53 zeman Doběhl trénink jlibsvm na celém treebanku, ale parsing se nerozeběhl.2010/05/07 09:32 zeman Doběhlo jlibsvm full.2010/05/04 08:05 zeman Doběhlo jlibsvm 65000.2010/05/03 14:56 zeman Doběhly další jlibsvm.2010/04/29 10:01 zeman Doběhlo jlibsvm 30000.2010/04/28 16:19 zeman Doběhla další jlibsvm, zbývající clibsvm už všechna popadala.2010/04/27 21:43 zeman Na druhý pokus doběhlo clibsvm 20000.2010/04/27 16:21 zeman Doběhlo jlibsvm 10000.2010/04/27 15:03 zeman Větší céčkové modely už zase chcípají.2010/04/27 14:59 zeman Doběhlo clibsvm 5000 a 10000.2010/04/27 12:46 zeman Znova nezvěstné split-postag clibsvm 50000.2010/04/27 12:44 zeman Znova spuštěn jlibsvm full split-cpostag (včera zahynul při havárii NFS).2010/04/27 12:38 zeman Nově spuštěné úlohy clibsvm.2010/04/27 12:34 zeman Odstartovalo jlibsvm i clibsvm, ale některé úlohy clibsvm jsem musel pouštět znova.2010/04/27 11:14 zeman Po dvou pádech NFS znova pouštím split-postag jlibsvm.2010/04/26 16:49 zeman Puštěno jlibsvm na celém korpusu, příprava splitting tricku na subposu.2010/04/26 15:19 zeman Java celý treebank.2010/04/26 12:51 zeman Aktualizace Co dál?2010/04/26 12:49 zeman Doběhly zbývající testy javových modelů.2010/04/14 08:31 zeman Doběhla java 45000.2010/04/13 11:32 zeman Doběhla java 40000.2010/04/12 17:20 zeman Doběhla java 35000 test.2010/04/12 13:05 zeman Doběhla java 5000 opravný pokus.2010/04/12 10:42 zeman Nový pokus java 5000.2010/04/12 10:40 zeman Doběhla java 35000 trénink.2010/04/09 10:57 zeman V noci spadla síť, zbývající pokusy pouštím znova.2010/04/08 22:22 zeman Doběhla java 30000.2010/04/08 08:17 zeman Doběhla java 25000.2010/04/07 14:49 zeman Doběhla java 20000.2010/04/06 23:27 zeman Doběhla java 10000.2010/04/06 23:24 zeman 2010/04/06 17:47 zeman Doběhlo 05000-09999.2010/04/06 17:42 zeman 2010/04/06 17:13 zeman Doběhly javové pokusy 1000 a 2000 (a neúspěch 5000).2010/04/06 17:03 zeman Některé úlohy zahynuly, aniž by zanechaly chybové hlášení.2010/04/06 16:51 zeman Opravné pokusy alljava.pl a chunks5000.pl. Go Next revision		Previous revision 2010/08/14 16:13 zeman Doběhly pokusy stackeager.2010/08/14 16:03 zeman Doběhly pokusy stackproj.2010/06/07 15:57 zeman Doběhlo stackeager 50000.2010/06/07 12:38 zeman Doběhlo stackproj 5000.2010/06/07 12:37 zeman Nová sada pokusů stackproj.2010/06/07 10:33 zeman Doběhla řada výpočtů stackeager.2010/06/02 11:02 zeman Nová sada pokusů stackeager.2010/06/02 09:17 zeman Aktualizace Co dál?2010/06/02 09:15 zeman Aktualizace Co dál?2010/05/28 10:28 zeman Doběhl švédský test full.2010/05/28 10:18 zeman Doběhly všechny liblinear.2010/05/28 10:17 zeman Doběhly všechny liblinear.2010/05/13 13:25 zeman liblinear.2010/05/13 11:28 zeman Aktualizace Co dál?2010/05/13 11:10 zeman Pustil jsem parser.2010/05/13 10:53 zeman Doběhl trénink jlibsvm na celém treebanku, ale parsing se nerozeběhl.2010/05/07 09:32 zeman Doběhlo jlibsvm full.2010/05/04 08:05 zeman Doběhlo jlibsvm 65000.2010/05/03 14:56 zeman Doběhly další jlibsvm.2010/04/29 10:01 zeman Doběhlo jlibsvm 30000.2010/04/28 16:19 zeman Doběhla další jlibsvm, zbývající clibsvm už všechna popadala.2010/04/27 21:43 zeman Na druhý pokus doběhlo clibsvm 20000.2010/04/27 16:21 zeman Doběhlo jlibsvm 10000.2010/04/27 15:03 zeman Větší céčkové modely už zase chcípají.2010/04/27 14:59 zeman Doběhlo clibsvm 5000 a 10000.2010/04/27 12:46 zeman Znova nezvěstné split-postag clibsvm 50000.2010/04/27 12:44 zeman Znova spuštěn jlibsvm full split-cpostag (včera zahynul při havárii NFS).2010/04/27 12:38 zeman Nově spuštěné úlohy clibsvm.2010/04/27 12:34 zeman Odstartovalo jlibsvm i clibsvm, ale některé úlohy clibsvm jsem musel pouštět znova.2010/04/27 11:14 zeman Po dvou pádech NFS znova pouštím split-postag jlibsvm.2010/04/26 16:49 zeman Puštěno jlibsvm na celém korpusu, příprava splitting tricku na subposu.2010/04/26 15:19 zeman Java celý treebank.2010/04/26 12:51 zeman Aktualizace Co dál?2010/04/26 12:49 zeman Doběhly zbývající testy javových modelů.2010/04/14 08:31 zeman Doběhla java 45000.2010/04/13 11:32 zeman Doběhla java 40000.2010/04/12 17:20 zeman Doběhla java 35000 test.2010/04/12 13:05 zeman Doběhla java 5000 opravný pokus.2010/04/12 10:42 zeman Nový pokus java 5000.2010/04/12 10:40 zeman Doběhla java 35000 trénink.2010/04/09 10:57 zeman V noci spadla síť, zbývající pokusy pouštím znova.2010/04/08 22:22 zeman Doběhla java 30000.2010/04/08 08:17 zeman Doběhla java 25000.2010/04/07 14:49 zeman Doběhla java 20000.2010/04/06 23:27 zeman Doběhla java 10000.2010/04/06 23:24 zeman 2010/04/06 17:47 zeman Doběhlo 05000-09999.2010/04/06 17:42 zeman 2010/04/06 17:13 zeman Doběhly javové pokusy 1000 a 2000 (a neúspěch 5000).2010/04/06 17:03 zeman Některé úlohy zahynuly, aniž by zanechaly chybové hlášení.2010/04/06 16:51 zeman Opravné pokusy alljava.pl a chunks5000.pl. Go Next revision Both sides next revision
user:zeman:malt-parser [2010/04/12 13:05] zeman Doběhla java 5000 opravný pokus.		user:zeman:malt-parser [2010/04/27 12:46] zeman Znova nezvěstné split-postag clibsvm 50000.
Line 105:		Line 105:
	Joakim navrhuje, abychom zkusili dělení zjemnit, např. místo CPOSTAGu dělit modely podle slovního poddruhu (druhá pozice české značky). Pak by dílčí modely byly menší a libsvm by třeba nespadlo. Ve skutečnosti budu asi muset zjemňovat jiným způsobem, protože právě u podstatných jmen žádné zvláštní dělení na poddruhy neexistuje. Mohly by ale pomoct pády.		Joakim navrhuje, abychom zkusili dělení zjemnit, např. místo CPOSTAGu dělit modely podle slovního poddruhu (druhá pozice české značky). Pak by dílčí modely byly menší a libsvm by třeba nespadlo. Ve skutečnosti budu asi muset zjemňovat jiným způsobem, protože právě u podstatných jmen žádné zvláštní dělení na poddruhy neexistuje. Mohly by ale pomoct pády.
-
-
-
-
-
-
-
-
-
	==== Javová implementace libsvm ====		==== Javová implementace libsvm ====
Line 119:		Line 110:
	Předpokládá se, že vyžaduje více času a paměti. Podle dokumentace může dojít i k drobným odchylkám v úspěšnosti způsobeným odlišným zpracováním racionálních čísel.		Předpokládá se, že vyžaduje více času a paměti. Podle dokumentace může dojít i k drobným odchylkám v úspěšnosti způsobeným odlišným zpracováním racionálních čísel.
-	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |	+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum |
	| 1000 | 1032117 | 2:38 min | 1252 s = 20:52 min | 1 věta / 0,14 s | 74,63 % | 6.4.2010 |		| 1000 | 1032117 | 2:38 min | 1252 s = 20:52 min | 1 věta / 0,14 s | 74,63 % | 6.4.2010 |
	| 2000 | 1032118 | 8:44 min | 2344 s = 39:03 min | 1 věta / 0,25 s | 77,73 % | 6.4.2010 |		| 2000 | 1032118 | 8:44 min | 2344 s = 39:03 min | 1 věta / 0,25 s | 77,73 % | 6.4.2010 |
Line 127:		Line 118:
	| 25000 | 1032122 | 27:43 h | 16500 s = 4:35 h | 1 věta / 1,78 s | 84,24 % | 6.-8.4.2010 |		| 25000 | 1032122 | 27:43 h | 16500 s = 4:35 h | 1 věta / 1,78 s | 84,24 % | 6.-8.4.2010 |
	| 30000 | 1032123 | 47:21 h | 24255 s = 6:44 h | 1 věta / 2,62 s | 84,54 % | 6.-8.4.2010 |		| 30000 | 1032123 | 47:21 h | 24255 s = 6:44 h | 1 věta / 2,62 s | 84,54 % | 6.-8.4.2010 |
-	| 35000 | 1035249 | 2 dny 11:08 h | | | | 9.-12.4.2010 |	+	| 35000 | 1035249 | 2 dny 11:08 h | 21468 s = 5:58 h | 1 věta / 2,32 s | 84,89 % | 9.-12.4.2010 |
-	| 40000 | 1035250 | | | | | 9.4.2010 |	+	| 40000 | 1035250 | 3 dny 10 min | 24582 s = 6:50 h | 1 věta / 2,65 s | 85,08 % | 9.-12.4.2010 |
-	| 45000 | 1035251 | | | | | 9.4.2010 |	+	| 45000 | 1035251 | 4 dny 10:53 h | 33744 s = 9:22 h | 1 věta / 3,64 s | 85,35 % | 9.-14.4.2010 |
-	| 50000 | 1035252 | | | | | 9.4.2010 |	+	| 50000 | 1035252 | 5 dní 19:32 h | 37140 s = 10:19 h | 1 věta / 4,01 s | 85,47 % | 9.-15.4.2010 |
-	| 55000 | 1035258 | | | | | 9.4.2010 |	+	| 55000 | 1035258 | 7 dní 8:37 h | 40518 s = 11:15 h | 1 věta / 4,37 s | 85,65 % | 9.-17.4.2010 |
-	| 60000 | 1035254 | | | | | 9.4.2010 |	+	| 60000 | 1035254 | 7 dní 4:55 h | 34374 s = 9:33 h | 1 věta / 3,71 s | 85,80 % | 9.-17.4.2010 |
-	| 65000 | 1035255 | | | | | 9.4.2010 |	+	| 65000 | 1035255 | 5 dní 21:01 h | 31378 s = 8:43 h | 1 věta / 3,38 s | 85,96 % | 9.-15.4.2010 |
		+	| full | 1177906 | | | | | 27.4.2010 |
	==== Trénovací data rozsekaná na pětitisícové úseky ====		==== Trénovací data rozsekaná na pětitisícové úseky ====
Line 176:		Line 168:
	| 60000-64999 | 1032114 | | | | | Nevysvětlitelná náhlá smrt během trénování. |		| 60000-64999 | 1032114 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
	| 65000-68562 | 1032115 | 12:43 min | | | 79,69 % | |		| 65000-68562 | 1032115 | 12:43 min | | | 79,69 % | |
		+
		+	==== Splitting trick podle slovního poddruhu, jlibsvm ====
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum |
		+	| 1000 | 1177862 | 3:00 min | 1304 s = 21:43 min | 1 věta / 0,14 s | 73,81 % | 27.4.2010 |
		+	| 2000 | 1177863 | 7:32 min | 1715 s = 28:35 min | 1 věta / 0,19 s | 76,98 % | 27.4.2010 |
		+	| 5000 | 1177864 | 42:28 min | 3282 s = 54:42 min | 1 věta / 0,35 s | 79,86 % | 27.4.2010 |
		+	| 10000 | 1177866 | | | | | 27.4.2010 |
		+	| 20000 | 1177867 | | | | | 27.4.2010 |
		+	| 25000 | 1177868 | | | | | 27.4.2010 |
		+	| 30000 | 1177870 | | | | | 27.4.2010 |
		+	| 35000 | 1177871 | | | | | 27.4.2010 |
		+	| 40000 | 1177872 | | | | | 27.4.2010 |
		+	| 45000 | 1177873 | | | | | 27.4.2010 |
		+	| 50000 | 1177875 | | | | | 27.4.2010 |
		+	| 55000 | 1177876 | | | | | 27.4.2010 |
		+	| 60000 | 1177877 | | | | | 27.4.2010 |
		+	| 65000 | 1177878 | | | | | 27.4.2010 |
		+	| full | 1177879 | | | | | 27.4.2010 |
		+
		+	==== Splitting trick podle slovního poddruhu, clibsvm ====
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum |
		+	| 1000 | 1177881 | 42 s | 939 s = 15:38 min | 1 věta / 0,10 s | 73,81 % | 27.4.2010 |
		+	| 2000 | 1177882 | 2:31 min | 1659 s = 27:39 min | 1 věta / 0,18 s | 76,98 % | 27.4.2010 |
		+	| 5000 | 1177883 | | | | | 27.4.2010 |
		+	| 10000 | 1177884 | | | | | 27.4.2010 |
		+	| 20000 | 1177901 | náhlá smrt 1177885 | | | | 27.4.2010 |
		+	| 25000 | 1177886 | | | | | 27.4.2010 |
		+	| 30000 | 1177887 | | | | | 27.4.2010 |
		+	| 35000 | 1177888 | | | | | 27.4.2010 |
		+	| 40000 | 1177902 | náhlá smrt 1177889 | | | | 27.4.2010 |
		+	| 45000 | 1177890 | | | | | 27.4.2010 |
		+	| 50000 | 1177904 | náhlá smrt 1177891 i 1177904, vzdávám | | | | 27.4.2010 |
		+	| 55000 | 1177892 | | | | | 27.4.2010 |
		+	| 60000 | 1177893 | | | | | 27.4.2010 |
		+	| 65000 | 1177894 | | | | | 27.4.2010 |
		+	| full | 1177895 | | | | | 27.4.2010 |
	==== Co dál? ====		==== Co dál? ====
-	* Pokusy, na kterých céčková verze ''libsvm'' havarovala, zkusit ještě s javovou verzí. (Již běží.)	+	* Ještě pustit javovské ''libsvm'' a uppsalské dělení (CPOSTAG) na celý treebank. Zatím jsem to udělal nejvýše pro prvních 65000 vět, ale treebank jich má přes 68000.
	* Navrhnout jemnější dělení modelů ''libsvm'', aby modely 003 a 004 nebyly tak velké. Např. přidat slovní poddruh a pád.		* Navrhnout jemnější dělení modelů ''libsvm'', aby modely 003 a 004 nebyly tak velké. Např. přidat slovní poddruh a pád.
	* Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů?		* Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů?

---

[ Back to the navigation ] [ Back to the content ]