[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

• ÚFAL Wiki Home
• ÚFAL Home
• Sitemap
• RSS
• ÚFAL calendar
• Recent changes
• Login
• Hledat:

[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

View differences: Side by SideInline Go

Link to this comparison view

Both sides previous revision Previous revision 2010/04/26 12:49 zeman Doběhly zbývající testy javových modelů.2010/04/14 08:31 zeman Doběhla java 45000.2010/04/13 11:32 zeman Doběhla java 40000.2010/04/12 17:20 zeman Doběhla java 35000 test.2010/04/12 13:05 zeman Doběhla java 5000 opravný pokus.2010/04/12 10:42 zeman Nový pokus java 5000.2010/04/12 10:40 zeman Doběhla java 35000 trénink.2010/04/09 10:57 zeman V noci spadla síť, zbývající pokusy pouštím znova.2010/04/08 22:22 zeman Doběhla java 30000.2010/04/08 08:17 zeman Doběhla java 25000.2010/04/07 14:49 zeman Doběhla java 20000.2010/04/06 23:27 zeman Doběhla java 10000.2010/04/06 23:24 zeman 2010/04/06 17:47 zeman Doběhlo 05000-09999.2010/04/06 17:42 zeman 2010/04/06 17:13 zeman Doběhly javové pokusy 1000 a 2000 (a neúspěch 5000).2010/04/06 17:03 zeman Některé úlohy zahynuly, aniž by zanechaly chybové hlášení.2010/04/06 16:51 zeman Opravné pokusy alljava.pl a chunks5000.pl.2010/04/06 14:34 zeman Doběhly zbývající testy javových modelů.2010/04/02 16:10 zeman Java 35000.2010/04/02 15:00 zeman Komentář k pětitisícovým úsekům.2010/04/02 14:55 zeman Pětitisícové úseky.2010/04/02 10:10 zeman Java 25000.2010/04/01 22:54 zeman Trénovací data rozsekaná na pětitisícové úseky.2010/04/01 22:44 zeman 200002010/04/01 15:45 zeman Aktualizace Co dál?2010/04/01 15:34 zeman Javová implementace libsvm.2010/04/01 13:57 zeman Proč to padá?2010/03/31 16:01 zeman Doběhl švédský test 45000.2010/03/31 10:53 zeman 2010/03/31 10:50 zeman Aktualizace Co dál?2010/03/31 08:13 zeman Doběhl švédský test 50000.2010/03/31 08:08 zeman Švédské trénování 45000.2010/03/30 16:10 zeman 2010/03/30 16:06 zeman Švédské trénování 65000 spadlo.2010/03/30 15:15 zeman Doběhl švédský test 35000.2010/03/30 15:11 zeman Doběhl švédský test 30000.2010/03/30 14:34 zeman 2010/03/30 14:31 zeman Švédské trénování 50000.2010/03/30 13:20 zeman Doběhl švédský test 25000.2010/03/30 09:42 zeman Švédské trénování 30000.2010/03/30 08:58 zeman Několik tréninků spadlo a dva úspěšně doběhly.2010/03/29 15:53 zeman Evidence nových procesů, jejichž cílem je zjistit, proč trénování libsvm padá.2010/03/29 10:57 zeman 2010/03/29 10:54 zeman Podrobnější dělení trénovacích dat od 25000 vět do celého treebanku.2010/03/29 10:47 zeman Švédské trénování 68563 spadlo podruhé.2010/03/29 10:18 zeman Doběhl švédský test 20000.2010/03/28 22:04 zeman Švédské trénování 20000.2010/03/28 21:31 zeman Švédské trénování 68563 spadlo.2010/03/28 21:26 zeman Doběhl švédský test 10000.2010/03/28 14:12 zeman Doběhl švédský test 5000. Go Next revision		Previous revision 2013/06/12 13:08 zeman Úprava.2013/06/12 13:06 zeman Aktuální úkoly.2012/06/28 09:06 zeman Velikosti dat.2012/06/28 09:04 zeman Reorganizace a vyházení některých nepotřebných pasáží.2012/05/09 16:25 zeman Cesta ke starým pokusům.2012/05/09 16:23 zeman Malt Parser 1.7.1.2011/09/13 21:00 zeman Nejlepší výsledek.2010/08/25 11:14 zeman Algoritmy nivrestandard a nivreeager také nefungují.2010/08/25 11:10 zeman Možný důvod, proč covproj a covnonproj nefungují.2010/08/14 16:29 zeman Covproj padá.2010/08/14 16:19 zeman Pouštím pokusy covproj.2010/08/14 16:13 zeman Doběhly pokusy stackeager.2010/08/14 16:03 zeman Doběhly pokusy stackproj.2010/06/07 15:57 zeman Doběhlo stackeager 50000.2010/06/07 12:38 zeman Doběhlo stackproj 5000.2010/06/07 12:37 zeman Nová sada pokusů stackproj.2010/06/07 10:33 zeman Doběhla řada výpočtů stackeager.2010/06/02 11:02 zeman Nová sada pokusů stackeager.2010/06/02 09:17 zeman Aktualizace Co dál?2010/06/02 09:15 zeman Aktualizace Co dál?2010/05/28 10:28 zeman Doběhl švédský test full.2010/05/28 10:18 zeman Doběhly všechny liblinear.2010/05/28 10:17 zeman Doběhly všechny liblinear.2010/05/13 13:25 zeman liblinear.2010/05/13 11:28 zeman Aktualizace Co dál?2010/05/13 11:10 zeman Pustil jsem parser.2010/05/13 10:53 zeman Doběhl trénink jlibsvm na celém treebanku, ale parsing se nerozeběhl.2010/05/07 09:32 zeman Doběhlo jlibsvm full.2010/05/04 08:05 zeman Doběhlo jlibsvm 65000.2010/05/03 14:56 zeman Doběhly další jlibsvm.2010/04/29 10:01 zeman Doběhlo jlibsvm 30000.2010/04/28 16:19 zeman Doběhla další jlibsvm, zbývající clibsvm už všechna popadala.2010/04/27 21:43 zeman Na druhý pokus doběhlo clibsvm 20000.2010/04/27 16:21 zeman Doběhlo jlibsvm 10000.2010/04/27 15:03 zeman Větší céčkové modely už zase chcípají.2010/04/27 14:59 zeman Doběhlo clibsvm 5000 a 10000.2010/04/27 12:46 zeman Znova nezvěstné split-postag clibsvm 50000.2010/04/27 12:44 zeman Znova spuštěn jlibsvm full split-cpostag (včera zahynul při havárii NFS).2010/04/27 12:38 zeman Nově spuštěné úlohy clibsvm.2010/04/27 12:34 zeman Odstartovalo jlibsvm i clibsvm, ale některé úlohy clibsvm jsem musel pouštět znova.2010/04/27 11:14 zeman Po dvou pádech NFS znova pouštím split-postag jlibsvm.2010/04/26 16:49 zeman Puštěno jlibsvm na celém korpusu, příprava splitting tricku na subposu.2010/04/26 15:19 zeman Java celý treebank.2010/04/26 12:51 zeman Aktualizace Co dál?2010/04/26 12:49 zeman Doběhly zbývající testy javových modelů.2010/04/14 08:31 zeman Doběhla java 45000.2010/04/13 11:32 zeman Doběhla java 40000.2010/04/12 17:20 zeman Doběhla java 35000 test.2010/04/12 13:05 zeman Doběhla java 5000 opravný pokus.2010/04/12 10:42 zeman Nový pokus java 5000.2010/04/12 10:40 zeman Doběhla java 35000 trénink. Go Next revision Both sides next revision
user:zeman:malt-parser [2010/04/01 15:45] zeman Aktualizace Co dál?		user:zeman:malt-parser [2010/05/13 11:10] zeman Pustil jsem parser.
Line 108:		Line 108:
	==== Javová implementace libsvm ====		==== Javová implementace libsvm ====
-	Předpokládá se, že vyžaduje více času a paměti. Podle dokumentace může dojít i k drobným odchylkám v úspěšnosti způsobeným odlišným zpracováním racionálních čísel. Mně se zatím zdá, že odchylky budou spíše značné, a to v neprospěch javové implementace.	+	Předpokládá se, že vyžaduje více času a paměti. Podle dokumentace může dojít i k drobným odchylkám v úspěšnosti způsobeným odlišným zpracováním racionálních čísel.
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum |
		+	| 1000 | 1032117 | 2:38 min | 1252 s = 20:52 min | 1 věta / 0,14 s | 74,63 % | 6.4.2010 |
		+	| 2000 | 1032118 | 8:44 min | 2344 s = 39:03 min | 1 věta / 0,25 s | 77,73 % | 6.4.2010 |
		+	| 5000 | 1040063 | 48:07 min | 3956 s = 1:06 h | 1 věta / 0,43 s | 80,18 % | 12.4.2010 |
		+	| 10000 | 1032120 | 3:57 h | 7235 s = 2:01 h | 1 věta / 0,78 s | 82,11 % | 6.4.2010 |
		+	| 20000 | 1032121 | 16:45 h | 12979 s = 3:36 h | 1 věta / 1,40 s | 83,65 % | 6.-7.4.2010 |
		+	| 25000 | 1032122 | 27:43 h | 16500 s = 4:35 h | 1 věta / 1,78 s | 84,24 % | 6.-8.4.2010 |
		+	| 30000 | 1032123 | 47:21 h | 24255 s = 6:44 h | 1 věta / 2,62 s | 84,54 % | 6.-8.4.2010 |
		+	| 35000 | 1035249 | 2 dny 11:08 h | 21468 s = 5:58 h | 1 věta / 2,32 s | 84,89 % | 9.-12.4.2010 |
		+	| 40000 | 1035250 | 3 dny 10 min | 24582 s = 6:50 h | 1 věta / 2,65 s | 85,08 % | 9.-12.4.2010 |
		+	| 45000 | 1035251 | 4 dny 10:53 h | 33744 s = 9:22 h | 1 věta / 3,64 s | 85,35 % | 9.-14.4.2010 |
		+	| 50000 | 1035252 | 5 dní 19:32 h | 37140 s = 10:19 h | 1 věta / 4,01 s | 85,47 % | 9.-15.4.2010 |
		+	| 55000 | 1035258 | 7 dní 8:37 h | 40518 s = 11:15 h | 1 věta / 4,37 s | 85,65 % | 9.-17.4.2010 |
		+	| 60000 | 1035254 | 7 dní 4:55 h | 34374 s = 9:33 h | 1 věta / 3,71 s | 85,80 % | 9.-17.4.2010 |
		+	| 65000 | 1035255 | 5 dní 21:01 h | 31378 s = 8:43 h | 1 věta / 3,38 s | 85,96 % | 9.-15.4.2010 |
		+	| full | 1177906, 1305554 | 10 dní 4:40 h | | | | 27.4.-7.5.2010 |
		+
		+	==== Trénovací data rozsekaná na pětitisícové úseky ====
	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |		| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |
-	| 1000 | 1011450 | 37 s | | | | Spadlo, kód -1 není v tabulce symbolů. |	+	| 00000-04999 | 1021425 | | | | 76,65 % | |
-	| 2000 | 1011451 | 2:46 min | 661 s = 11 min | 1 věta / 0,07 s | 74,10 % | |	+	| 05000-09999 | 1021426 | | | | 76,99 % | |
-	| 5000 | 1011452 | 17:45 min | 1527 s = 25 min | 1 věta / 0,16 s | 76,65 % | |	+	| 10000-14999 | 1021427 | | | | 76,47 % | |
-	| 10000 | 1011453 | | | | | Nerozeběhlo se. |	+	| 15000-19999 | 1021428 | | | | 76,72 % | |
-	| 20000 | 1011454 | | | | | |	+	| 20000-24999 | 1021429 | | | | 76,72 % | |
-	| 25000 | 1011455 | | | | | |	+	| 25000-29999 | 1021430 | | | | 76,80 % | |
-	| 30000 | 1011456 | | | | | Nerozeběhlo se. |	+	| 30000-34999 | 1021431 | | | | 76,87 % | |
-	| 35000 | 1011457 | | | | | |	+	| 35000-39999 | 1021432 | | | | 76,94 % | |
-	| 40000 | 1011458 | | | | | |	+	| 40000-44999 | 1021433 | | | | 76,72 % | |
-	| 45000 | 1011459 | | | | | |	+	| 45000-49999 | 1021434 | | | | 76,98 % | |
-	| 50000 | 1011460 | | | | | |	+	| 50000-54999 | 1021435 | | | | 76,69 % | |
-	| 55000 | 1011461 | | | | | |	+	| 55000-59999 | 1021436 | | | | 76,96 % | |
-	| 60000 | 1011462 | | | | | |	+	| 60000-64999 | 1021437 | | | | 76,81 % | |
-	| 65000 | 1011463 | | | | | |	+	| 65000-68562 | 1021438 | | | | 75,86 % | |
		+
		+	Všechny díly se nakonec podařilo použít, čímž jsme definitivně vyvrátili, že by v trénovacích datech byla jedna nebo více vět, na kterých parser padá. Padání bylo asi opravdu způsobeno velikostí dílčích modelů v konkrétních případech.
		+
		+	Zarážející je ale úspěšnost. Přinejmenším pro první pětitisícový úsek měla být s céčkovým libsvm 80 %, tak jaktože jsme teď vždy naměřili pod 77 %?
		+
		+	=== Oprava 6.4.2010 ===
		+
		+	Předcházející pokusy s javovou implementací byly omylem spuštěny s výchozí, nikoli s Marcovou definicí rysů, což by mohlo vysvětlovat tu nižší úspěšnost. Nyní tedy druhý pokus:
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Poznámka |
		+	| 00000-04999 | 1032102 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 05000-09999 | 1032103 | 24:24 min | | | 80,59 % | |
		+	| 10000-14999 | 1032104 | 31:56 min | | | 80,23 % | |
		+	| 15000-19999 | 1032116 | 30:27 min | | | 80,52 % | |
		+	| 20000-24999 | 1032106 | 21:35 min | | | 80,45 % | |
		+	| 25000-29999 | 1032107 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 30000-34999 | 1032108 | 28:30 min | | | 80,48 % | |
		+	| 35000-39999 | 1032109 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 40000-44999 | 1032110 | 19:17 min | | | 80,51 % | |
		+	| 45000-49999 | 1032111 | 22:54 min | | | 80,62 % | |
		+	| 50000-54999 | 1032112 | 22:31 min | | | 80,58 % | |
		+	| 55000-59999 | 1032113 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 60000-64999 | 1032114 | | | | | Nevysvětlitelná náhlá smrt během trénování. |
		+	| 65000-68562 | 1032115 | 12:43 min | | | 79,69 % | |
		+
		+	==== Splitting trick podle slovního poddruhu, jlibsvm ====
		+
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum |
		+	| 1000 | 1177862 | 3:00 min | 1304 s = 21:43 min | 1 věta / 0,14 s | 73,81 % | 27.4.2010 |
		+	| 2000 | 1177863 | 7:32 min | 1715 s = 28:35 min | 1 věta / 0,19 s | 76,98 % | 27.4.2010 |
		+	| 5000 | 1177864 | 42:28 min | 3282 s = 54:42 min | 1 věta / 0,35 s | 79,86 % | 27.4.2010 |
		+	| 10000 | 1177866 | 2:50 h | 5863 s = 1:38 h | 1 věta / 0,63 s | 81,63 % | 27.4.2010 |
		+	| 20000 | 1177867 | 15:52 h | 13877 s = 3:51 h | 1 věta / 1,50 s | 83,28 % | 27.-28.4.2010 |
		+	| 25000 | 1177868 | 21:02 h | 13345 s = 3:42 h | 1 věta / 1,44 s | 83,97 % | 27.-28.4.2010 |
		+	| 30000 | 1177870 | 30:36 h | 15689 s = 4:21 h | 1 věta / 1,69 s | 84,23 % | 27.-28.4.2010 |
		+	| 35000 | 1177871 | 39:04 h | | | | 27.4.2010 | Parsing selhal. |
		+	| 40000 | 1177872 | 2 dny 8 h | 19298 s = 5:22 h | 1 věta / 2,08 s | 84,92 % | 27.-30.4.2010 |
		+	| 45000 | 1177873 | 2 dny 20 h | 21907 s = 6:05 h | 1 věta / 2,36 s | 85,18 % | 27.-30.4.2010 |
		+	| 50000 | 1177875 | 3 dny 14 h | 22805 s = 6:20 h | 1 věta / 2,46 s | 85,37 % | 27.4.-1.5.2010 |
		+	| 55000 | 1177876 | 5 dní | 32512 s = 9:02 h | 1 věta / 3,51 s | 85,57 % | 27.4.-2.5.2010 |
		+	| 60000 | 1177877 | 5 dní 20 h | 27429 s = 7:37 h | 1 věta / 2,96 s | 85,70 % | 27.4.-3.5.2010 |
		+	| 65000 | 1177878 | 6 dní 4 h | 28112 s = 7:48 h | 1 věta / 3,03 s | 85,91 % | 27.4.-3.5.2010 |
		+	| full | 1177879 | 8 dní 7 h | 38957 s = 10:49 h | 1 věta / 4,20 s | 86,02 % | 27.4.-6.5.2010 |
		+
		+	==== Splitting trick podle slovního poddruhu, clibsvm ====
		+	| N | Úloha | Délka trénování | Délka parsingu | Rychlost parsingu | Úspěšnost | Datum | Poznámka |
		+	| 1000 | 1177881 | 42 s | 939 s = 15:38 min | 1 věta / 0,10 s | 73,81 % | 27.4.2010 | |
		+	| 2000 | 1177882 | 2:31 min | 1659 s = 27:39 min | 1 věta / 0,18 s | 76,98 % | 27.4.2010 | |
		+	| 5000 | 1177883 | 17:52 min | 3324 s = 55:23 min | 1 věta / 0,36 s | 79,86 % | 27.4.2010 | |
		+	| 10000 | 1177884 | 1:15 h | 5966 s = 1:39 h | 1 věta / 0,64 s | 81,63 % | 27.4.2010 | |
		+	| 20000 | 1177901 | 5:32 h | 10843 s = 3:01 h | 1 věta / 1,17 s | 83,28 % | 27.4.2010 | První pokus 1177885 selhal, ale druhý doběhl. |
		+	| 25000 | 1177886 | | | | | 27.4.2010 | Náhlá smrt. |
		+	| 30000 | 1177887 | 17:21 h | 19860 s = 5:31 h | 1 věta / 2,14 s | 84,23 % | 27.-28.4.2010 |
		+	| 35000 | 1177888 | 16:31 h | | | | 27.-28.4.2010 | Selhal parsing. |
		+	| 40000 | 1177902 | | | | | 27.4.2010 | Náhlá smrt. |
		+	| 45000 | 1177890 | | | | | 27.-28.4.2010 | Náhlá smrt. |
		+	| 50000 | 1177904 | | | | | 27.4.2010 | Dva pokusy (1177891 a 904), zahynuly oba. |
		+	| 55000 | 1177892 | | | | | 27.4.2010 | Náhlá smrt. |
		+	| 60000 | 1177893 | | | | | 27.4.2010 | Náhlá smrt. |
		+	| 65000 | 1177894 | | | | | 27.4.2010 | Náhlá smrt. |
		+	| full | 1177895 | | | | | 27.4.2010 | Náhlá smrt. |
	==== Co dál? ====		==== Co dál? ====
-	* Pokusy, na kterých céčková verze ''libsvm'' havarovala, zkusit ještě s javovou verzí. (Již běží.)	+	* Ještě pustit javovské ''libsvm'' a uppsalské dělení (CPOSTAG) na celý treebank. Zatím jsem to udělal nejvýše pro prvních 65000 vět, ale treebank jich má přes 68000.
	* Navrhnout jemnější dělení modelů ''libsvm'', aby modely 003 a 004 nebyly tak velké. Např. přidat slovní poddruh a pád.		* Navrhnout jemnější dělení modelů ''libsvm'', aby modely 003 a 004 nebyly tak velké. Např. přidat slovní poddruh a pád.
	* Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů?		* Rozsekat trénovací data na 14 pětitisícových kusů a s každým z nich pustit trénink a parsing zvlášť. Spadnou některé? A mimochodem, jakou úspěšnost by dalo hlasování takto natrénovaných kusů?

---

[ Back to the navigation ] [ Back to the content ]