[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki


[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision
Previous revision
Next revision Both sides next revision
user:zeman:joshua [2009/06/01 21:29]
zeman ant clean
user:zeman:joshua [2009/06/01 23:00]
zeman Spouštění na clusteru.
Line 1: Line 1:
 ====== Joshua ====== ====== Joshua ======
  
-Toto jsou Danovy poznámky k práci s hierarchickým překladovým dekodérem Joshuou (reimplementace Hiera (David Chiang) v Javě od lidí z JHU).+Toto jsou Danovy poznámky k práci s hierarchickým překladovým dekodérem Joshuou (reimplementace Hiera (David Chiang) v Javě od lidí z JHU (Zhifei Li)).
  
 Zdroje informací: Zdroje informací:
   * Soubory ''INSTALL'' a ''README'' přímo v balíčku s Joshuou.   * Soubory ''INSTALL'' a ''README'' přímo v balíčku s Joshuou.
 +  * http://www.clsp.jhu.edu/wiki2/JosHUa_-_JHU_Open_Source_Architecture - wiki Joshuy na JHU, jenže jak sami říkají, zastaralá
 +  * http://www.clsp.jhu.edu/wiki2/Joshua_Lab - cvičení s Joshuou na JHU, všechno už mají nainstalováno, ale u nich. Nicméně z toho vyplývá, že to pouštějí na clusteru 64bitových strojů (dokonce něco mají zkompilováno pro ně a nepoběží to jinde) se Sun Grid Engine
 +  * http://sourceforge.net/projects/joshua - download (ale viz též níže), jinak toho tu moc není
  
 ===== Instalace ===== ===== Instalace =====
Line 33: Line 36:
 <code>ant clean</code> <code>ant clean</code>
  
 +Otestujeme, že je Joshua funkční:
 +
 +<code>ant test
 +./example/decode_example_javalm.sh
 +./example/decode_example_srilm.sh</code>
 +
 +Joshuu jsem překládal na zenu. Teď je ještě potřeba otestovat, že funguje i na clusteru, třeba na počítači sol1. A ejhle, na 64 bitech přestala fungovat spolupráce se SRILM.
 +
 +<code>21:35 sol1:/ha/work/people/zeman/joshua> ./example/decode_example_srilm.sh
 +Jun 1, 2009 9:35:43 PM joshua.decoder.JoshuaConfiguration readConfigFile
 +INFO: you use a LM feature function, so make sure you have a LM grammar
 +Exception in thread "main" java.lang.UnsatisfiedLinkError: /ha/work/people/zeman/joshua/lib/libsrilm.so: /ha/work/people/zeman/joshua/lib/libsrilm.so: wrong ELF class: ELFCLASS32 (Possible cause: architecture word width mismatch)
 +        at java.lang.ClassLoader$NativeLibrary.load(Native Method)
 +        at java.lang.ClassLoader.loadLibrary0(ClassLoader.java:1767)
 +        at java.lang.ClassLoader.loadLibrary(ClassLoader.java:1692)
 +        at java.lang.Runtime.loadLibrary0(Runtime.java:840)
 +        at java.lang.System.loadLibrary(System.java:1047)
 +        at joshua.corpus.vocab.SrilmSymbol.<init>(SrilmSymbol.java:46)
 +        at joshua.decoder.JoshuaDecoder.initializeSymbolTable(JoshuaDecoder.java:322)
 +        at joshua.decoder.JoshuaDecoder.initialize(JoshuaDecoder.java:259)
 +        at joshua.decoder.JoshuaDecoder.<init>(JoshuaDecoder.java:108)
 +        at joshua.decoder.JoshuaDecoder.main(JoshuaDecoder.java:684)</code>
 +
 +Přestože SRILM, který nebyl přeložen na 64 bitech, běží jak na 32, tak na 64 bitech, s Joshuou na 64 bitech spolupracovat neumí (na 32 ano). Nepomůže ani když překlad Joshuy pustím až na 64 bitech (při spolupráci s 32bitovým SRILM).
 +
 +**Nicméně se zdá, že pomohlo následující:**
 +  * Nalogoval jsem se na sol1 (aby kompilace probíhala na clusterové 64bitové architektuře).
 +  * Upravil jsem $SRILM/sbin/machine-type tak, aby vracel i686-m64 (teď byl upravený, aby i zde dával jen i686).
 +  * Vlezl jsem do $SRILM/common/Makefile.machine.i686-m64. TCL proměnné tam byly v pořádku, ale přidal jsem do voleb překladu (ADDITIONAL_CFLAGS i ADDITIONAL_CXXFLAGS) volbu -fPIC. Pokud by se to přeložilo bez ní, knihovny SRILM by pak nešly slinkovat přes Swig s Joshuou.
 +  * make clean, pak make World
 +  * Vrátil jsem se do $JOSHUA_HOME a pustil ant clean, pak ant compile, nakonec ant test a hlavně ten ./example/decode_example_srilm.sh.
 +
 +==== Cluster ====
 +
 +Ke spuštění Joshuy na clusteru se hodí např. Ondrova obálka (nebo i ta moje vlastní, ale tu bych neměl nutit např. Gauravovi, když jako jeden z mála pořád pracuju s tcsh).
 +
 +<code>kinit
 +ssh lrc-two
 +cd $JOSHUA_HOME
 +~bojar/tools/shell/qsubmit ./example/decode_example_srilm.sh
 +qstat -u '*'</code>

[ Back to the navigation ] [ Back to the content ]