[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki


[ Back to the navigation ]

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision
Previous revision
Next revision Both sides next revision
grid [2008/10/20 15:05]
novak
grid [2008/10/29 11:31]
bojar ukazka volani a lepsi
Line 108: Line 108:
 ~bojar/tools/shell/qsubmit "bashovy_prikaz < prismeruj > presmeruj 2> atd..." ~bojar/tools/shell/qsubmit "bashovy_prikaz < prismeruj > presmeruj 2> atd..."
 </code>  </code> 
 +
  
  
Line 127: Line 128:
  
 (Kdybych místo uvozovek použil apostrofy, nerozbalily by se mi proměnné. První argument (název skriptu) klidně mohl být v uvozovkách spolu s přesměrováním. Dal jsem ho ven jen proto, že potom ''qsub.csh'' podle něj pojmenuje job ve frontě.) (Kdybych místo uvozovek použil apostrofy, nerozbalily by se mi proměnné. První argument (název skriptu) klidně mohl být v uvozovkách spolu s přesměrováním. Dal jsem ho ven jen proto, že potom ''qsub.csh'' podle něj pojmenuje job ve frontě.)
 +
 +
 +
 +
 +==== TectoMT: devel/tools/cluster_utils/qrunblocks ====
 +
 +Jako ''$BRUNBLOCKS'', ale spouští úlohy na gridu (bez pomoci [[internal:jtred]]u).
 +
 +   qrunblocks filelist blocks
 +
 +Skript zadanou hromádku souboru rozdělí do ''-''''-jobs'' jobů. Každý job na gridu pak projede své soubory danou sekvencí bloků.
 +
 +Soubory možno zadat filelistem, nebo pomocí ''-''''-glob'' (stručně ''-g''). Bloky možno vyjmenovat v jednom argumentu, nebo načíst ze souboru pomocí ''--blocksfile SOUBOR''.
 +
 +Je nutné buď zadat ''-''''-tmt-root CESTA'', nebo mít nastaven ''$TMT_ROOT'' podle inicializace TectoMT.
 +
 +Parametr ''-E'' zpusobí, že se jobům z aktuálního prostředí procedí všechny proměnné ''TMT_PARAM_*'' (čili např. model parseru ap.). Případně je pomocí ''-e'' možné vyjmenovat některé (další) ručně.
 +
 +Parametr ''-''''-sync'' způsobí, že skript navíc bude (pasivně) čekat, až všechny joby skončí.
 +
 +Výstup každého jobu jde do vlastního logu, ''JOBNAME.o123456''. Pokud JOBNAME nezadáte (parametr ''-N''), užije se defaultní ''qrunblocks''.
 +
 +Zatím není na závěr nijak testováno, jestli se všechny analýzy povedly. Jediné, o co se snažím, je, aby na konci každého logu bylo napsáno ''Status: FAILED'', pokud se analýza toho kusu nepovedla.
 +
 +Určitě je tam ještě spousta nevychytaných much, zejm. s různým escapováním různých věcí... Do budoucna plánuju přidat nejenom hromadný test úspěchu, ale taky sebrání STDOUT všech kousků.
 +
  
 ===== Časté a záludné problémy ===== ===== Časté a záludné problémy =====
Line 192: Line 219:
 fi fi
 </code> </code>
 +
  
  
Line 244: Line 272:
   * Pokud lze všechno předat parametry, nemusí se otevírat obousměrná roura a situace bude jednodušší   * Pokud lze všechno předat parametry, nemusí se otevírat obousměrná roura a situace bude jednodušší
   * Pokud ''muj_skript.pl'' začne psát na výstup dřív, než přečetl všechen vstup, dojde k deadlocku. Lze vyřešit obalením příkazy ''cat'' v ''obaleno.sh''.   * Pokud ''muj_skript.pl'' začne psát na výstup dřív, než přečetl všechen vstup, dojde k deadlocku. Lze vyřešit obalením příkazy ''cat'' v ''obaleno.sh''.
-  * Celý příklad je použit v Czengu od V.N.+  * Celý příklad je k vidění v Czengu od V.N.
  

[ Back to the navigation ] [ Back to the content ]