Differences

This shows you the differences between two versions of the page.

--- grid [2017/09/26 11:28]
popel
+++ grid [2017/09/26 18:30]
popel delete outdated/old tricks
@@ Line 1: / Line 1: @@
 ====== ÚFAL Grid Engine (LRC) ======
-LRC (Linguistic Research Cluster) is a name of ÚFAL's CPU computational cluster, which has (as of 2017/09) about 1600 CPU cores (115 servers + 2 submission heads), with a total 10 TiB of RAM.
+LRC (Linguistic Research Cluster) is a name of ÚFAL's computational grid/cluster, which has (as of 2017/09) about 1600 CPU cores (115 servers + 2 submission heads), with a total 10 TiB of RAM. It uses [[https://en.wikipedia.org/wiki/Oracle_Grid_Engine|(Sun/Oracle/Son of) Grid Engine]] software (SGE) for job scheduling etc.
-If you need GPU processing, see a special page about our [[:gpu|GPU cluster called DLL]].
+If you need GPU processing, see a special page about our [[:gpu|GPU cluster called DLL]] (which is actually a subsystem of LRC with independent queue ''gpu.q'').
-Cluster (shluk) neboli grid (mříž, síť) je skupina počítačů, na kterých běží software pro automatické umístění vašeho výpočtu na dosud nevytížený stroj. Cluster na ÚFALu se nazývá LRC (Linguistic Research Cluster) a clustrovací software na něm je (Sun/Oracle/Son of) Grid Engine. Do clusteru jsou zařazené tyto počítače:
+===== List of Machines =====
+The list has been updated 2017/09. All machines have Ubuntu 14.04.
+Some machines are at Malá Strana (ground floor, new server room built from Lindat budget), some are at Troja (5 km north-east).
+If you need to quickly distinguish which machine is located where, you can use your knowledge of [[https://en.wikipedia.org/wiki/Trojan_War|Trojan war]]-related heroes, ''qhost -q'', or the tables below.
-  * lrc.ufal.hide.ms.mff.cuni.cz: hlava clusteru. To znamená, že neslouží k výpočtům, ale ke správě fronty výpočtů, které se odesílají na výpočetní stroje v clusteru. Na hlavě se nemají pouštět žádné náročné výpočty a naopak na ostatní stroje v clusteru se mají výpočty odesílat výhradně prostřednictvím hlavy. Hlava má 2 procesory Intel Pentium D 3 GHz a 1 GB paměti. Ve skutečnosti existují hlavy dvě - lrc1 a lrc2, které sdílí IP adresu lrc.ufal.hide.ms.mff.cuni.cz. V případě výpadku jedné z hlav, přebírá kontrolu ta druhá.
+==== Troja (troja-all.q) ====
-  * V následující tabulce je uveden seznam výpočetních uzlů clusteru (aktuální k 6.4.2012):
+^ Name                ^ CPU type            ^ GHz ^cores ^RAM(GB)^ note ^
+| achilles[1-8]       | Intel               | 3.2 |   32 |  128 |  |
+| hector[1-8]         | Intel               | 1.3 |   32 |  128 |  |
+| helena[1-8]         | Intel               | 2.6 |   32 |  128 |  |
+| paris[1-8]          | Intel               | 2.4 |   32 |  128 |  |
-^ Jméno                   ^ CPU                         ^ RAM (GB)   ^ OS               ^
+==== MS = Malá Strana (ms-all.q) ====
-| andromeda[1-13]         | 2xCore4 AMD Opteron 2.8 Ghz | 32         | Ubuntu 10.04     |
-| fireball[1-10]          | 2xCore4 Intel Xeon 3 Ghz    | 32         | Ubuntu 10.04     |
-| hyperion[1-10]          | 2xCore2 Intel Xeon 3 Ghz    | 32         | Ubuntu 10.04     |
-| lucifer[1-10]           | 2xCore4 Intel Xeon 2.4 Ghz  | 128        | Ubuntu 10.04     |
-| orion[1-10]             | 2xCore4 Intel Xeon 2 Ghz    | 32         | Ubuntu 10.04     |
-| pandora[1-10]           | 2xCore2 Intel Xeon 2.6 Ghz  | 16         | Ubuntu 10.04     |
-| sol[1-8,11-13]          | 2xCore4 AMD Opteron 2 Ghz   | 16         | Ubuntu 10.04     |
-| tauri[1-10]             | 2xCore4 Intel Xeon 3 Ghz    | 32         | Ubuntu 10.04     |
-| cosmos                  | 4xCore2 Intel Xeon 2.93 Ghz | 256        | Ubuntu 10.04     |
-| belzebub                | 8xCore4 Intel Xeon 2.90 Ghz | 256        | Ubuntu 10.04     |
-| iridium                 | 2xCore4 Intel Xeon 1.86 Ghz | 512        | Ubuntu 10.04     |
-| twister[1,2]            | 2xCore4 Intel Xeon 2.4 Ghz  | 48         | Ubuntu 10.04     |
+^ Name                ^ CPU type            ^ GHz ^cores ^RAM(GB)^ note ^
+| andromeda[1-13]     | AMD 2xCore4 Opteron | 2.8 |    8 |   32 |  |
+| hydra[1-4]          | AMD                 | 2.6 |   16 |  128 |  |
+| fireball[1-10]      |Intel ??2xCore4 Xeon | 3.0 |    4 |   32 |  |
+| hyperion[1-9]       | Intel 2xCore2 Xeon  | 3.0 |    4 |   32 |  |
+| lucifer[1-10]       |Intel ??2xCore4 Xeon | 2.4 |   16 |  128 |  |
+| orion[1-6]          | Intel 2xCore4 Xeon  | 2.3 |    8 |   32 |  |
+| orion[7-10]         | Intel               | 2.0 |    4 |   32 |  |
+| tauri[1-10]         |Intel ??2xCore4 Xeon | 3.0 |    4 |   32 |  |
+| cosmos              | Intel 4xCore2 Xeon  | 2.9 |    8 |  256 |  |
+| belzebub            | Intel 8xCore4 Xeon  | 2.9 |   32 |  256 |  |
+| iridium             |Intel ??2xCore4 Xeon | 1.9 |   16 |  512 | also in ''gpu.q'' |
+| twister[1,2]        | Intel 2xCore4 Xeon  | 2.4 |    8 |   48 | also in ''gpu.q'' |
+=== Outside LRC cluster (but located as MS) ===
+^ Name                ^ CPU type            ^ GHz ^cores ^ RAM(GB)^ note  ^
+| lrc[1,2]            | Intel               | 2.3 |    4 |   45 | **no computing here**, just submit jobs |
+| pandora[1-10]       | 2xCore2 Intel Xeon  | 2.6 |      |   16 | special cluster&queue ''ms-guests.q''   |
+| sol[1-5]            | Intel               | 2.6 |    4 |   16 | you can ssh here and compute |
+| sol[6-8]            | Intel               | 2.0 |    8 |   16 | you can ssh here and compute |
+The two **lrc machines** are so called heads of the cluster. **No computation is allowed here**, i.e. no CPU-intensive, disk-intensive nor RAM-intensive computation (very simple scripts are OK). You should just ssh to ''lrc1'' or ''lrc2'' and submit your jobs as described bellow.
+Alternatively, you can ssh to one of the **sol machines** and submit jobs from here. It is allowed to compute here, which is useful e.g. when you have a script which submits your jobs, but it also collects statistics from the jobs outputs (and possibly submits new jobs conditioned on the statistics). However, the sol machines are relatively slow and may be occupied by your colleagues, so for bigger (longer) tasks, always prefer submission as separate jobs.
+The **pandora machines** are in a special cluster (not accessible from lrc) and queue **ms-guests.q** available for our colleagues from KSVI and for students of [[http://ufal.mff.cuni.cz/courses/npfl102|Data intensive computing]] (see the 2016 handouts if you missed the course).
+fronty výpočtů, které se odesílají na výpočetní stroje v clusteru. Na hlavě se nemají pouštět žádné náročné výpočty a naopak na ostatní stroje v clusteru se mají výpočty odesílat výhradně prostřednictvím hlavy. Hlava má 2 procesory Intel Pentium D 3 GHz a 1 GB paměti. Ve skutečnosti existují hlavy dvě - lrc1 a lrc2, které sdílí IP adresu lrc.ufal.hide.ms.mff.cuni.cz. V případě výpadku jedné z hlav, přebírá kontrolu ta druhá.
 Frontovací systém umožňuje:
@@ Line 125: / Line 147: @@
 lépe funguje ''~{stepanek,pajas}/bin/qcmd'' (nemusí se kvotovat parametry, správně počítá čas běhu...)
-==== ~zeman/bin/qsub.csh ====
-Podobná věc pro ''tcsh''. Pokud bychom chtěli použít přesměrování standardního vstupu a výstupu, musíme ho dát do uvozovek nebo apostrofů, protože jinak se o něm ''qsub.csh'' nedozví, do skriptu k odeslání to neopíše a naopak jeho standardní vstup a výstup bude přesměrován. V přesměrování i v případných dalších argumentech, kde se vyskytují cesty k souborům, je vhodné použít úplné cesty. Pozor také na to, aby šlo o soubory a složky viditelné z celé sítě (tedy ne ve vašem ''/mnt/h/tmp'', například).
-<code tcsh>setenv SCRIPTFILE /tmp/`basename $1`.$$.csh
-echo $* > $SCRIPTFILE
-echo $*
-echo qsub -cwd -V -S /bin/tcsh -m e $SCRIPTFILE
-qsub -cwd -V -S /bin/tcsh -m e $SCRIPTFILE
-qstat -u '*'
-rm $SCRIPTFILE</code>
-Příklad spuštění:
-<code>qsub.csh $PARSER/train.pl "< $cesta/${xx}train.csts > $cesta/${xx}.1.stat"</code>
-(Kdybych místo uvozovek použil apostrofy, nerozbalily by se mi proměnné. První argument (název skriptu) klidně mohl být v uvozovkách spolu s přesměrováním. Dal jsem ho ven jen proto, že potom ''qsub.csh'' podle něj pojmenuje job ve frontě.)
-==== TectoMT: devel/tools/cluster_utils/qrunblocks ====
-Jako ''$BRUNBLOCKS'', ale spouští úlohy na gridu (bez pomoci [[internal:jtred]]u).
-   qrunblocks filelist blocks
-Skript zadanou hromádku souboru rozdělí do ''-''''-jobs'' jobů. Každý job na gridu pak projede své soubory danou sekvencí bloků.
-Soubory možno zadat filelistem, nebo pomocí ''-''''-glob'' (stručně ''-g''). Bloky možno vyjmenovat v jednom argumentu, nebo načíst ze souboru pomocí ''--blocksfile SOUBOR''.
-Je nutné buď zadat ''-''''-tmt-root CESTA'', nebo mít nastaven ''$TMT_ROOT'' podle inicializace TectoMT.
-Parametr ''-E'' zpusobí, že se jobům z aktuálního prostředí procedí všechny proměnné ''TMT_PARAM_*'' (čili např. model parseru ap.). Případně je pomocí ''-e'' možné vyjmenovat některé (další) ručně.
-Parametr ''-''''-sync'' způsobí, že skript navíc bude (pasivně) čekat, až všechny joby skončí.
-Výstup každého jobu jde do vlastního logu, ''JOBNAME.o123456''. Pokud JOBNAME nezadáte (parametr ''-N''), užije se defaultní ''qrunblocks''.
-Parametr ''-''''-join'' způsobí, že se STDOUT všech kousků (ve správném pořadí) sebere a vypíše na hlavní STDOUT (''-''''-join'' implikuje ''-''''-sync''). Při spojování se také dělá důkladný test exitstatusů, takže ''qrunblocks'' končí úspěchem jen tehdy, když všechny joby uspěly.
-Bez ''-''''-sync'' nebo ''-''''-join'' nezbývá, než kontrolovat, jestli logy jednotlivých jobů na konci nemají napsáno:  ''Status: FAILED''.
 ===== Monitorování úloh =====
@@ Line 270: / Line 248: @@
 </code>
-===== Synchronizace úloh (v Perlu) =====
-Pokud chci paralelizovat část úlohy (zde ''muj_skript.pl''), obvykle potřebuju po provedení paralelní části posbírat výsledky a hlavně počkat na dokončení všech paralelních větví. Jak na to jednoduše:
-  * Obalím svůj skript pro běh na gridu – vytvořím ''obaleno.sh'':
-    <code>
-#!/bin/bash
-. /net/projects/SGE/user/sge_profile >/dev/null
-qrsh -cwd -V -p -50 -l mf=5g -now no 'renice 10 $$ >/dev/null; ./muj_skript.pl $@'
-</code>
-  * Ve svém hlavním skriptu ho pak zavolám a posbírám výsledky:
-    <code>
-use FileHandle;
-use IPC::Open2;
-use threads;
-use threads::shared;
-my @threads;
-my @results;
-share(@results);
-for (@inputs)   {
-    my $t = async {
-        my $reader; my $writer;
-        my $pid = open2($reader, $writer, "./obaleno.sh " . $parametry); # Pustime ulohu na gridu
-        die "Failed to open bipipe" if !$pid;
-        $writer->autoflush(1); # Muzem zavolat, ale v gridu NEFUNGUJE!!!
-        print $writer "$_\n" or die; # Poslem uloze v gridu vstup
-        $writer->close(); # Dulezite, viz o 2 radky vyse
-        for (<$reader>)    { # Posbirame vysledky
-            chomp;
-            {
-               lock @results;
-               push @results, $_;
-            }
-        }
-        waitpid $pid, 0; # Pockame s ukoncenim vlakna na ukonceni ulohy v gridu
-        return $? >> 8; # Pokusime se ziskat navratovou hodnotu (netestoval jsem)
-    };
-    push @threads, $t;
-}
-for (@threads)  { # Pockame, az to vsichni dodelaji
-    die "Child exited with non-zero exit code" if $_->join();
-}
-</code>
-Poznámky:
-  * Pokud lze všechno předat parametry, nemusí se otevírat obousměrná roura a situace bude jednodušší
-  * Pokud ''muj_skript.pl'' začne psát na výstup dřív, než přečetl všechen vstup, dojde k deadlocku. Lze vyřešit obalením příkazy ''cat'' v ''obaleno.sh''.
-  * Celý příklad je k vidění v Czengu od V.N.

[ Back to the navigation ] [ Back to the content ]

Institute of Formal and Applied Linguistics Wiki

Differences