Differences

This shows you the differences between two versions of the page.

--- grid [2008/04/07 23:25]
ufal
+++ grid [2017/09/26 18:30]
popel delete outdated/old tricks
@@ Line 1: / Line 1: @@
-====== Sun Grid Engine (SGE) ======
+====== ÚFAL Grid Engine (LRC) ======
-Cluster (shluk) neboli grid (mříž, síť) je skupina počítačů, na kterých běží software pro automatické umístění vašeho výpočtu na dosud nevytížený stroj. Cluster na ÚFALu se nazývá LRC (Linguistic Research Cluster) a clustrovací software na něm je Sun Grid Engine. Do clusteru jsou zařazené tyto počítače:
+LRC (Linguistic Research Cluster) is a name of ÚFAL's computational grid/cluster, which has (as of 2017/09) about 1600 CPU cores (115 servers + 2 submission heads), with a total 10 TiB of RAM. It uses [[https://en.wikipedia.org/wiki/Oracle_Grid_Engine|(Sun/Oracle/Son of) Grid Engine]] software (SGE) for job scheduling etc.
-  * lrc.ufal.hide.ms.mff.cuni.cz: hlava clusteru. To znamená, že neslouží k výpočtům, ale ke správě fronty výpočtů, které se odesílají na výpočetní stroje v clusteru. Na hlavě se nemají pouštět žádné náročné výpočty a naopak na ostatní stroje v clusteru se mají výpočty odesílat výhradně prostřednictvím hlavy. Hlava má 2 procesory Intel Pentium D 3 GHz a 1 GB paměti.
+If you need GPU processing, see a special page about our [[:gpu|GPU cluster called DLL]] (which is actually a subsystem of LRC with independent queue ''gpu.q'').
-  * fireball1 až 10 (4xcore, 16 GB RAM, Fedora 7, 2 procesory Intel Xeon 3 GHz)
-  * tauri1 až 10 (4xcore, 16 GB RAM, Fedora 7, 2 procesory Intel Xeon 3 GHz)
-  * orion1 až 10 (4xcore, 16 GB RAM, Fedora 7, 2 procesory Intel Xeon 2 GHz)
-  * sol1 až 13 (4xcore, 16 GB RAM, Fedora 7, 2 procesory AMD Opteron Dual Core 2 GHz)
+===== List of Machines =====
+The list has been updated 2017/09. All machines have Ubuntu 14.04.
+Some machines are at Malá Strana (ground floor, new server room built from Lindat budget), some are at Troja (5 km north-east).
+If you need to quickly distinguish which machine is located where, you can use your knowledge of [[https://en.wikipedia.org/wiki/Trojan_War|Trojan war]]-related heroes, ''qhost -q'', or the tables below.
+==== Troja (troja-all.q) ====
+^ Name                ^ CPU type            ^ GHz ^cores ^RAM(GB)^ note ^
+| achilles[1-8]       | Intel               | 3.2 |   32 |  128 |  |
+| hector[1-8]         | Intel               | 1.3 |   32 |  128 |  |
+| helena[1-8]         | Intel               | 2.6 |   32 |  128 |  |
+| paris[1-8]          | Intel               | 2.4 |   32 |  128 |  |
+==== MS = Malá Strana (ms-all.q) ====
+^ Name                ^ CPU type            ^ GHz ^cores ^RAM(GB)^ note ^
+| andromeda[1-13]     | AMD 2xCore4 Opteron | 2.8 |    8 |   32 |  |
+| hydra[1-4]          | AMD                 | 2.6 |   16 |  128 |  |
+| fireball[1-10]      |Intel ??2xCore4 Xeon | 3.0 |    4 |   32 |  |
+| hyperion[1-9]       | Intel 2xCore2 Xeon  | 3.0 |    4 |   32 |  |
+| lucifer[1-10]       |Intel ??2xCore4 Xeon | 2.4 |   16 |  128 |  |
+| orion[1-6]          | Intel 2xCore4 Xeon  | 2.3 |    8 |   32 |  |
+| orion[7-10]         | Intel               | 2.0 |    4 |   32 |  |
+| tauri[1-10]         |Intel ??2xCore4 Xeon | 3.0 |    4 |   32 |  |
+| cosmos              | Intel 4xCore2 Xeon  | 2.9 |    8 |  256 |  |
+| belzebub            | Intel 8xCore4 Xeon  | 2.9 |   32 |  256 |  |
+| iridium             |Intel ??2xCore4 Xeon | 1.9 |   16 |  512 | also in ''gpu.q'' |
+| twister[1,2]        | Intel 2xCore4 Xeon  | 2.4 |    8 |   48 | also in ''gpu.q'' |
+=== Outside LRC cluster (but located as MS) ===
+^ Name                ^ CPU type            ^ GHz ^cores ^ RAM(GB)^ note  ^
+| lrc[1,2]            | Intel               | 2.3 |    4 |   45 | **no computing here**, just submit jobs |
+| pandora[1-10]       | 2xCore2 Intel Xeon  | 2.6 |      |   16 | special cluster&queue ''ms-guests.q''   |
+| sol[1-5]            | Intel               | 2.6 |    4 |   16 | you can ssh here and compute |
+| sol[6-8]            | Intel               | 2.0 |    8 |   16 | you can ssh here and compute |
+The two **lrc machines** are so called heads of the cluster. **No computation is allowed here**, i.e. no CPU-intensive, disk-intensive nor RAM-intensive computation (very simple scripts are OK). You should just ssh to ''lrc1'' or ''lrc2'' and submit your jobs as described bellow.
+Alternatively, you can ssh to one of the **sol machines** and submit jobs from here. It is allowed to compute here, which is useful e.g. when you have a script which submits your jobs, but it also collects statistics from the jobs outputs (and possibly submits new jobs conditioned on the statistics). However, the sol machines are relatively slow and may be occupied by your colleagues, so for bigger (longer) tasks, always prefer submission as separate jobs.
+The **pandora machines** are in a special cluster (not accessible from lrc) and queue **ms-guests.q** available for our colleagues from KSVI and for students of [[http://ufal.mff.cuni.cz/courses/npfl102|Data intensive computing]] (see the 2016 handouts if you missed the course).
+fronty výpočtů, které se odesílají na výpočetní stroje v clusteru. Na hlavě se nemají pouštět žádné náročné výpočty a naopak na ostatní stroje v clusteru se mají výpočty odesílat výhradně prostřednictvím hlavy. Hlava má 2 procesory Intel Pentium D 3 GHz a 1 GB paměti. Ve skutečnosti existují hlavy dvě - lrc1 a lrc2, které sdílí IP adresu lrc.ufal.hide.ms.mff.cuni.cz. V případě výpadku jedné z hlav, přebírá kontrolu ta druhá.
 Frontovací systém umožňuje:
@@ Line 18: / Line 56: @@
 Jednou za život musíte provést [[Základní nastavení SGE]], abyste SGE mohli používat.
 ===== Ukázka užití SGE =====
@@ Line 25: / Line 62: @@
 <code>
-ssh lrc
+ssh lrc2
   # přihlašte se na hlavu clusteru
 echo "hostname; pwd" > skript.sh
@@ Line 38: / Line 75: @@
   # Pořadí parametrů **je** důležité, co je za jménem skriptu, to se předává skriptu.
 qstat
-  # Podívejme se, jaké úlohy běží.
+qstat -u '*'
+  # Podívejme se, jaké vaše úlohy běží.
   # SGE chvíli čeká, než skript opravdu spustí. Pro malinké úlohy tedy SGE může představovat
   # zbytečné zpoždění.
+  # -u '*' ukáže úlohy všech uživatelů na clusteri
 cat skript.sh.oXXXXX
   # vypište si výstup skriptu. XXXXX je ID jobu, které bylo přiděleno
@@ Line 62: / Line 101: @@
 qsub -S /bin/bash
   # když chcete, aby skript běžel v bashi
-qdel all
+qsub -V
+  # když chcete předat proměnné prostředí
+qdel \*
   # když chcete zrušit všechny své joby (rušit cizí nesmíte)
 </code>
-** V.N.: "qdel all" mi nefunguje, nahradil jsem za:**
-   qdel "*"
@@ Line 76: / Line 116: @@
   * Nespouštět úlohy ručně. (O ručně spuštěných úlohách SGE nemá informaci, klidně na daný uzel pošle ještě další úlohy z fronty.)
+    * Interaktivní shell se dá získat příkazem ''qrsh'' (přičemž specifikujete požadavky na zdroje stejně jako u ''qsub'')
 Další doporučení:
@@ Line 82: / Line 123: @@
   * Uklízet po sobě lokální data, protože jinak si tam už nikdo nic užitečného nepustí.
   * Vyhnout se hodně divokému paralelnímu přístupu ke sdíleným diskům. NFS server to pak nepěkně zpomalí pro všechny. Distribuujte tedy i data.
+  * Informovat SGE, kolik paměti úloha žere, aby na strojích nedošla paměť (a používat "hard" limit, kdy SGE úlohu zabije, pokud rezervovanou paměť překročí): <code>qsub -hard -l mem_free=8G -l act_mem_free=8G -l h_vmem=8G</code>
 Víc pravidel není.
+===== Slušné chování =====
+Pokud chci spouštět úlohy, které poběží dlouhou dobu (hodiny, dny), nepustím je všechny najednou, aby cluster mohli využívat i ostatní.
 ===== Triky a opentlení =====
 ==== ~bojar/tools/shell/qsubmit ====
@@ Line 99: / Line 146: @@
 </code>
+lépe funguje ''~{stepanek,pajas}/bin/qcmd'' (nemusí se kvotovat parametry, správně počítá čas běhu...)
-==== ~zeman/bin/qsub.csh ====
+===== Monitorování úloh =====
-Podobná věc pro ''tcsh''. Pokud bychom chtěli použít přesměrování standardního vstupu a výstupu, musíme ho dát do uvozovek nebo apostrofů, protože jinak se o něm ''qsub.csh'' nedozví, do skriptu k odeslání to neopíše a naopak jeho standardní vstup a výstup bude přesměrován. V přesměrování i v případných dalších argumentech, kde se vyskytují cesty k souborům, je vhodné použít úplné cesty. Pozor také na to, aby šlo o soubory a složky viditelné z celé sítě (tedy ne ve vašem ''/mnt/h/tmp'', například).
+  * ''qstat [-u user]'' -- seznam úloh aktuálně běžících / ve frontě
+  * ''qhost'' -- dostupné zdroje
-<code tcsh>setenv SCRIPTFILE /tmp/`basename $1`.$$.csh
+  * ''/SGE/REPORTER/LRC-UFAL/bin/lrc_users_real_mem_usage -u user -w'' -- aktuální využití paměti uživatelem
-echo $* > $SCRIPTFILE
+  * ''/SGE/REPORTER/LRC-UFAL/bin/lrc_users_limits_requested -w'' -- nárokované požadavky uživatelů
-echo $*
+  * ''/SGE/REPORTER/LRC-UFAL/bin/lrc_nodes_meminfo'' -- vypis vsech uzlu a stav vytiznosti pameti.
-echo qsub -cwd -V -S /bin/tcsh -m e $SCRIPTFILE
+    * mem_total: celkova pamet uzlu
-qsub -cwd -V -S /bin/tcsh -m e $SCRIPTFILE
+    * mem_free: tedy kolik je jeste volne pameti z pametove quoty uzlu
-qstat -u '*'
+    * act_mem_free: kolik uzlu OPRAVDU zbyva volne pameti
-rm $SCRIPTFILE</code>
+    * mem_used: kolik je pameti skutecne pouzito
+  * ''/SGE/REPORTER/LRC-UFAL/bin/lrc_state_overview'' -- celkový přehled o clusteru
-Příklad spuštění:
+    * celkovy pocet jader, pocet vyuzitych jader
+    * celkova velikost RAM, kolik je ji fyzicky nepouzite, kolik je ji jeste nerezervovane
-<code>qsub.csh $PARSER/train.pl "< $cesta/${xx}train.csts > $cesta/${xx}.1.stat"</code>
+    * po jednotlivych uzivatelich (zrovna pocitajicich) -- kolik jim bezi uloh, kolik jich maji ve fronte a kolik z nich je ve stavu hold
+  * ''cat /SGE/REPORTER/LRC-UFAL/stats/userlist.weight'' -- seznam uživatelů clusteru seřazený podle dosavadní aktivity (počet odeslaných úloh × čas, který běžely), aktualizovaný každý den v&nbsp;noci
-(Kdybych místo uvozovek použil apostrofy, nerozbalily by se mi proměnné. První argument (název skriptu) klidně mohl být v uvozovkách spolu s přesměrováním. Dal jsem ho ven jen proto, že potom ''qsub.csh'' podle něj pojmenuje job ve frontě.)
+  * [[https://ufaladm2.ufal.hide.ms.mff.cuni.cz/munin/ufal.hide.ms.mff.cuni.cz/lrc1.ufal.hide.ms.mff.cuni.cz/lrc_users.html|Munin: graf vytíženosti clusteru podle uživatelů]] (viditelný pouze ze sítě ÚFAL)
 ===== Časté a záludné problémy =====
-==== Submitnutý job nesmí znovu submitovat ====
-Pokud se nemýlím, není dovoleno použít ''qsub'' ve skriptu/programu, který je už přes ''qsub'' spuštěn.
+==== Submitnutý job může znovu submitovat ====
+Danovy starší zkušenosti s clusterem PBS (nikoli SGE) říkaly, že tohle nejde. Ale jde to, aspoň u nás. Příkazy ''qsub'' a spol. jsou kromě hlavy clusteru dostupné i na všech strojích clusteru, samozřejmě pokud váš soubor ''.bashrc'', ''.cshrc'' apod. zajistí, že se i na nich provede inicializace prostředí SGE.
@@ Line 182: / Line 231: @@
 fi
 </code>
+==== Jak zjistit, jaké zdroje jsem pro svou úlohu požadoval ====
+<code>qstat -j 973884,982737,984029,984030,984031,984034,984036 | grep resource
+hard resource_list:         mem_free=50g
+hard resource_list:         mem_free=200g
+hard resource_list:         mem_free=16g
+hard resource_list:         mem_free=16g
+hard resource_list:         mem_free=16g
+hard resource_list:         mem_free=31g</code>
+==== Jak rezervovat více jader na stejném stroji pro 1 job ====
+<code>
+qsub -pe smp <pocet jader>
+</code>

[ Back to the navigation ] [ Back to the content ]

Institute of Formal and Applied Linguistics Wiki

Differences