[ Skip to the content ]

Institute of Formal and Applied Linguistics Wiki

[ Back to the navigation ]

You are here: start » grid

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision 		Previous revision
Next revision Both sides next revision
grid [2012/10/19 13:04]
dusek 		grid [2017/09/26 18:18]
popel
Line 1: Line 1:
-====== Sun Grid Engine (SGE) ======+====== ÚFAL Grid Engine (LRC) ======
  
-Cluster (shluk) neboli grid (mříž, síť) je skupina počítačů, na kterých běží software pro automatické umístění vašeho výpočtu na dosud nevytížený stroj. Cluster na ÚFALu se nazývá LRC (Linguistic Research Cluster) a clustrovací software na něm je Sun Grid Engine. Do clusteru jsou zařazené tyto počítače:+LRC (Linguistic Research Cluster) is a name of ÚFAL's computational grid/cluster, which has (as of 2017/09) about 1600 CPU cores (115 servers + 2 submission heads), with a total 10 TiB of RAM. It uses [[https://en.wikipedia.org/wiki/Oracle_Grid_Engine|(Sun/Oracle/Son of) Grid Engine]] software (SGE) for job scheduling etc.
  
-  * lrc.ufal.hide.ms.mff.cuni.cz: hlava clusteru. To znamená, že neslouží k výpočtům, ale ke správě fronty výpočtů, které se odesílají na výpočetní stroje v clusteru. Na hlavě se nemají pouštět žádné náročné výpočty a naopak na ostatní stroje v clusteru se mají výpočty odesílat výhradně prostřednictvím hlavy. Hlava má 2 procesory Intel Pentium D 3 GHz a 1 GB paměti. Ve skutečnosti existují hlavy dvě - lrc1 a lrc2, které sdílí IP adresu lrc.ufal.hide.ms.mff.cuni.cz. V případě výpadku jedné z hlav, přebírá kontrolu ta druhá.  +If you need GPU processing, see a special page about our [[:gpu|GPU cluster called DLL]] (which is actually a subsystem of LRC with independent queue ''gpu.q'').
-  * V následující tabulce je uveden seznam výpočetních uzlů clusteru (aktuální k 6.4.2012):+
  
-^ Jméno                   ^ CPU                         ^ RAM (GB)   ^ OS               ^ +===== List of Machines ===== 
-| andromeda[1-13]         | 2xCore4 AMD Opteron 2.8 Ghz | 32         | Ubuntu 10.04     | +The list has been updated 2017/09. All machines have Ubuntu 14.04. 
-| fireball[1-10]          | 2xCore4 Intel Xeon 3 Ghz    | 32         | Ubuntu 10.04     | +Some machines are at Malá Strana (ground floor, new server room built from Lindat budget), some are at Troja (5 km north-east). 
-| hyperion[1-10]          | 2xCore2 Intel Xeon 3 Ghz    | 32         | Ubuntu 10.04     | +If you need to quickly distinguish which machine is located where, you can use your knowledge of [[https://en.wikipedia.org/wiki/Trojan_War|Trojan war]]-related heroes, ''qhost -q'', or the tables below. 
-| lucifer[1-5]            | 2xCore4 Intel Xeon 2.4 Ghz  | 128        | Ubuntu 10.04     | +
-| orion[1-10]             | 2xCore4 Intel Xeon 2 Ghz    | 32         | Ubuntu 10.04     | +
-| pandora[1-10]           | 2xCore2 Intel Xeon 2.6 Ghz  | 16         | Ubuntu 10.04     | +
-| sol[1-8,11-13]          | 2xCore4 AMD Opteron 2 Ghz   | 16         | Ubuntu 10.04     | +
-| tauri[1-10]             | 2xCore4 Intel Xeon 3 Ghz    | 32         | Ubuntu 10.04     | +
-| cosmos                  | 4xCore2 Intel Xeon 2.93 Ghz | 256        | Ubuntu 10.04     | +
-| iridium                 | 2xCore4 Intel Xeon 1.86 Ghz | 512        | Ubuntu 10.04     | +
-| twister[1,2]            | 2xCore4 Intel Xeon 2.4 Ghz  | 48         | Ubuntu 10.04     | +
-  +
  
 +==== Troja (troja-all.q) ====
 +^ Name                ^ CPU type            ^ GHz ^cores ^RAM(GB)^ note ^
 +| achilles[1-8]       | Intel               | 3.2 |   32 |  128 |  |
 +| hector[1-8]         | Intel               | 1.3 |   32 |  128 |  |
 +| helena[1-8]         | Intel               | 2.6 |   32 |  128 |  |
 +| paris[1-8]          | Intel               | 2.4 |   32 |  128 |  |
 +
 +==== MS = Malá Strana (ms-all.q) ====
 +
 +^ Name                ^ CPU type            ^ GHz ^cores ^RAM(GB)^ note ^
 +| andromeda[1-13]     | AMD 2xCore4 Opteron | 2.8 |    8 |   32 |  |
 +| hydra[1-4]          | AMD                 | 2.6 |   16 |  128 |  |
 +| fireball[1-10]      |Intel ??2xCore4 Xeon | 3.0 |    4 |   32 |  |
 +| hyperion[1-9]       | Intel 2xCore2 Xeon  | 3.0 |    4 |   32 |  |
 +| lucifer[1-10]       |Intel ??2xCore4 Xeon | 2.4 |   16 |  128 |  |
 +| orion[1-6]          | Intel 2xCore4 Xeon  | 2.3 |    8 |   32 |  |
 +| orion[7-10]         | Intel               | 2.0 |    4 |   32 |  |
 +| tauri[1-10]         |Intel ??2xCore4 Xeon | 3.0 |    4 |   32 |  |
 +| cosmos              | Intel 4xCore2 Xeon  | 2.9 |    8 |  256 |  |
 +| belzebub            | Intel 8xCore4 Xeon  | 2.9 |   32 |  256 |  |
 +| iridium             |Intel ??2xCore4 Xeon | 1.9 |   16 |  512 | also in ''gpu.q'' |
 +| twister[1,2]        | Intel 2xCore4 Xeon  | 2.4 |    8 |   48 | also in ''gpu.q'' |
 +
 +=== Outside LRC cluster (but located as MS) ===
 +^ Name                ^ CPU type            ^ GHz ^cores ^ RAM(GB)^ note  ^
 +| lrc[1,2]            | Intel               | 2.3 |    4 |   45 | **no computing here**, just submit jobs |
 +| pandora[1-10]       | 2xCore2 Intel Xeon  | 2.6 |      |   16 | special cluster&queue ''ms-guests.q''   |
 +| sol[1-5]            | Intel               | 2.6 |    4 |   16 | you can ssh here and compute |
 +| sol[6-8]            | Intel               | 2.0 |    8 |   16 | you can ssh here and compute |
 +
 +**lrc machines** are so called heads of the cluster. **No computation is allowed here** (i.e. no CPU-intensive, disk-intensive or RAM-intensive computation; very simple scripts are OK). You should just ssh to ''lrc1'' or ''lrc2'' and submit your jobs as described bellow.
 +
 +Alternatively, you can ssh to one of the **sol machines** and submit jobs from here. It is allow to do computing, which is useful e.g. when you have a script which submits your jobs, but it also collects statistics from the jobs outputs (and possibly submits new jobs conditioned on the statistics). However, The sol machines are relatively slow and may be occupied by your colleagues, so for bigger (longer) tasks, always prefer submission as separate jobs.
 +
 +The **pandora machines** are in a special cluster (not accessible from lrc) and queue **ms-guests.q** available for our colleagues from KSVI and for students of [[http://ufal.mff.cuni.cz/courses/npfl102|Data intensive computing]] (see the 2016 handouts if you missed the course).
 +
 +fronty výpočtů, které se odesílají na výpočetní stroje v clusteru. Na hlavě se nemají pouštět žádné náročné výpočty a naopak na ostatní stroje v clusteru se mají výpočty odesílat výhradně prostřednictvím hlavy. Hlava má 2 procesory Intel Pentium D 3 GHz a 1 GB paměti. Ve skutečnosti existují hlavy dvě - lrc1 a lrc2, které sdílí IP adresu lrc.ufal.hide.ms.mff.cuni.cz. V případě výpadku jedné z hlav, přebírá kontrolu ta druhá. 
 Frontovací systém umožňuje: Frontovací systém umožňuje:
  
Line 89: Line 116:
  
   * Nespouštět úlohy ručně. (O ručně spuštěných úlohách SGE nemá informaci, klidně na daný uzel pošle ještě další úlohy z fronty.)   * Nespouštět úlohy ručně. (O ručně spuštěných úlohách SGE nemá informaci, klidně na daný uzel pošle ještě další úlohy z fronty.)
-    * Interaktivní shell se dá získat příkazem ''qrsh''(kdy specifikujete požadavky na zdroje stejně jako u ''qsub'')+    * Interaktivní shell se dá získat příkazem ''qrsh'' (přičemž specifikujete požadavky na zdroje stejně jako u ''qsub'')
  
 Další doporučení: Další doporučení:
Line 258: Line 285:
 hard resource_list:         mem_free=16g hard resource_list:         mem_free=16g
 hard resource_list:         mem_free=31g</code> hard resource_list:         mem_free=31g</code>
 +
 +==== Jak rezervovat více jader na stejném stroji pro 1 job ====
 +
 +<code>
 +qsub -pe smp <pocet jader>
 +</code>
  
 ===== Synchronizace úloh (v Perlu) ===== ===== Synchronizace úloh (v Perlu) =====

[ Back to the navigation ] [ Back to the content ]