Differences
This shows you the differences between two versions of the page.
Both sides previous revision Previous revision Next revision | Previous revision Next revision Both sides next revision | ||
grid [2008/04/08 15:39] stepanek |
grid [2017/09/26 11:28] popel |
||
---|---|---|---|
Line 1: | Line 1: | ||
- | ====== | + | ====== |
- | Cluster (shluk) neboli grid (mříž, síť) je skupina počítačů, na kterých běží software pro automatické umístění vašeho výpočtu na dosud nevytížený stroj. Cluster na ÚFALu se nazývá LRC (Linguistic Research Cluster) | + | LRC (Linguistic Research |
- | | + | If you need GPU processing, see a special page about our [[:gpu|GPU cluster called DLL]]. |
- | * fireball1 až 10 (4xcore, 16 GB RAM, Fedora 7, 2 procesory | + | |
- | * tauri1 až 10 (4xcore, 16 GB RAM, Fedora 7, 2 procesory | + | Cluster (shluk) neboli grid (mříž, síť) je skupina počítačů, |
- | | + | |
- | | + | |
+ | * V následující tabulce je uveden seznam výpočetních uzlů clusteru | ||
+ | |||
+ | ^ Jméno | ||
+ | | andromeda[1-13] | ||
+ | | fireball[1-10] | ||
+ | | hyperion[1-10] | 2xCore2 | ||
+ | | lucifer[1-10] | ||
+ | | orion[1-10] | ||
+ | | pandora[1-10] | ||
+ | | sol[1-8,11-13] | ||
+ | | tauri[1-10] | ||
+ | | cosmos | ||
+ | | belzebub | ||
+ | | iridium | ||
+ | | twister[1, | ||
+ | | ||
Frontovací systém umožňuje: | Frontovací systém umožňuje: | ||
Line 18: | Line 34: | ||
Jednou za život musíte provést [[Základní nastavení SGE]], abyste SGE mohli používat. | Jednou za život musíte provést [[Základní nastavení SGE]], abyste SGE mohli používat. | ||
- | |||
===== Ukázka užití SGE ===== | ===== Ukázka užití SGE ===== | ||
Line 25: | Line 40: | ||
< | < | ||
- | ssh lrc | + | ssh lrc2 |
# přihlašte se na hlavu clusteru | # přihlašte se na hlavu clusteru | ||
echo " | echo " | ||
Line 38: | Line 53: | ||
# Pořadí parametrů **je** důležité, | # Pořadí parametrů **je** důležité, | ||
qstat | qstat | ||
- | | + | qstat -u ' |
+ | | ||
# SGE chvíli čeká, než skript opravdu spustí. Pro malinké úlohy tedy SGE může představovat | # SGE chvíli čeká, než skript opravdu spustí. Pro malinké úlohy tedy SGE může představovat | ||
# zbytečné zpoždění. | # zbytečné zpoždění. | ||
+ | # -u ' | ||
cat skript.sh.oXXXXX | cat skript.sh.oXXXXX | ||
# vypište si výstup skriptu. XXXXX je ID jobu, které bylo přiděleno | # vypište si výstup skriptu. XXXXX je ID jobu, které bylo přiděleno | ||
Line 62: | Line 79: | ||
qsub -S /bin/bash | qsub -S /bin/bash | ||
# když chcete, aby skript běžel v bashi | # když chcete, aby skript běžel v bashi | ||
- | qdel all | + | qsub -V |
+ | # když chcete předat proměnné prostředí | ||
+ | qdel \* | ||
# když chcete zrušit všechny své joby (rušit cizí nesmíte) | # když chcete zrušit všechny své joby (rušit cizí nesmíte) | ||
</ | </ | ||
- | ** V.N.: "qdel all" mi nefunguje, nahradil jsem za:** | ||
- | qdel " | ||
Line 77: | Line 94: | ||
* Nespouštět úlohy ručně. (O ručně spuštěných úlohách SGE nemá informaci, klidně na daný uzel pošle ještě další úlohy z fronty.) | * Nespouštět úlohy ručně. (O ručně spuštěných úlohách SGE nemá informaci, klidně na daný uzel pošle ještě další úlohy z fronty.) | ||
+ | * Interaktivní shell se dá získat příkazem '' | ||
Další doporučení: | Další doporučení: | ||
Line 83: | Line 101: | ||
* Uklízet po sobě lokální data, protože jinak si tam už nikdo nic užitečného nepustí. | * Uklízet po sobě lokální data, protože jinak si tam už nikdo nic užitečného nepustí. | ||
* Vyhnout se hodně divokému paralelnímu přístupu ke sdíleným diskům. NFS server to pak nepěkně zpomalí pro všechny. Distribuujte tedy i data. | * Vyhnout se hodně divokému paralelnímu přístupu ke sdíleným diskům. NFS server to pak nepěkně zpomalí pro všechny. Distribuujte tedy i data. | ||
+ | * Informovat SGE, kolik paměti úloha žere, aby na strojích nedošla paměť (a používat " | ||
+ | |||
Víc pravidel není. | Víc pravidel není. | ||
Line 91: | Line 111: | ||
===== Triky a opentlení ===== | ===== Triky a opentlení ===== | ||
+ | |||
==== ~bojar/ | ==== ~bojar/ | ||
Line 103: | Line 124: | ||
</ | </ | ||
+ | lépe funguje '' | ||
==== ~zeman/ | ==== ~zeman/ | ||
Line 121: | Line 143: | ||
(Kdybych místo uvozovek použil apostrofy, nerozbalily by se mi proměnné. První argument (název skriptu) klidně mohl být v uvozovkách spolu s přesměrováním. Dal jsem ho ven jen proto, že potom '' | (Kdybych místo uvozovek použil apostrofy, nerozbalily by se mi proměnné. První argument (název skriptu) klidně mohl být v uvozovkách spolu s přesměrováním. Dal jsem ho ven jen proto, že potom '' | ||
+ | |||
+ | |||
+ | |||
+ | |||
+ | |||
+ | ==== TectoMT: devel/ | ||
+ | |||
+ | Jako '' | ||
+ | |||
+ | | ||
+ | |||
+ | Skript zadanou hromádku souboru rozdělí do '' | ||
+ | |||
+ | Soubory možno zadat filelistem, nebo pomocí '' | ||
+ | |||
+ | Je nutné buď zadat '' | ||
+ | |||
+ | Parametr '' | ||
+ | |||
+ | Parametr '' | ||
+ | |||
+ | Výstup každého jobu jde do vlastního logu, '' | ||
+ | |||
+ | Parametr '' | ||
+ | |||
+ | Bez '' | ||
+ | |||
+ | ===== Monitorování úloh ===== | ||
+ | |||
+ | * '' | ||
+ | * '' | ||
+ | * ''/ | ||
+ | * ''/ | ||
+ | * ''/ | ||
+ | * mem_total: celkova pamet uzlu | ||
+ | * mem_free: tedy kolik je jeste volne pameti z pametove quoty uzlu | ||
+ | * act_mem_free: | ||
+ | * mem_used: kolik je pameti skutecne pouzito | ||
+ | * ''/ | ||
+ | * celkovy pocet jader, pocet vyuzitych jader | ||
+ | * celkova velikost RAM, kolik je ji fyzicky nepouzite, kolik je ji jeste nerezervovane | ||
+ | * po jednotlivych uzivatelich (zrovna pocitajicich) -- kolik jim bezi uloh, kolik jich maji ve fronte a kolik z nich je ve stavu hold | ||
+ | * '' | ||
+ | * [[https:// | ||
===== Časté a záludné problémy ===== | ===== Časté a záludné problémy ===== | ||
- | ==== Submitnutý job nesmí znovu submitovat ==== | ||
- | Pokud se nemýlím, není dovoleno použít '' | + | ==== Submitnutý job může znovu submitovat ==== |
+ | |||
+ | Danovy starší zkušenosti s clusterem PBS (nikoli SGE) říkaly, že tohle nejde. Ale jde to, aspoň u nás. Příkazy | ||
Line 186: | Line 253: | ||
fi | fi | ||
</ | </ | ||
+ | |||
+ | ==== Jak zjistit, jaké zdroje jsem pro svou úlohu požadoval ==== | ||
+ | |||
+ | < | ||
+ | hard resource_list: | ||
+ | hard resource_list: | ||
+ | hard resource_list: | ||
+ | hard resource_list: | ||
+ | hard resource_list: | ||
+ | hard resource_list: | ||
+ | |||
+ | ==== Jak rezervovat více jader na stejném stroji pro 1 job ==== | ||
+ | |||
+ | < | ||
+ | qsub -pe smp <pocet jader> | ||
+ | </ | ||
+ | |||
+ | ===== Synchronizace úloh (v Perlu) ===== | ||
+ | |||
+ | Pokud chci paralelizovat část úlohy (zde '' | ||
+ | |||
+ | * Obalím svůj skript pro běh na gridu – vytvořím '' | ||
+ | < | ||
+ | #!/bin/bash | ||
+ | . / | ||
+ | |||
+ | qrsh -cwd -V -p -50 -l mf=5g -now no ' | ||
+ | </ | ||
+ | * Ve svém hlavním skriptu ho pak zavolám a posbírám výsledky: | ||
+ | < | ||
+ | use FileHandle; | ||
+ | use IPC::Open2; | ||
+ | use threads; | ||
+ | use threads:: | ||
+ | my @threads; | ||
+ | my @results; | ||
+ | share(@results); | ||
+ | for (@inputs) | ||
+ | my $t = async { | ||
+ | my $reader; my $writer; | ||
+ | my $pid = open2($reader, | ||
+ | die " | ||
+ | $writer-> | ||
+ | print $writer " | ||
+ | $writer-> | ||
+ | for (< | ||
+ | chomp; | ||
+ | { | ||
+ | lock @results; | ||
+ | push @results, $_; | ||
+ | } | ||
+ | } | ||
+ | waitpid $pid, 0; # Pockame s ukoncenim vlakna na ukonceni ulohy v gridu | ||
+ | return $? >> 8; # Pokusime se ziskat navratovou hodnotu (netestoval jsem) | ||
+ | }; | ||
+ | push @threads, $t; | ||
+ | } | ||
+ | for (@threads) | ||
+ | die "Child exited with non-zero exit code" if $_-> | ||
+ | } | ||
+ | </ | ||
+ | |||
+ | Poznámky: | ||
+ | * Pokud lze všechno předat parametry, nemusí se otevírat obousměrná roura a situace bude jednodušší | ||
+ | * Pokud '' | ||
+ | * Celý příklad je k vidění v Czengu od V.N. |