====== Cluster ======


===== Intro et logiciels =====

  * La doc que vous recevez à la création de compte est [[http://sms-nas.emse.fr/isn_lgf/index.php/serveurs-de-calcul/centaure | sur la baie ]]
  * Le pole [[https://services-numeriques.emse.fr/calcul-intensif-hpc/| Calcul Intensif]] dispose d'une page [[https://services-numeriques.emse.fr/calcul-intensif-hpc/cluster-calcul/ | cluster]] avec un [[https://services-numeriques.emse.fr/calcul-intensif-hpc/outils/| guide pratique]]. Consultez le ! :)
  * Vous pouvez joindre les admins à [[centaure-admins@listes.emse.fr]]

  * **La liste des logiciels** disponible est sur [[recherche:Cluster:softwares]], ainsi que comment compiler certaines choses sur votre home.

===== Lancement massif de jobs: slurm array =====
Il peut arriver que vous vouliez lancer massivement des jobs. Comment économiser les licences, ou simplement respecter les autres utilisateurs ?
Avec les slurm arrays, vous définissez une pile et un nombre maximum de jobs concurrents, qui piochent dans cette pile.
Dans le fichier job, ajoutez avec les commandes spéciales slurm du début la ligne suivante:

<Code:bash>
#SBATCH --array 1-500%10
</Code>

Ainsi, vous définissez avoir 500 jobs à lancer, mais n'en autorisez que 10 en simultané. Vous disposez alors d'une variable "$SLURM_ARRAY_TASK_ID" que vous pouvez utiliser de la sorte (par exemple, avec python):

<Code:bash>
module purge
module load anaconda/python3
cd $SCRATCH
srun python array_job.py $SLURM_ARRAY_TASK_ID
</Code>

Et le python correspondant:
<Code:python>
import sys 
import time

print('Job num {:d}. Dodo 10s...'.format(int(sys.argv[1])))
time.sleep(10)
print("voila")
</Code>

Les fichiers exemples sont {{ :recherche:cluster:slurm_array.tar.gz | ici}} 

===== Tips =====

==== Nettoyage de jobs plantés ====
Parfois, des job annulés ou finis restent sur les noeuds: il faut les tuer à la main.

Si vous ne savez pas bien où vous en êtes, listez les noeuds sur lesquels vous avez un process qui tourne. Créer un fichier "show_process.sh" avec le contenu:
<Code:bash>
if [ "$1" != "" ]
then
    echo "finding processes of $1"
    for hostList in $(sinfo -h | awk '{print $6}' | sort -u); do
        for host in $(scontrol show hostname $hostList); do
            echo $host; ssh $host "ps aux | grep $1";
        done;
    done;
else
    echo "No username given"
fi
                                                                                                                                                                      
</Code>

Puis rendez le executable:
`chmod +x show_process.sh`
et enfin lancez le avec votre username:
` show_process.sh MON_LOGIN`



**Une fois les noeuds identifiés:**

On voit, par exemple, que le job a été lancé sur `compute-1-1`, donc on s'y connecte:
`ssh compute-1-1 `


On liste les processus avec la commande `htop`.

Avec les flèches du clavier, déplacez vous sur le processus zombie, puis faites `F9`pour le tuer. Un menu s'ouvre à gauche, taper directement `entrée` pour le sigterm, ou déplacez vous en haut sur sigkill si il est récalcitrant.
Normalement, il disparait de la liste, libérant la place.

Ensuite, pour nettoyer les fichiers, `cd /scratch`, puis `ls` pour trouver le dossier correspondant, et le supprimer, par example `rm -rf villani-xxxxx`.

Voilà !

==== Super squeue ====

Pour que la sortie donnée par la commande _squeue_ soit vraiment utile, vous pouvez configurer un alias pour votre shell. Ca colore vos propre job, étend la colonne avec le nom, etc.
 Si vous avez bash, dans ~/.bashrc, zsh, dans ~/.zshrc, etc:

<Code:shell>
alias squeue='squeue -o "%.8i %.9P %.22j %.8u %.2t %.10M %.5D %R" | GREP_COLOR="01;31" egrep --color=always "^.*$USER PD.*$|$" | GREP_COLOR="01;32" egrep -i --color=always "^.*$USER  R.*$|$"'
</Code>

==== Créer un module pour votre code utilisable avec module load ====

Let's say you want to use your code, for instance, **flatori**, on the cluster.
To do that, you need to fill a file (per version of you code) containing the correct informations about path, etc. Let's say you want a module for version R0:

<Code | ~/privatemodules/flatori/R0>
#%Module1.0##############
##
## Flatori modulefile
##

proc ModulesHelp { } { 
        global version modroot
        puts stderr "====== Flatori $version ======\n"
        puts stderr "Set correct environment variables and libraries \n"
}

set version     R0  
set FLATORI     /export/home/$USER/path/to/flatori/

prepend-path PATH $FLATORI/where/is/the/binary
</Code>

Then, you need to inform your shell that this module configuration file exists, in our case, add the path "~/privatemodules" to $MODULEPATH in your shell rc. For bash, in your ~/.bashrc , add:

<Code:shell >
export MODULEPATH="$MODULEPATH:/export/home/$USER/privatemodules"
</Code>

//Et voilà//, now you can see your module when typing `module avail`, and in our case, do `module load flatori/R0`