bioinfo@ird.fr

Tutoriaux – How to utiliser le reseau infiniband pour le transfert de données

Tutoriel Infiniband

Description Utiliser le réseau Infiniband pour transférer ses sonnées
Auteur Ndomassi TANDO
Date de création 02/02/2024
Date de modification 02/02/2024

Utiliser les noeuds infiniband pour des transferts plus rapides:

Rôle de l'Infiniband :

Le réseau Infiniband(192.168.4.0) permet aux utilisateurs d'avoir accès à un réseau haut débit pour transférer leurs données depuis le san vers les nodes et inversement ou entre les noeuds infiniband  .

Seulement certains noeuds sont équipés d'infinband pour le moment :  node0, node1, node4, node5, node7, node8, node9, node11, node17, node20, node21, node22, node23, node24, node25, node26, node27

Réserver un noeud Infiniband:

Pour utiliser le réseau infiniband, il suffit d'ajouter le suffixe -ib à l'alias de la machine à connecter, par exemple san deviendra san-ib et node0 deviendra node0-ib etc ...

Utilisez les options    -p partition ( avec partition la partition du noeud de calcul) --constraint=infiniband pour réserver un ou plusieurs coeurs d'un noeud infiniband. ( cf feature page pour plus d'explications)

Par exemple nous voulons réserver un noeud infiniband sur la partition highmem en mode intéractif, taper la commande suivante:

srun -p highmem --constraint=infiniband --pty bash -i

Vous êtes désormais sur un noeud qui a accès au réseau infiniband, pour l'utiliser, modifiez juste l'alias san en san-ib pour faire vos transferts.

Transfert avec Infiniband:

Il y a 2 syntaxes possibles:

Récupérer des données depuis le san:

scp -r san-ib:path_to_files/file local_destination

Envoyer des données vers le san:

scp -r /local_path_to_files/file san-ib:remote_destination