Calcul sur datacenter régional ou national - Version synthétique

Cette page présente un recensement (très synthétique) des centres de calcul régionaux et nationaux, avec un descriptif de leurs caractéristiques et les liens pour demander l’accès.

Pour un guide de prise en main des ressources du cluster MCIA : https://wikidoc.oasu.u-bordeaux.fr/books/divers/page/guide-de-prise-en-main-des-clusters-hpc-du-mcia

Clusters régionaux Nouvelle-Aquitaine (MCIA)

Voici une comparaison synthétique des 4 calculateurs (Curta, Jarvis, Pyrène, Cali V3), suivie d’un focus spécifique sur le stockage, afin de bien distinguer capacité de calcul, mémoire, GPU, et stratégie data.

Comparaison des calculateurs (puissance & usages)

Comparaison du stockage (critique pour data & IA)

Vue d’ensemble rapide

En gros

• /scratch : les données déposées dans cet espace ne sont PAS sauvegardées et peuvent être supprimées automatiquement selon la politique du centre (ex. fichiers inactifs > 90 jours sur Curta). Il n’existe aucun moyen de récupération après suppression.

• Attention aux quotas : les espaces /home, /scratch et /work sont soumis à des quotas par utilisateur. Un dépassement peut entraîner des erreurs d’écriture ou des échecs de jobs.

• Sur Curta : les répertoires /home sont régulièrement sauvegardés via des snapshots accessibles à l’emplacement :
  /gpfs/home/.snapshots/snap_curta-home-home_<date>-0000_daily/<username>/
  Ces sauvegardes ont une rétention limitée et ne couvrent que l’espace /home.

• /tmp : espace local au nœud de calcul, disponible uniquement pendant l’exécution d’un job. Les données sont supprimées à la fin du job.

Recommandations finales (choix rapide)

Notes communes aux clusters régionaux MCIA :

• Authentification via compte MCIA : https://redmine.mcia.fr/projects/cluster-curta/wiki/Comptes_Utilisateurs

• Accès via SSH ou portails Web (OpenOnDemand, TurboVNC, VirtualGL) selon cluster

• Suivi conso : https://pandora.mcia.fr/grafana

Accès aux centres nationaux

1. Grid5000

•  Demande de création de compte utilisateur : https://www.grid5000.fr/w/Grid5000:Get_an_account
• Vous recevrez ensuite un lien expliquant comment créer votre mot de passe et renseigner votre clé SSH.
• Vous pourrez alors vous connecter à la plateforme via la ligne de commande :

  ssh USER@access.grid5000.fr

où USER correspond à votre nom d’utilisateur.

Vous trouverez un guide de prise en main ici : https://www.grid5000.fr/w/Getting_Started et davantage d’informations dans la documentation officielle.

2. via eDARI

Les ressources nationales (CINES, IDRIS, TGCC) se demandent via le portail eDARI : https://www.edari.fr

Malgré les différences matérielles entre les plateformes, leur utilisation est globalement identique :

• Accès via ligne de commande

• Gestion des fichiers sur des espaces de stockage dédiés

• Soumission des jobs via un ordonnanceur

• Suivi de la consommation de l’allocation

La principale différence réside dans les ressources disponibles (CPU, GPU, mémoire, quotas).

L’utilisation d’eDARI se fait en plusieurs étapes  

1. Demande d’allocation :
   L’utilisateur doit d’abord déposer une demande d’allocation sur l’une des plateformes disponibles (CINES, Jean Zay, TGCC).
   Ici : https://www.edari.fr
   Cette demande précise le projet, les besoins en calcul (CPU, GPU, mémoire, durée, etc.).

2. Validation de la demande :
   Après évaluation, la demande peut être acceptée et une allocation de ressources est accordée.

3. Rattachement du compte :
   Une fois l’allocation validée, il est nécessaire de rattacher son compte eDARI à la demande acceptée afin de pouvoir consommer du temps de calcul.

4. Démarrage des calculs :
   Le rattachement effectué, l’utilisateur peut se connecter aux machines et soumettre des calculs.

2.1. IDRIS – Centre de calcul du CNRS

• Site : https://www.idris.fr/

• Documentation accès : https://www.idris.fr/info/gestion/demandes-heures.html

• Schéma de demande d'accès : https://www.edari.fr/schema/acces/ressource

Supercalculateur Jean Zay

• Partitions CPU et GPU, puissance crête : 125,9 PFlop/s (juillet 2024)

• CPUs Intel Xeon et GPUs Nvidia V100 / A100 selon partition

• Scheduler : Slurm

• Accès : via eDARI

Espaces disques majeurs sur Jean Zay

Partage de données et augmentation du quota des espaces

• Pour partager des fichiers avec les membres de votre projet, il existe trois espaces communs :
- dans le $WORK : $ALL_CCFRWORK
- dans le $SCRATCH : $ALL_CCFRSCRATCH
- dans le $STORE : $ALL_CCFRSTORE

• Si vous travaillez avec des bases de données publiques volumineuses, l’IDRIS peut les installer pour vous dans l’espace disque $DSDIR. Cet espace est accessible en lecture à tous les utilisateurs. Cela permet de mutualiser les ressources et ne pas saturer vos espaces disques.

2.2 CINES – Supercalculateur Adastra

• Site : https://www.cines.fr/

• Architecture HPE-Cray EX, nœuds CPU AMD EPYC Genoa, GPU MI250X et MI300A

• Documentation : https://dci.dci-gitlab.cines.fr/webextranet/architecture/

2.3 TGCC – Centre CEA

• Site : https://hpc.cea.fr/

• Nœuds AMD Rome, Intel Skylake/Cascadelake, GPUs V100 / P100 / A100

• Scheduler : Slurm

• Documentation : https://hpc.cea.fr/tgcc-public/en/html/tgcc-public.html

2.4 France Grilles

• Accès à la grille de calcul distribuée et aux serveurs à la demande (Cloud)

• Certification via HARICA : https://cm.harica.gr/

• Portail : https://iam.mesonet.fr/

• Documentation : https://github.com/FranceGrilles/documentation/blob/main/certificat_utilisateur/demande_certificat_personnel_cnrs.rst

• Contact : info@france-grilles.fr

International

• EGI (European Grid Infrastructure) : https://www.egi.eu/

• Fournit une grille de calcul distribuée pour la recherche européenne.