Clusters Mcanismes Fault Tolerant Excution parallele et rpartie

Clusters Mécanismes Fault Tolerant Exécution parallele et répartie François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Sources ● ● Linux France Magazine n° 1, 12, 15, 17, 18, 20, 23, 24, 32, 35 Doc TANDEM : Hard & Soft Functionnal Description www. stratus. com ● Tolérance aux fautes par recouvrement arrière ● Documents du LAAS ● R J Chevance: Linux Parallel Processing HOWTO ● Linux SMP HOWTO ● Beowulf HOWTO These de Denis Conan: Système HP : définitions et solutions ● Mémoire de recherche de Anne. Marie Kermarrec: Mémoire répartie recouvrable François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

On ne verra pas : ● L'environnement Main-Frame ● Le fonctionnement des Clusters Windows ● Les clusters de stockage François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Sommaire ● Pourquoi j'ai choisit ce sujet ? ● Les différents types de cluster ● Les méchanismes Fault Tolérant ● Comment exécuter du code en paralelle ? ● Comment répartir l'exécution ? ● Packages sous linux François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Pouquoi ? ● ● Découverte lors des séquences industrielles: – Supervision temps reels du trafic téléphonique – Supervision temps réels du réseaux de diffusion hertzien Le 4 ieme plus gros cluster au monde est en FRANCE http: // www. top 500. org François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Supermarché et exécution parallele François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Supermarché et exécution parallele (1) ● Une seule caisse et un seul client François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Supermarché et exécution parallele (2) ● Une caisse mais plusieurs clients ● On répartie le temps entre tous les clients François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Supermarché et exécution parallele (3) ● On ouvre d'autres caisses ● Plusieurs caissières avec plusieurs clients François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Supermarché et exécution parallele (4) ● Plusieurs caissières et un seul client. François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Supermarché et exécution parallele (5) ● Plusieurs ilots de caisses et une caisse centrale François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Rappels ● Fault Tolérant: ● Haute Disponibilité: ● Haute Performance: François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Le Fault Tolerant ● IBM, Sun Netcraft, Stratus, Tandem (maintenant HPCompaq) ● Architecture spécialisée ● Matériel extrèmement couteux Methode: Pair & Spare François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Le « pair and Spare » (stratus) Pair : Le processus est exécuté en paralelle par plusieurs processeurs au sein d'un meme bloc Spare: Doublement des organes actifs(un primaire et un secondaire). Les deux blocs exécutent le meme processus. En cas de défaillance du maitre, on bascule sur le secondaire Changement des organes à chaud : CPU, Mémoire, Disques François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Tandem: le HP/Compaq S 5000 ● Processeurs MIPS RISC R 10000 et R 12000 ● Networking – Data link protocol ATM; FDDI; Ethernet; X. 25; SS 7 – Compliant standards IEEE POSIX 1003. 1; ANSI X. 3 1591989 C ● Niveau de sécurité C 2 ● Non-Stop UNIX (System V based) François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Architecture ● CPU MIPS de Sillicon Graphic cadensés à 200 ou 300 Mhz ● 2 blocs de 2 CPU ● 2 Go de RAM/ bloc ● 4 Mo de cache par CPU ● Bus Mémoire: 400 MB/s par CPU ● Bus IO : 150 MB/s par CPU Consomation : 3500 Watts François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Approche IBM François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

La Haute Disponibilité ● Les Offres commerciales – HP : MC - Service Guard – IBM : HACMP (High Availability Cluster Multi. Processing) – Sun Cluster François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

La Haute Disponibilité (2) François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

La Haute Performance ● Comment exécuter un programme sur plusieurs CPU ? Concurrence et parallelisme ● En local: – Threads – Messages ● NUMA No Uniform Memory Access ● NORMA No Remote Memory Access François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Symetrical Multi-Processor ● Plusieurs CPU ● Dialogue inter-processus via la mémoire : ( idem IPC) Problèmes : Gestion des accès à la mémoire Dimentionnement du bus mémoire François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Le NORMA ● Interconnection de « machines simple » ● Chaque CPU accède à sa propre mémoire ● Communication par messages François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Le passage de messages ● Attention à la taille des messages ? ● Que transfert t'on et avec quelles politiques? ● PVM et MPI François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

NUMA ● Gestion de la mémoire global: MVP Chaque programme voit la mémoire comme une ressource local ● Localisation de l'accès ● Cohérence de la mémoire entre noeuds: migration & réplication François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Monter son cluster François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Les différentes offres ● Beawulf ● Mosix ● Alinka ● Kimberlite ● Linux Virtual Server ● Linux HA François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

Conclusions ● Bien analyser le besoin et les impacts sur l'architecture ● La mémoire est toujours trop lente dans les PC ! ● Les procésseurs vectoriels ne sont pas morts François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002

François-Joseph VIALLON Cluster : mécanismes et fonctionnement Page 1 Le 10/10/2002