Introduo ao Grid Computing 1 Autoria Autores Cludio

Introdução ao Grid Computing 1

Autoria Autores Cláudio Geyer 1 a versão: 2003 Revisão (2006) Diego Gomes Eder Fontoura Patrícia Kayser Local PPGC, II-UFRGS Grid Computing

Grid Computing Sumário Introdução a Grid Computing no Brasil Em 2002/2003 Não revisado Grid Computing 3

Histórico “primeira” (? ) proposta em 1989, por Larry Smarr do projeto CASA (USA) metacomputing = compartilhamento, ação em comum Projeto Condor Iníciado em 1988 http: //www. cs. wisc. edu/condor/background. html “support High Throughput Computing (HTC) on large collections of distributively owned computing resources” Grid Computing 4

Histórico a partir de 1995, começam a surgir propostas de ferramentas para computação distribuída na Web Final da década de 1990 FAFNER e I-WAY Surgimento do projeto/mw Globus Edição do livro “Grid Computing”, eds. Foster e Kesselman atualmente, centenas de universidades e empresas ao redor do mundo estão envolvidas em projetos nessa área Grid Computing

Conceitos e Termos Diversos conceitos, termos e definições Metacomputador/Grid HTC: High Throughput Computing Global Computing Grid problem Organizações virtuais Protocolos intergrid Computação in home Grid X HPC Comunidade Grid Computing

Definições Grid is a hardware and software infrastructure that provides dependable, consistent, pervasive, and inexpensive access to high-end computational capabilities I. Foster e C. Kesselman, 1998 Grids are persistent environments that enable software applications to integrate instruments, displays, computational and information resources that are managed by diverse organizations in widespread locations GGF 2002 Grid Computing

Definições Grid is a type of parallel and distributed system that enables the sharing, selection, and aggregation of geographically distributed "autonomous" resources dynamically at runtime depending on their availability, capability, performance, cost, and users' quality-of-service requirements http: //www. cs. mu. oz. au/~raj/Grid. Infoware/gridfa q. html Principal autor: Buya Preocupação com aspectos de custos Grid Computing

Definições Three points checklist: Grid is a system that: (1) coordinates resources that are not subject to centralized control. . . (2). . . using standard, open, general-purpose protocols and interfaces. . . (3). . . to deliver nontrivial qualities of service I. Foster, 2002 Não usa termos (características) como; Largamente distribuídos Sw ou mw próprio Diversas organizações (implícito? Grid Computing

Grid Problem Coordenação distribuída, cooperativa Compartilhamento de recursos Solução de problemas (aplicações) Diversas organizações virtuais de multi-instituições Recursos e VO espalhados geograficamente Não há controle central Não há conhecimento total Confiança mútua entre as Vos Qualidade de entrega Gerência de recursos dinâmica Grid Computing 10

Tecnologias convencionais Tecnologias distribuídas convencionais SOR (Windows 2000 server, Linux de rede, . . . ) Web Servidores de aplicações Servidores de armazenamento Servidores de cpu (ciclos) Middlewares clássicos e novos (DCE, CORBA, J 2 EE, . Net, Web Services. . . ) Não atendem (boa parte) os requisitos Grid Computing 11

Organizações virtuais Servidores de aplicações, servidores de armazenamento, servidores de cpu, e consultores Engajados por um fabricante de carros na avaliação de uma nova fábrica Membros de de um consórcio industrial projetando e avaliando uma nova aeronave Grid Computing 12

Organizações virtuais Equipe de gerência de crises (catástrofes, eventos) planejando a resposta a um novo tipo de evento (ataque de 11/setembro) Diversos departamentos de pesquisa em física tratando diversos problemas relacionados, sobre a “mesma” base de dados Base de dados heterogênea, distribuída Grid Computing

Um exemplo: solução do NUG 30 quadratic assignment problem Description of the Quadratic Assignment Problem In a standard problem in location theory, we are given a set of n locations and n facilities, and told to assign each facility to a location. Faci -> Locj; i, j: 1 a n Grid Computing 14

Um exemplo: solução do NUG 30 quadratic assignment problem Description of the Quadratic Assignment Problem To measure the cost of each possible assignment--there are n! of them!---we multiply the prescribed flow between each pair of facilities by the distance between their assigned locations, and sum over all the pairs. å(Flow(faci, facj) * Distance(locfi, locfj)) Grid Computing 15

Um exemplo: solução do NUG 30 Description of the Quadratic Assignment Problem Our aim is to find the assignment that minimizes this cost, and this problem is precisely a quadratic assignment problem. Grid Computing

Um exemplo: solução do NUG 30 An Example of Combinatorial Optimization Grid Computing

Um exemplo: solução do NUG 30: n = 30 Solução Colaboração informal entre matemáticos, cientistas e pesquisadores em computação Condor-G conseguiu 3. 46 E 8 segundos de cpu em 7 dias (pico: 1009 processadores) nos EUA e Itália (8 sites) Em 2000 http: //wwwunix. mcs. anl. gov/metaneos/nug 30/ Grid Computing

Principais Componentes (Foster) Arquitetura geral proposta por Foster aplicações e portais científicas engenharia PSE colaborativas ferramentas e ambientes de desenvolvimento linguagens depuradores ORBs bibliotecas serviços básicos segurança comunicação informação Aplicações Web based acesso a dados . . . Ferramentas Web. . . Middleware Qo. S gerenciadores de recursos locais SO bibliotecas TCP, UDP, IP . . . recursos compartilhados entre OV clusters armazenamento instrumentos Grid Computing Dispositivos de Fábrica . . . 19

Principais Componentes Arquitetura Geral Proposta de Foster e Kesselman “The Anatomy of the Grid”, Intl J. Supercomputer Applications, 2001 www. globus. org/alliance/publications/papers/anatomy. pdf Dispositivos de fábrica recursos locais compartilhados dentro do grid Middleware fornecimento de serviços básicos para a utilização dos recursos do grid Ferramentas desenvolvimento de ambientes para a construção de aplicações para grids Aplicações diversidade de requisitos, multidisciplinariedade Grid Computing 20

Princípios Usar protocolos padrões existentes Usar soluções comuns (padrões) principalmente as locais Protocolos e API bem definidos Escalonadores, servidores de arquivos, . . . Protocolo: interoperabilidade API: portabilidade Simples (vide IP, TCP) Diferenciar API locais e remotas Padronizar Grid Computing 21

Grid Computing SW: Principais Aspectos Modelo de programação Gerência de recursos Segurança Informação Acesso remoto a dados Tolerância a falhas Análise de desempenho e Qo. S Gerência de executáveis, . . . Grid Computing 22

Grid Computing: Principais Aspectos Modelo de programação aplicações devem ser flexíveis aos recursos, tolerantes a falhas e adaptadas à latência de comunicação entre os recursos do grid cada aplicação deve expor suas necessidades computacionais e expectativas referentes a desempenho, confiabilidade, etc. auxílio na alocação de recursos deve-se prever o uso de diferentes protocolos, modelos de comunicação e ferramentas Grid Computing 23

Grid Computing: Principais Aspectos Gerência de recursos cadastro configuração busca (descoberta) alocação monitoramento Grid Computing 24

Grid Computing: Principais Aspectos Motivação para segurança Informações sensíveis e recursos de alto valor Delegação é necessária Protocolos padrões atuais não satisfazem Grid Computing 25

Grid Computing: Principais Aspectos Segurança cadastro de usuários autenticação única (single sign on) respeito às políticas proprietárias (uso e acesso) de cada recurso estabelecimento de relações e domínios de confiança Em uma grade, VOi acredita em VOj Acredita: pode ser parcialmente, condicionalmente emprego de criptografia Grid Computing 26

Grid Computing: Principais Aspectos Gerenciamento de Informações Serviços para registro e obtenção de informações sobre a estrutura, os recursos, os serviços e o estado de cada componente dentro do grid. Forte interação com os serviços de alocação e descoberta de recursos (gerência de recursos) Dinâmicas e estáticas (totalmente: não existem) Onde existe um cluster com 32 P 4 > 1. 2 dual? Qual o estado de ocupação do SP 2 com 128 nós? Grid Computing 27

Grid Computing: Principais Aspectos Acesso remoto a dados necessidade de acesso a arquivos distribuídos entre vários servidores e/ou bancos de dados busca por metadados estáticos e dinâmicos Grid Computing 28

Grid Computing: Principais Aspectos Acesso remoto a dados serviço que forneça um espaço de nomeação global, suporte diferentes protocolos de E/S, exija pouco esforço de programação e permita otimizações, tal como uso de cache replicação Grid Computing 29

Grid Computing: Principais Aspectos Tolerância a falhas natureza dinâmica do grid milhares de recursos 1 recurso deve estar em falha a cada momento necessidade de monitoramento do estado de cada recurso (de hardware e software) dentro do grid forte interação com serviços de alocação e escalonamento Grid Computing 30

Grid Computing: Principais Aspectos Análise de desempenho e Qo. S mecanismos para a avaliação dos serviços prestados pelo grid relação exigências das aplicações X capacidades dos recursos monitoramento de desempenho validação de critérios de alocação Grid Computing 31

Grid Computing: Principais Aspectos Gerência de executáveis armazenamento localização transferência entre recursos suporte à linguagens de scripts Executáveis portáveis Java. Net? Grid Computing 32

Grid Computing: Principais Aspectos Aplicações computação distribuída computação de alto desempenho computação sob demanda computação intensiva de dados computação colaborativa Grid Computing 33

Considerações finais Ainda alguma diversidade em definições Diferentes arquiteturas conforme objetivos Forum GGF procura desenvolver (ou apoiar) padrões para grids http: //www. gridforum. org/ Grid Computing

Grid Computing: Taxonomia Escalonadores Grid Service Broker Nimrod/G App. Les Condor/G Ninf DISCWorld Principais Aspectos Portais Economia Data grids UNICORE Grace CERN XCAT CPM Gri. Phy. N Ji. PANG Mariposa Particle Physics PUNCH FORTH DIDC Grid. Sphere Share Meta D´Agent SILVER ST-ORM PC 2 http: //www. gridcomputing. com/ Grid Computing 35

Grid Computing: Principais Aspectos Taxonomia Sistemas Ambientes Middleware Testbeds Xtrem. Web Meta. MPI Globus Polder Javelin DCE Legion NASA IPG MILAN Gr. ADS Net. Solve NPACI HARNESS Java Co. G Kit GRACE DAS PUNCH Pro. Active PDC GUSTO Mo. Bi. Di. CK REDISE SF-Express Meta. NEOS JACO 3 distributed. net Multi. Cluster Cactus SETI@home Grid Computing 36

Global Grid Forum Global Grid Forum: Desenvolvimento de protocolos e APIs padrões para computação Grid www. gridforum. org 2 ou mais workshops anuais Centenas de participantes Grid Computing 37

Referências: conceituais/surveys checkpoint list: http: //www. gridtoday. com/02/0722/100136. html BUYYA - {The Grid}: International Efforts in Global Computing : http: //www. cs. mu. oz. au/~raj/papers/The. Grid. pdf ROURE, - {T}he Evolution of the {G}rid : http: //www. semanticgrid. org/documents/evolution. pdf NEMETH, - {A} comparison of conventional distributed computing environments and computational grids : http: //www. mathcs. emory. edu/harness/pub/general/zsolt 1. ps. gz Grid Computing 38

Revisão Motivação? Grid Computing

Revisão Motivação? Cooperação em aplicações específicas Compartilhamento de recursos Aumento da quantidade de recursos Cpu, memória, armazenamento, . . . Dispositivos especiais, caros Maior disponibilidade Tudo isto a um menor custo Grid Computing

Revisão Histórico Grid Computing

Revisão Histórico Uso do termo: 1989 Experiências ad-hoc: década de 90 Condor: início do projeto em 1988 Globus: 1995 Legion Grid Computing

Revisão Definição de grade Grid Computing

Revisão Definição de grade Largamente distribuída Diversas organizações Sem controle centralizado Às vezes hierárquico (HEP) Compartilhamento de recursos Interface (parcialmente) homogênea Grid Computing

Revisão Definição de grade Oferecendo Segurança Maior desempenho Maior disponibilidade Com Qo. S Grid Computing

Revisão Problemas de uma grade Alta heterogeneidade nos recursos especialmente no hw (cpu, memória, . . . ) Alta heterogeneidade na rede: latência e banda Alta heterogeneidade no sw local SO, gerência de recursos, escalonadores, . . . Segurança Grid Computing

Grid Computing no Brasil 47

Summary Brazilian Grid DOAP: Grid middleware adaptative scheduling PRIMOS: high performance Java VIC ++: adaptative VIC for Access Grid Other Brazilian Grid Projects Conclusion Grid Computing 48

Brazilian Grid First national meeting organized by CNPq october 2001 Finep members of CENAPADs application users (HEP, LNCC, . . . ) researchers on high-performance computing RNP: research national networking Grid Computing 49

Brazilian Grid Goals 3 groups promote the use of Grid hw infra-structure networking, systems (clusters), . . . sw infra-structure middleware, accounting, security, . . . applications Some initial propositions (documents) Grid Computing 50

DOAP Grid-like middleware Object oriented programming Adaptive scheduling Mobile computing Grid Computing 55

DOAP Concerns GRID Computing Adaptation (Aplication and System) CLUSTER Computing System Heterogeneity System's Components Availability Grid Computing Mobility (Hardware and Software) 56

DOAP: a pervasive view GRID Computing Wide-area Meta-computing High performance equips. Mobile Computing A pervasive view in GRID Computing Wireless Adaptability High heterogeneity Grid Computing 57

GRID Computing in DOAP Adaptive Behavior Development Decisions Execution Decisions Grid Computing 58

GRID Computing in DOAP Focus in Adaptive Behavior Resource Demand Application Agreement Band RMS Grid Computing 59

DOAP Architecture Holoparadigm Multiparadigm; Blackboards; Mobility. Grid Computing 60

DOAP Architecture Mobility: Hardware and Software Language level adaptation constructors ISAMadapt – Infra-Estrutura de Suporte às Aplicações Móveis Grid Computing 61

DOAP Architecture High Distributed Applications Execution level adaptation mechanisms EXEHDA – Execution Environment for High Distributed Applications Grid Computing 62

DOAP Architecture Proposals for object: Migration; Optmized communication; Monitoring PRIMOS – PRIMitives for Object Scheduling Grid Computing 63

Java versus GRID Benefits of Java to GRID environments: Code portability simplifies assumptions about the heterogeneous execution environment Object-oriented programming model straightforward program partitioning Fast learning curve structured language, no pointers, programming less error prone Grid Computing 64

PRIMOS: Java meeting the GRID PRIMOS extends Java with mechanisms to support: remote instantiation and object migration deal with code deployment and accounting optimized communication primitives access to specialized hardware features not available to usual Java applications distributed system utilization: probe & publishing construction of inter-object communication profiles Grid Computing 65

VIC ++ VIC – Video Conferencing Tool Access Grid Project allows remote collaboration among groups; used to realization of classes and distributed seminars, remote presence in panels and discussions, virtual meetings and Grid based complex demonstrations; Grid Computing 66

VIC ++ is an extension of VIC developed with two main targets: To introduce and adaptability algorithm that will adjust the VIC configurations to the network conditions, reducing the amount of work that the node operator has to perform during the sessions; To expand the statistics generator of the VIC, in order to provide more data to the researcher. Grid Computing 67

Cooperações (informais) Caltech, Pasadena, CA Grupo HEP Desenvolvimento de aplicações e serviços específicos Harvey Newman NERSC, Berkeley, CA Horst Simon: SBAC 1995, missão 1998 LBL, DOE Acordo de cooperação com IBM Grande parque de supercomputadores Multidisciplinar Grid Computing 68

Other Brazilian Grid Projects Multi. Cluster Grid. Gene IC Grid Open. Grid Remarks: it is not a complete list There is also a proposal of a national Grid Computing 69

Other Brazilian Grid Projects Multi. Cluster II/UFRGS Contact: Prof. Philippe O. A. Navaux It aims to efficiently integrate different cluster -based architectures Myrinet, SCI, Fast Ethernet, … Grid Computing 70

Other Brazilian Grid Projects Grid. Gene UFRJ, LCC/MCT, UFPB/Campina Grande Contact: Prof. Paulo Bisch It aims to support genome analysis through development of parallel and distributed software for Grid environments Grid Computing 71

Other Brazilian Grid Projects IC Grid UFF Contact: Prof. Vinod Rebello It will create a mini-grid testbed environment for the design and development of grid-base middleware Grid Computing 72

Other Brazilian Grid Projects Open. Grid UFPB Contact: Prof. Walfredo Cirne It provides a global execution environment It is distributed as a free software Grid Computing 73

Other Brazilian Grid Projects Grid Brasil Proposal: build a national (Brazil) Grid and Virtual Organizations Nowadays there are: six CENAPADs (HPC centers) a SINAPAD (to integrate these centers) This structure can be the starting point of a national Grid Computing 74

More Grid Projects at Brazil Grid Brasil Grid Computing 75

Conclusions Several projects on Grid software adaptive scheduling Java HP programming Access Grid/Vic++ Multicluster Global execution environment Grid testbed for new Grid middleware Grid Computing 76

Conclusions At least two important Grid applications HEP Genome Brazilian Grid group Sinapad Grid Computing 77

Conclusões gerais Grid Tecnologia necessária a diversas aplicações Diversas e variadas soluções Globus, Condor, Legion, . . . Necessidade de protocolos e API padronizados Muito ambicioso (? ): inúmeros serviços Organizações temem compartilhamento Concorrência com evolução de outras tecnologias Web: protocolos, serviços, metadados, . . . B 2 B J 2 EE, . Net, CORBA (? ), . . . Windows 2000 e XP server, Linux-rede, . . . Servidores de armazenamento, cpu, aplicações, . . . Problemas similares => soluções similares, concorrentes Grid Computing 78