Sistemas de Governana Enforcement Systems Viviane Torres da

Sistemas de Governança (Enforcement Systems) Viviane Torres da Silva viviane. silva@ic. uff. br http: //www. ic. uff. br/~viviane. silva/isma

Sistemas de Governança Ø O que regular? – A interação entre o agentes – Acesso a recursos – Qualquer ação do agente Ø Como regular? – Impedir que o agente viole uma norma – Punir o agente que violou normas

Ameli [1] e LGI [2] Regulam a interação entre os agentes Ø Proíbem que os agentes violem normas Ø – Toda mensagem enviada entre os agentes é verificada antes do seu envio – Se a mensagem viola uma norma, ela não é enviada Ø Problemas: – Violam a privacidade do agente. Alguém tem que saber o quê o agente quer enviar – Violam a autonomia do agente pois impede que o agente faça o que deseja – Não regulam ações que não são de interação

Ameli Ø As interações entre os agentes são intermediadas por Governadores Ø Cada agente possui um Governador – Ele recebe e envia mensagens para o seu Governador Ø Os governadores junto com os gerentes de cenas fazem a governança dos agentes Ø Eles conhecem a especificação do sistema (as cenas possíveis e as normas) para validar as ações dos agentes

LGI (Law Governed Interaction) Faz a governança de leis (e não de normas) Ø LGI previne a violação de leis, e não reage as violações Ø Pode controlar 3 tipos de eventos: Ø – Os que envolvem troca de mensagem entre agentes – Falhas que podem ocorrer na transmissão de mensagens – Compromissos devido a obrigações Ø Tem o poder para mandar: – Trocar a mensagem que está sendo enviada – Criar uma nova mensagem – Mudar o estado interno do agente Controle o histórico de interações Ø Governa o comportamento de membros de uma mesma comunidade de agentes Ø

LGI: 3 Princípios básicos A lei de uma comunidade pode regular a interação entre os membros da comunidade de uma maneira que pode ser sensível ao histórico de interações 2. A governança tem que ser local a comunidade a qual a lei se aplica 3. As leis devem ser governadas prevenindo a violação e de maneira descentralizada 1. Ø Formação das leis: – UPON e IF c DO [o]

LGI: L(Law), I(Interpreter of law), S(State)

Tu. CSo. N [3] I/II Ø Enfoca na governança de recursos Ø Agentes interagem através de um blackboard chamado tuple centers – Tuple centers são spaces (espaço de tuplas) com noção de especificação de comportamento Ø Especificação de políticas de controle de acesso aos tuple center – É possível especificar qual agente pode acessar cada tuple center (visibilidade) – É possível especificar que tipo de acesso pode ser feito por cada agente

Tu. CSo. N II/II ACL[default@areaed 1] : : = < {issue 1: editor 1, insert papers}, {issue 1: editor 1, withdraw reviews}, {publisher, everything}> Ø Problema: – Governança restrita para os recursos postos no espaço de tupla

Implementing Norms [4] Ø Regula as mensagens públicas e as ações visíveis pelo sistema de governança Ø Inclui dicas de como detectar a violação para cada tipo de norma – Ex: criação de uma lista de “ações negras” e um mecanismo para informar se uma determinada ação foi executada Ø Problema: – Não regula as mensagens que não são publicas, e sim privadas entre dois agentes – Não regula as ações que não visíveis pelo sistema de governança

Sistema de Governança [5] Ø Sistema governa o comportamento dos agentes baseado nos testemunhos que recebe de outros agentes sobre violações de normas por terceiros Ø Governa qualquer tipo de ação mesmo sendo pública ou privada – Mensagens publicas ou privadas: testemunhas por aqueles que receberam (ou deveriam ter recebido) as mensagens – Outras ações publicas ou privadas: por qualquer agente que vê (ou deveria ter visto) o evento conseqüente da execução da ação

Assume que. . . I. III. IV. V. VI. Todo agente tem que conhecer todas as normas aplicadas a ele Todo agente tem que conhecer todas as normas que influenciam seu comportamento Todo agente é capaz de enviar testemunhos sobre violações de normas Algumas violações podem ter sido ignoradas ou não observadas Agentes pode enviar falso testemunhos O mecanismo pode possuir agentes específicos para ajudar na governança (policiais)

Arquitetura

Processo de Julgamento d

Exemplo : Exporter E I/IV Consolidator C cargo x x = x’ + x’’’ cargo x’’’ Importer I 1 Importer I 2 Importer I 3

Exemplo : Exporter E II/IV Consolidator C Importer I 1 Importer I 2 Importer I 3 MBL MBL ack MBL: Master Bill of Landing (contém a descrição do que vai ser exportado e a data da entrega) HBL: House Bill of Landing (contém a descrição do que foi recebido) ack cargo x HBL cargo x’’ Norm I: The consolidator agent must deliver the cargo at the destination and on the date established in MBL.

Exemplo : Consolidator C III/IV Judge J Importer I 1 Importer I 2 C has violated norm 1 judged? passo I [if not judged] [if witness != Police] norm 1 applies to C? passo III Guilt? passo IV yes / no [if not guilt] Importer I 3

Exemplo : Exporter E IV/IV Judge J Importer I 1 Importer I 2 Importer I 3 MBL ? HBL ? MBL no / HBL passo V [if yes] cargo x’ ? yes / no Reputation System passo VI cargo x’’ ? yes / no I 1, I 2, I 3, C reputation? reputations consensus (subjective logic) verdict passo VIII Subjective Logic

Subjective Logic Utilizada para lidar com evidências subjetivas (opiniões) Ø Avalia e combina opiniões sobre uma ocorrência x – w. I 1(x) = <b. I 1(x), d. I 1(x), u. I 1(x)>; Ø Ø Recomendação ( ): w. J: I 1(x) = w. J(I 1) w. I 1(x): – Avalia os testemunhos se baseando nas reputações • Agente J possui uma opinião sobre agente I 1 (sua reputação); • Agente I 1 possui uma opinião sobre uma ocorrência x (violação de uma norma); • avalia a opinião do agente J sobre a ocorrência x se baseando na opinião do agente I 1 sobre a mesma ocorrência Ø Concenso ( ): w. J: (I 1, I 2)(x) = (w. J(I 1) w. I 1(x)) (w. J(I 2) w. I 2(x)) – Combina vários testemunhos, formando uma única opinião • Agente I 1 possui opinião sobre ocorrência x • Agente I 2 possui opinião sobre ocorrência x • combina as duas opiniões sobre a mesma ocorrência

Exemplo Testemunho w. A(x) b. J(a) w. J: A(x)=w. J(a) w. A(x) Testemunha (I 3) Inocente <0, 1, 0> 0. 75 w. J: I 3(x) = <0, 0. 75, 0. 25> Consolidator Agent Culpado <1, 0, 0> 0. 23 w. J: C(x) = <0. 23, 0, 0. 77> Importer 1 Culpado <1, 0, 0> 0. 47 w. J: I 1(x) = <0. 47, 0, 0. 53> Importer 2 Culpado <1, 0, 0> 0. 92 w. J: I 2(x) = <0. 92, 0, 0. 08> w. J = w. J: I 3(x) w. J: C(x) w. J: I 1(x) w. J: I 2(x) = <0. 76, 0. 18, 0. 06> A probabilidade do Consolidator Agent ter violado a norma I é 76%.

Conclusão As vantagens desta abordagem são: I. Não interfere na privacidade do agente II. Pode ser utilizada para governar as normas associadas, não apenas com as interações, mas também com as execuções, assim como acesso a recurso III. Não assume que o sistema irá fazer todo o trabalho sozinho de encontrar as violações e aplicar os prêmios / punições Ø

Referencias 1. 2. 3. 4. 5. Ameli: M. Esteva, J. A. Rodr guez-Aguilar, B. Rosell, and J. L. Arcos. AMELI: An Agent-based Middleware for Electronic Institutions. In Proceedings of the 3 rd International Joint Conference on Autonomous Agents and Multi-Agent Systems (AAMAS 2004), pages 236 --243, New York, USA, 2004. LGI: Minsky, N. H. (2005) Law Governed Interaction (LGI): A Distributed Coordination and Control Mechanism Tu. CSo. N: Cremonini, M. ; Omicini, A; Zambonelli, F. Coordination and Access Control in Open Distributed Agent Systems: The Tu. CSo. N Approach. In Proceedings of the 4 th International Conference on Coordination Languages and Models, LNCS 1906, Springer-Verlag, London, 2000, pp 99 -114. Vázquez-Salceda, J. , Aldewereld, H. , Dignum, F. : Implementing Norms in Multiagent Systems. LNAI 3187. Springer-Verlag (2004) 313 – 327 Silva, V. ; Duran, F. ; Guedes, J. , Lucena, C. “Governing Multi-Agent Systems”, In Journal of Brazilian Computer Society, special issue on Software Engineering for Multi-Agent Systems, number 2 volume 13, SBC, pp. 19 -34, 2007. ISSN 01046500