Arquitetura RNN BRNN IEBRNN Aprendizagem supervisionada seqencial enriquecida
Arquitetura • • • RNN BRNN IEBRNN Aprendizagem supervisionada seqüencial enriquecida com um grafo de interações • A arquitetura • A aprendizagem
RNN – Rede Neural Recursiva ou Recorrente • Redes neurais feed-forward na predição de estruturas secundárias • A necessidade de uma máquina que consiga aprender seqüências • Generalização de redes feed-forward capazes de processar dados estruturais
RNN – Arquitetura • Um RNN pode ser desmembrada em várias feed-forwards compartilhando os mesmos pesos • Pode ser usada todas as informações anterior a entrada t • Para a predição seria bom usar as informações que surgiram mais tarde (futuras)
BRNN – Rede Neural Recursiva Bidirecional • Resolve a limitação da RNN, utiliza tanto as informações passadas quanto as futuras
BRNN • Podemos definir de forma recursiva as equações que representam os estados: – F(t) depende de F(t-1) – B(t) depende de B(t+1) – O(t) depende de F(t) e B(t) • Resumindo – A saída de x(t) depende de x(1). . . X(N)
BRNN
BRNN
BRNN – Limitações • Longas dependências
IEBRNN – BRNN Enriquecida com interações • Foi acrescentado a BRNN um grafo de interações,
Bibliografia • [1] Prediction of Structure and Function of Proteins and Ligands By Means of Neural and Kernel Methods for Strutured Data. – Alessio Ceroni. Dissertation submitted in partial fulfillment of the requirements for the degree of doctor of Philosophy in computer Science and Control Engineering. Università Degli Studi di Firenze. 2004 -2005. • [2] Improved prediction of the number of residue contacts in proteins by recurrent neural networks – Gianluca Pollastri, Pierre Baldi, Pietro Fariselli e Rita Casadio. Bionformatics. March 21, 2001. • [3] Bidirectional Recurrent Neural Networks. Mike Schuster and Kuldip K. Paliwal, Member, IEEE Transactions on Signal Processing, Vol 45, no. 11. November 1997. • [4] http: //www. faqs. org/faqs/ai-faq/neural-nets/part 2/section-12. html • [5] Exploiting the past and the future in protein secondary structure prediction. Pierre aldi, Soren Brunak, Paolo Frasconi, Giovanni Soda and Gianluca Pollastri. Bioinformatics, vol 15, Nov 1999.
- Slides: 10