METODOLOGA DE LA SUPERFICIE DE RESPUESTA Parte 6

METODOLOGÍA DE LA SUPERFICIE DE RESPUESTA Parte 6: Redes neuronales Héctor Goicoechea E-mail: hgoico@fbcb. unl. edu. ar http: //www. fbcb. unl. edu. ar/laboratorios/ladaq/

Redes Neuronales No se basan en un modelo algebraico explícito sino en un conjunto de “unidades de activación” o neuronas.

Redes Neuronales • Emplean un modelo universal no -lineal para ajustar los datos. • Modelan exitosamente relaciones no-lineales entre factores y respuestas.

Redes Neuronales Analogía con la neurología básica Dendritas = entradas Señales de entrada (x 1, x 2, . . . xi , . . . xm) x 2 Soma = procesamiento x 3 xi x 1 xm Sinapsis = contacto Salida Axón = salida sk

Redes Neuronales Esquema de una neurona artificial x 1 x 2 w 1 Salida = sk w 2 suma transferencia w 3 w 4 x 3 x 4

Redes Neuronales Obtención de la señal de entrada a la neurona 0 0. 1 +1 0. 2 -1 +1 x - 0. 3 -0. 02 w 0. 18 NET = 0. 1× 0 + 0. 2× 1+ (-0. 3×-1)+(-0. 02× 1) = 0. 48 NET = x. Tw

Redes Neuronales Aprendizaje lineal NETi W (t+1) W inicial (w 1, w 2, …, wm) W (t)

Redes Neuronales Importancia del BIAS y = ax + n

Redes Neuronales Función de transferencia sigmoidea Salida 1 1/a 0. 5 NET n 0 sf (NET, a, n) = 1 / [1 + exp (- a (NET – n))] Se puede considerar n y a como una constante de contacto en la sinapsis llamada “bias”

Arquitectura de una red

Arquitectura de una red Entrada: dos factores (p. H y concentración) Salida: una respuesta (% rendimiento)

Entrenamiento mediante retro propagación de errores

Redes Neuronales Cálculo de la suma ponderada de las entradas Xi* = donde w es el peso y θ el sesgo o bias • La respuesta estimada se puede expresar como: Wij’, Wj’’, θ’ y θ’’ son parámetros ajustados por el algoritmo de gradiente descendente.

Entrenamiento mediante retro propagación de errores Wij’ x 1 x 2 x 3 + fh Wj’’ + fo ≠y Error= | -y| + fh x 4 Entrada Escondida Salida Procedimiento iterativo que comienza con un valor al azar de los ‘w’ y luego se van ajustando suavemente para disminuir el error

Entrenamiento: calibración, monitoreo y validación MLR o PLS Juego de entrenamiento Datos de calibración Validación cruzada. Parámetros de ajuste. Modelo ANN Juego de entrenamiento Juego de monitoreo Validación del modelo Datos de validación

Entrenamiento: elección del mejor modelo

Uso de AAN en optimización Se guardan los pesos correspondientes al mejor modelo LS ANN

Uso de AAN en optimización Una vez que se obtuvo el mejor modelo, se predicen muchas combinaciones posibles que cubran el espacio experimental Mejor modelo: contiene los pesos correspondientes al mejor modelo

Indicadores del ajuste

Resultados del ajuste

Resultados del ajuste: parámetros

Resultados del ajuste: parámetros

Superficie de respuesta

Desarrollo de un diseño apropiado para modelar ANNs • Total de experimentos: 62 • Esto resulta más económico que 125 experimentos de un Factorial Completo a 5 niveles

Evaluación del leverage para un modelo cúbico: diseño con buenas propiedades

Modelo LS para respuesta en metanol. Se sugiere un modelo cúbico

Modelo LS para respuesta en metanol x 1 = Solvente x 2 = Acetileno x 3 = Muestra Ecuación final y(metanol) = 1. 2 – 0. 016 x 1 – 0. 74 x 2 - 2. 72 x 3 + + 0. 005 x 1 x 2 +0. 02 x 1 x 3 +0. 37 x 2 x 3 + + 0. 27 x 22 + 2. 58 x 32 + 0. 001 x 1 x 2 x 3 – + 0. 048 x 22 x 3 – 0. 054 x 2 x 32 – 0. 034 x 23 – 0. 85 x 33

Evaluación del modelo

Predicción de puntos experimentales usados para construir el modelo

Predicción de 27 puntos experimentales usados para validar el modelo

Resultados comparativos de LS y ANN

Otro tipo de ANN: Radial Basis Functions

Funciones de base radial Ejemplo de aproximación de una función bidimensional (RSM) mediante 5 gausianas

Funciones de base radial

Funciones de base radial • Los centros (c) y anchos (s) se estiman mediante una búsqueda por árboles de regresión. • El número de neuronas ocultas (N) se estima por forward selection y validación cruzada. • Los pesos (w) se calculan directamente por cuadrados mínimos.

Funciones de base radial Fase de optimización de múltiple respuestas • Se optimiza cada respuesta por separado. • Se construye la función deseabilidad con las deseabilidades individuales. • Se optimizan los factores para la máxima deseabilidad o una región aceptable.

Funciones de base radial Ejemplo: diseño D-optimal con 23 experimentos

Ajuste por LS: modelo explicito muy complejo

Ajuste por LS: análisis de los datos

Ajuste por LS: análisis de los datos

Ajuste por LS: análisis de los datos. Transformación

Ajuste por LS: modelo con respuesta transformada

Ajuste por LS con respuesta transformada: análisis de los datos

Ajuste por LS: superficie de respuesta y predicciones

RBF: uso del programa sro_ann

Programa sro_ann: estructura de los datos

Programa sro_ann: entrenamiento

Programa sro_ann: análisis de datos

Programa sro_ann: optimización

Programa sro_ann: optimización

Programa sro_ann: optimización

Programa sro_ann: superficie de respuesta

Programa sro_ann: superficie de respuesta

Programa sro_ann: deseabilidad

Uso del programa sro_ann para varias respuestas

Uso del programa sro_ann para varias respuestas

Uso del programa sro_ann para varias respuestas: análisis comparativo

Uso del programa sro_ann para varias respuestas: optimización

Uso del programa sro_ann para varias respuestas: optimización

Uso del programa sro_ann para varias respuestas: deseabilidad

Uso del programa sro_ann para varias respuestas: superficies obtenidas