Clase 5: Algoritmos Evolutivos: Antecedentes y ParadigmasComputación Evolutiva
Gabriela Ochoa
http://www.ldc.usb.ve/~gabro/
Contenido
Inspiración biológica: La Teoría de la Evolución Natural
Algoritmos Evolutivos Paradigmas en Computación Evolutiva
Estrategias Evolutivas (ES) Programación Evolutiva (EP) Algoritmos Genéticos (GAs) Ramificaciones de los Gas
Relación con otras áreas: IA, Computación Emergente, Soft Computing
Charles Darwin
1859: “The Origin of Species” Derrumba el Lamarckismo Evolución se origina a través de
cambios aleatorios de características hereditarias, combinados con un proceso de selección natural (Supervivencia de los más aptos)
Selección Natural
Proceso natural por el cual los individuos mas aptos de un grupo de descendientes sobrevive para transferir sus rasgos heredados a las generaciones sucesivas
Mientras los menos aptos, mueren sin dejar descendientes y así se eliminan los rasgos característicos de los menos aptos
Este proceso explica los cambios en las características de las especies en el tiempo, y eventualmente produce especies y tipos nuevos de organismos
Neo-Darwinismo
+
• Versión moderna de la Teoría Evolutiva de Darwin
• Síntesis entre el Darwinismo y la Genética Mendeliana
• Darwin desconocía los mecanismos de variación
Evolución
Proceso de descendencia con cambio, y posiblemente diversificación
Evolución = Variación + Herencia + Selección
Población Variación: en una o mas características Herencia: Transmisión padres - hijos Selección: Diferentes tasas de reproducción y
supervivencia. Mas aptos se reproducen mas
Computación Evolutiva
Años 50s y 60s: varios científicos de manera independiente estudiaron sistemas evolutivos, con la idea usar la evolución como método optimización en ingeniería
Idea: Evolucionar una población de posibles soluciones a un problema dado, utilizando operadores inspirados por la variación genética, y la selección natural
Naturaleza / Computación
Nature ComputerIndividualPopulationFitnessChromosomeGene
Crossover andMutationNatural Selection
Solution to a problemSet of solutionsQuality of a solutionEncoding for a solutionPart of the encoding of asolutionSearch operators
Reuse of good (sub-)solutions
Jhon Von Neumann (1)• Nació en Budapest Hungría en 1903
• Genio prematuro, a los 8 años leyó una enciclopedia de historia universal de 42 volúmenes
• Publicó su primer paper a los 18 años con su tutor
• Estudió química en la Universidad de Berlín hasta 1923
• Lugo viaja a Zurich, donde en 1925, recibe un título en Ing. Química
Jhon Von Neumann (2)
1928: recibe doctorado en matemáticas de la Universidad de Budapest, a la edad 22 años
Instituto de Estudios Avanzados en Princeton, desde 1933. Hasta el final de su vida
Matemático mas brillante del siglo 20, contribuciones a la mecánica cuántica, análisis funcional y lógica matemática
Invento áreas nuevas como: la teoría de juegos, los autómatas celulares
La arquitectura von Neumann del computador, aun domina el área
Jhon von Neumann (3)
150 publicaciones: 20 en Física y el resto distribuido mas o menos equitativamente entre: Matemáticas Puras: (set theory, logic, topological group,
measure theory, ergodic theory, operator theory, and continuous geometry)
Matemáticas Aplicadas: (statistics, numerical analysis, shock waves, flow problems, hydrodynamics, aerodynamics, ballistics, problems of detonation, meteorology, and two nonclassical aspects of applied mathematics, games and computers).
Enfoques en Computación Evolutiva
EC = GA + ES + EPComputación
EvolutivaAlgoritmos Genéticos
(Holland, 75)
Estrategias Evolutivas
(Rechenberger, 73)
Programación Evolutiva
(Fogel, Owens, Walsh, 66)
Similares en un nivel abstracto, inspiradas en los principios de la Evolución Natural.
Diferencias a nivel de implementación. Aspectos de representación de las estructuras, operadores de variación, métodos de Selección, medidas de desempeño
Ramas de Algoritmos Genéticos
Programación Genética (Genetic Programming, GP) Jhon Koza, 1989. Espacio de búsqueda, programas de computación en un lenguaje que puede ser modificado por mutación y recombinación
GAs basados en ordenamiento (Order based GAs): utilizados en optimización combinatoria. Espacio de búsqueda: permutaciones
Sistemas Clasificadores Genéticos (Classifier Systems). Especio de reglas de producción, sistema de aprendizaje, inducir y generalizar
Esqueleto de un Algoritmo Evolutivo
Generate [P(0)]t 0WHILE NOT Termination_Criterion [P(t)] DO
Evaluate [P(t)]P' (t) Select [P(t)]P''(t) Apply_Variation_Operators
[P'(t)]P(t+1) Replace [P(t), P''(t)]t t + 1
ENDRETURN Best_Solution
El Ciclo Evolutivo
Recombination
MutationPopulation
Offspring
ParentsSelection
Replacement
Solución de Problemas usando Algoritmos Evolutivos
Algoritmos Genéticos
Jhon Holland, 60s, y 70s, Univ. Michigan Idea original estudio teórico de la adaptación, no
resolución de problemas Representación genética independiente del
dominio: cadenas de bits Énfasis en recombinación, operador principal,
mutación papel secundario aplicado con baja probabilidad, constante
Selección probabilística
Estrategias Evolutivas (1)
ES, Evolution Strategies, Alemania. Evolutionstrategies
• Utilizadas para resolver problemas duros (sin solución analítica) de optimización de parámetros (No. reales)
• Cromosoma = vector de parámetros (float)
• Auto-adaptación de las tasas de mutación. Mutación con distribución Normal
• Selección (, )-ES, (+ )-ES
• Población de padres e hijospueden tener distinto tamaño
• Métodos determinísticos que excluyen definitivamente a los peores de la población
Estrategias Evolutivas (2)
(, )-ES: Los mejores individuos se escogen de los hijos, y se convierten en los padres de la siguiente Generación. Ej. (50,100)-ES
+ )-ES: Los mejores individuos se escogen delconjunto formado padres y hijos.Ej. (50+100)-ES
(, )-ES parece ser el mas recomendado para optimizar Funciones complejas y lograr la auto-adaptación de las tasas de mutación
Estrategias Evolutivas (3)
El progreso del Algoritmo evolutivo, ocurre solo en una pequeña banda de valores para el paso de la mutación.
Por esta razón, se requiere de una regla auto-adaptaba para el tamaño de los pasos de mutación
Programación Evolutiva
•Inicialmente, evolución a través de mutaciones de maquinas de estado finito
•Representación adecuada al problema
•Mutación único operador de variación, distribución normal, Auto-adaptación
•Selección probabilística
ES EP GA
Representación Números Reales Números Reales Digitos Binarios
Auto-Adaptación
Desviaciones estándares y angulos de rotación
No (Standard EP)
Varianzas (Meta EP)
No
Mutación Gaussiana, Operador principal
Gaussiana, Operador único
Inversión de bit, operador secundario
Recombinación Discreta (azar) Intermedia (promedio)
Sexual (2 padres), Panmicitica (Varios)
No Crossover de n-puntos, Uniforme
Operador principal
Sexual (2 Padres)
Selección Determinística, extintiva o basada en preservación
Probabilistica, extintiva
Probabilística, basada en preservación
Algoritmos Evolutivos y Métodos Tradicionales de Búsqueda
Búsqueda de datos almacenados: Acceder de manera eficiente información en la memoria del computador. Ej. Búsqueda Binaria
Búsqueda de rutas hacia metas: Encontrar de manera eficiente un conjunto de acciones que llevara de un estado inicial a uno final (meta). Ej. DFS, Branch-bound, A*
Búsqueda de Soluciones: Mas general. Encontrar de manera eficiente la solución a un problema, en un espacio grande de soluciones candidatas. Ej. EAs, SA, HC, Tabú
Relación con Inteligencia Artificial
Enfoque Simbólico – top down Sistemas Expertos-Expert Systems (SE-ES)
Lógica Preposicional (Cálculo Preposicional) Lógica de Predicados (Cálculo de Predicados) Redes Semánticas Frames (Marcos)
Lógica difusa o borrosa-Fuzzy Logic (LD-FL) Enfoque Subsimbólico – bottom up
Redes Neurales Artificiales Computación Evolutiva
Soft Computing
Difiere de la Computación tradicional (hard computing), en que es tolerante a imprecisiones, incertidumbre, aproximación, verdades parciales Modelo: mente humana
Principio Guía: aprovechar la tolerancia a los aspectos mencionados arriba, para lograr tratabilidad, robustez, bajo costo
SC = EC + ANN + FL
Soft Computin
g
Computación
Evolutiva
Redes Neurales Artificiale
s
Lógica Difusa
Computación Emergente
Procesos de cómputo que resultan de la actividad colectiva de muchas unidades computacionales sencillas con interacción local
Sistema dinámico, evoluciona en el espacio de estados bajo conjunto de reglas
- REDES NEURALES ARTIFICIALES- ALGORITMOS EVOLUTIVOS- AUTOMATAS CELULARES- MODELOS DE VIDA ARTIFICIAL.- RECOCIDO SIMULADO
Ciencias de la Complejidad
Estudio, en diferentes disciplinas, de cómo una colección de elementos simples, siguiendo reglas simples, producen un comportamiento emergente, colectivo y complejo Precesamiento y comunicación de información Formación de patrones complejos y cambiantes Aprendizaje y adaptación al ambiente
Qué es Computación Emergente? Surge cuando acciones de componentes simples
con información y comunicación limitada, producen procesamiento coordinado y global de información
Resulta de la actividad colectiva en sistemas de muchas unidades de cómputo elementales en interacción local
El todo es más que la suma de las partes
Sistema Nervioso
Neuronas
Transacciones
Comportamiento de la Bolsa
Colonias de Hormigas
Hormigas
Rebaños
Cardúmenes
Comportamiento de Bandadas Modelo computacional de movimiento
coordinado de animales (rebaños, bandadas) (C. Reinolds,1986) BOIDS
Modelo se basa en 3 comportamientos simples de dirección que describen como un individuo maniobra en base a las posiciones y velocidades de sus vecinos cercanos de vuelo
Las 3 Reglas de Dirección
Separación: Evitar colisión con compañeros cercanos de vuelo
Alineación: Imitar dirección y velocidad promedio de los compañeros cercanos de vueloCohesión: Moverse hacia posición promedio de los compañeros cercanos de vuelo
Preguntas Centrales – Ciencias de la Complejidad
Cómo grandes redes con:• Componentes simples, Comunicación
limitada• Sin control central, Reglas simples de
operación
producen comportamientos complejos (vivos, inteligentes) que involucra• Computación y procesamiento de
información• Dinámicas y patrones complejos• Adaptación y Aprendizaje?
Existen principios generales que aplican a todos los sistemas complejos?
Top Related