Declaraciones comprobables sobre algoritmos genéticos.


56

Los algoritmos genéticos no tienen mucha tracción en el mundo de la teoría, pero son un método metaheurístico razonablemente bien utilizado (por metaheurístico me refiero a una técnica que se aplica genéricamente a muchos problemas, como el recocido, el descenso de gradiente y similares). De hecho, una técnica tipo GA es bastante efectiva para el TSP euclidiano en la práctica.

Algunas metaheurísticas están razonablemente bien estudiadas teóricamente: hay trabajo en búsqueda local y recocido. Tenemos un buen sentido de cómo funciona la optimización alterna ( como k-means ). Pero hasta donde yo sé, no hay nada realmente útil sobre los algoritmos genéticos.

¿Existe alguna teoría algorítmica / compleja sólida sobre el comportamiento de los algoritmos genéticos, de alguna forma o forma? Si bien he oído hablar de cosas como la teoría de esquemas , la excluiría de la discusión en base a mi comprensión actual del área por no ser particularmente algorítmica (pero podría estar equivocado aquí).


55
Para un poco de inspiración, ver también p. 25–29 de las diapositivas de Papadimitriou FCRC 2007 .
Jukka Suomela

1
@Suresh: Prefiero verlo como una pregunta en lugar de una respuesta ; Me encantaría que alguien más se haya tomado la molestia de explicar más específicamente cuál es el resultado al que Papadimitriou se refiere en las diapositivas. :)
Jukka Suomela

1
Aquí hay una versión de ciencia ficción de ese trabajo: tinyurl.com/2f39jrb
Suresh Venkat

1
Recientemente tomé un curso en GA y mi exageración sobre GA ha disminuido cuando aprendí el Teorema de No Free Lunch: en.wikipedia.org/wiki/No_free_lunch_in_search_and_optimization
Alexandru

1
Alexandru, ¿por qué es eso? Debería ser bastante obvio que casi cualquier técnica será mejor que otras en algunos casos y peor en otros. ¿Realmente creías que GA sería uniformemente superior?
Raphael

Respuestas:


29

Y. Rabinovich, A. Wigderson. Técnicas para delimitar la tasa de convergencia de algoritmos genéticos. Algoritmos de estructuras aleatorias, vol. 14, no. 2, 111-138, 1999. (También disponible en la página de inicio de Avi Wigderson )


Parece que el primer enlace está desactivado.
Jeremy Kun

@JeremyKun: Acabo de probarlo y funcionó bien ... (Me entristecería si un enlace doi se desactivara, derrotando uno de los principales propósitos del sistema doi ...)
Joshua Grochow

Todavía recibo un error de "Página no encontrada" de la Biblioteca Wiley. ¿Podría ser un problema de formato / navegador?
Jeremy Kun

@ JeremyKun: Podría ser. Si tiene acceso a MathSciNet, intente este enlace en su lugar: ams.org/mathscinet-getitem?mr=1667317
Joshua Grochow

No es un problema porque el enlace a su página de inicio funciona. Solo estaba tratando de ayudar a mejorar esta respuesta :)
Jeremy Kun


10

Además de trabajar en el recocido simulado, Ingo Wegener tuvo algunos resultados teóricos sobre algoritmos evolutivos. La tesis de su estudiante de doctorado Dirk Sudholt también merece un vistazo.



10

Durante la última década, se han realizado progresos significativos en el análisis de tiempo de ejecución de algoritmos evolutivos, optimización de colonias de hormigas y otras metaheurísticas. Para una encuesta, consulte Oliveto et al. (2007) .


Según Kristian Lehre, te acabo de ver y vi tu área de interés, así que me gustaría preguntarte: ¿crees que se podrían usar herramientas similares para analizar el tiempo de ejecución de los algoritmos de optimización de colonias de hormigas y las preguntas de tipo "Algoritmo natural" de Chazelle ( tasa de convergencia de la congregación de aves)? En este momento, las técnicas de Chazelle parecen una isla para sí mismas, y me pregunto si hay una imagen más grande.
Aaron Sterling

2
Sí, estas técnicas se pueden adaptar para analizar el tiempo de ejecución de los ACO. Recientemente escribí un artículo sobre ACO para el problema de MinCut. Además, consulte la encuesta de Witt (2009): springerlink.com/content/3727x3255r1816g4 No conozco ningún vínculo actual de esta investigación con el trabajo de Chazelle, pero vale la pena explorarlo.
Por Kristian Lehre


6

6

También hay un documento de D. BHANDARI, CA MURTHY y SK PAL (desafortunadamente no disponible en línea) que proporciona una prueba de convergencia bajo dos supuestos:

  • tt+1
  • El operador de mutación permite cambiar de una solución a otra en un número finito de pasos.

La prueba de convergencia utiliza un modelo de cadena de Markov.

Aquí la referencia: Dinabandhu Bhandari, CA Murthy: Algoritmo genético con modelo elitista y su convergencia. IJPRAI 10 (6): 731-747 (1996)


6

Los modelos matemáticos de algoritmos genéticos con poblaciones finitas pero no unitarias son difíciles de manejar y, hasta ahora, han demostrado ser imposibles de analizar para todas las funciones de aptitud física menos triviales. Curiosamente, si está dispuesto a aceptar un argumento de simetría , un argumento, en otras palabras, no realizado dentro de los límites de un sistema axiomático formal, entonces se puede obtener un resultado emocionante y hermoso sobre el poder computacional de los algoritmos genéticos.

Específicamente, un algoritmo genético con cruce cruzado uniforme es capaz de evaluar un gran número de particiones de esquemas gruesos implícitamente y en paralelo, y puede identificar eficientemente particiones cuyos esquemas constituyentes tienen valores de aptitud promedio diferentes. Esta forma de paralelismo implícito es en realidad más poderosa que la descrita por John Holland y sus alumnos, y a diferencia del paralelismo implícito descrito por Holland, puede verificarse experimentalmente. (Ver esta publicación de blog).

El siguiente documento explica cómo los algoritmos genéticos con crossover uniforme parlay el paralelismo implícito en una heurística de optimización global de propósito general llamada hiperclimbing :

Explicando la optimización en algoritmos genéticos con crossover uniforme . Para aparecer en las actas de la conferencia Fundamentos de Algoritmos Genéticos 2013.

(Descargo de responsabilidad: soy el autor del artículo)


Esto es inteligente / innovador para utilizar SAT aleatorio como punto de referencia para la AG y muestra una idea que parece que pocos documentos han explorado. supongamos que el GA puede funcionar en cualquier clase de complejidad arbitraria y tal vez sea realmente una forma de construir algoritmos en una clase de complejidad "superior" basada en los resultados de algoritmos en una clase de complejidad "inferior" ... entonces, en cierto sentido, en realidad no tiene sentido para analizar la "complejidad" de gas, porque podrían trascender clasificación de clase de la complejidad ....
VZN

5

Raphael Cerf hizo su tesis doctoral sobre algoritmos genéticos en Montpellier bajo la supervisión de Alain Berlinet, desde un punto de vista matemático. Es bastante antiguo, pero probablemente pertenecería a cualquier bibliografía sobre algoritmos genéticos.

Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.