search

geneura-papers / 2015-ASOCO

Revision of the heterogeneous parameters/machines paper
0 stars 0 forks source link

Resumir referencias nuevas #3

Closed fergunet closed 9 years ago

fergunet commented 9 years ago

Un revisor ha pedido citar y comparar con nuestro trabajo las siguientes referencias.

Habría que indicar las diferencias y similitudes con nuestro trabajo. Sobre todo decir que el nuestro se realiza en nodos heterogéneos y la adaptación se realiza respecto a la máquina.

mgarenas commented 9 years ago

Weber, Matthieu, Ferrante Neri, and Ville Tirronen. "Distributed differential evolution with explorative-exploitative population families." Genetic Programming and Evolvable Machines 10.4 (2009): 343-371. Este artículo propone usar dos tipos de poblaciones de forma conjunta. El primer tipo de población se utiliza para explorar, tiene un tamaño fijo, se organizan en una topología de anillo unidireccional. El segundo conjunto de poblaciones son de tamaño variable y están dedicadas a tareas de explotación del espacio de búsqueda. Este conjunto de poblaciones encuentra soluciones con potencial y se las envía a las poblaciones dedicadas a explorar para que analicen su viabilidad y su potencial real. En el paper analizan 13 problemas y comparan sus resultados con otros 4 algoritmos obteniendo para su propuesta buenos resultados.

fergunet commented 9 years ago

¿Cómo se asigna el tamaño variable? ¿Qué problemas usan? (para compararlo con el nuestro) ¿Usan distintos tamaños de población para evaluar? (esto también sirve para el issue #4)

mgarenas commented 9 years ago

Los problemas son 13 funciones como la de Ackley, Griewangk, Schwefel, Rastrigin, Rosembrock, etc. Respecto al tamaño de las poblaciones, lo que hacen es elegir, según el problema un tamaño global G. Después un número de subpoblaciones Sp que dividen en dos tipos, las de explorar (alpha) y las de explotar (beta) e inicialmente todas las poblaciones tienen G/(alpha+beta) tamaño.

mgarenas commented 9 years ago

Tongchim, Shisanu, and Prabhas Chongstitvatana. "Parallel genetic algorithm with parameter adaptation." Information Processing Letters 82.1 (2002): 47-54. Este propone un algoritmo que adapta sus parámetros en tiempo real. Lo compara con el mismo algoritmo con los parámetros sin adaptar, una vez elegidos de forma aleatoria y otra vez con valores estándares. En las conclusiones incluyen que el algoritmo adaptativo es mejor en dos aspectos. En la fiabilidad, puesto que el adaptativo encuentra la solución de forma más fiable que los otros dos y en el tiempo que emplea en encontrar la solución. Los problemas que hace son: (1) 300-bit onemax problem, (2) 300-bit contiguous bits problem, (3) 50 copies of minimal deceptive problem (MDP), (4) zero/one multiple knapsack problem and (5) royal road problem

La verdad es que los dos últimos no los he usado nunca.

La población global la divide en islas que evolucionan de forma independiente e intercambian individuos de forma periódica. Los parámetros se cambian utilizando a su vez un Algoritmo Genético cuyos individuos son los parámetros del algoritmo. Cada isla opera con los conjuntos de parámetros simultáneamente controlando qué individuo es evolucionado con el conjunto de parámetros 1 y qué individuos con el conjunto de parámetros 2. El fitness de cada conjunto de parámetros es la media de los fitness de los individuos evolucionados con dicho conjunto de parámetros. Cada cierto tiempo los conjuntos de parámetros se intercambian entre las islas. Si el conjunto de parámetros que llega a una isla es mejor que cualquiera de los dos locales, se generan con el que acaba de llegar dos conjuntos de parámetros nuevos aplicando un cruce y mutación uniforme entre el conjunto que ha llegado y el mejor local. Las migraciones entre islas se producen en forma de anillo unidireccional.

mgarenas commented 9 years ago

Clune, Jeff, et al. "Investigations in meta-GAs: panaceas or pipe dreams?." In GECCO, 2005. Utilizan un meta algoritmo evolutivo para evolucionar los parámetros de otros algoritmos de segundo nivel. En las conclusiones destacan tres aspectos. El primero es que el problema que se resuelve en segundo nivel no es importante, puesto que el algoritmo se adapta de igual forma a unos problema u otros. Que incluso el meta algoritmo puede cambiar sus parámetros durante la ejecución, aunque esto puede afectar al rendimiento. Por último apuntan a que un meta algoritmo no podrá reemplazar a un algoritmo configurado a mano, o por lo menos no por ahora. analizan dos problemas, el OneMax y el 4-bit TRap. Los experimentos los han hecho usando DAGA2 que permite la evolución a dos niveles. La verdad es que este me parece un poco flojo con respecto a los otros dos anteriores.

JJ commented 9 years ago

En todo caso, imagino que la comparación será a nivel conceptual. No creo que puedas comparar absolutamente todo.

fergunet commented 9 years ago

Claro, claro, es simplemente porque lo pide un revisor y para ponerlo en el SoA diciendo en qué se diferencia lo nuestro. Le he pedido a Maribel que ponga más info por si puedo aprovecharlo para justificar algunas cosas (como por ejemplo, los problemas elegidos o los tamaños de población)

mgarenas commented 9 years ago

Schlierkamp-Voosen, Dirk, and Heinz Muhlenbein. "Adaptation of population sizes by competing subpopulations." In CEC. 1996.

En este último artículo que me queda por comentar, lo primero que quiero decir es que es super antiguo, para que lo tengamos en cuenta.

Me gusta la introducción que hace a los mecanismos naturales que regulan los tamaños de poblaciones y establecen que los mecanismos naturales que controlan las poblaciones de especies en la naturaleza son cuatro: competición, depredador-presa, symbiosis y parasitario.

Establece también que según lotka-volterra para el caso de la competición existe una relacion matemática que depende del índice de crecimiento de cada especie que compite pero dice que en el caso de un algoritmo evolutivo no se puede aplicar porque los coeficientes de interacción entre las especies no se pueden conocer de antemano.

Evidentemente el propone un método de competición, por lo que se centra más en el análisis de este mecanismo. Para ellos los tamaños de poblaciones compiten entre ellos. el tamaño de cada subpoblacion estará condicionado por el fitness del mejor individuo de esa subpoblación y las poblaciones tienen un límite de tamaño inferior para que no se pierda o desaparezca ninguna. Con el fitness del mejor y el límite establecido calculan un índice para cada población. Además establecen un criterio de calidad para el tamaño de las poblaciones que depende de las últimas w generaciones, tomando como máximo las últimas 10 generaciones para calcularlo. Este índice de calidad, lo calculan para cada población y tienen en realidad un vector de índices de calidad de longitud 10 para cada una de las poblaciones que suman para tener un único criterio de calidad por cada población

Además de este índice de calidad, tienen un criterio de ganancia que describe cómo crece cada población dependiendo de su calidad. Lo que hacen es decidir en cuanto va a crecer la población con mejor índice de calidad y esa cantidad, la restan de las demás poblaciones repartiendo la pérdida correspondiente entre todas, no necesariamente de la misma forma, sino multiplicando por un índice entre 0 y 1 que supongo, debe sumar uno para mantener la población global constante.

Este mecanismo, bastante complejo en mi opinión, se tiene que ver afectado también cuando hay migración, puesto que se migra el mejor individuo de la mejor población a todas las demás poblaciones. Además este mecanismo, lo extienden a un modelo general en el que el tamaño de la población global no tiene que ser fijo y en el que tienen en cuenta qué tipo de procreación hay entre los individuos de una especie. Es decir, si el tamaño de la población es pequeña, debería de subir la probabilidad de aplicación del mutador para que la procreación monoparental sea efectiva y bajar la del cruce. Sin embargo, si el tamaño de la población es grande, es más eficiente el cruce. A partir de este punto ya el paper es un poco o bastante diría yo lioso.

Utilizan la función de rosembrock y van analizando en el apartado de resultados como han ido evolucionando los tamaños de población comparados con un algoritmo que no tiene en cuenta su modelo de adaptación. Ejecuta experimentos con 4 y 2 poblaciones simultáneas y en las gráficas se ve como cuando el tamaño de la población global es fijo, se van compensando los tamaños según sea la aportación de la población i al espacio de las soluciones encontradas. En los resultados en los que el tamaño de la población no es constante y en los que además cada algoritmo puede ser diferente la visión de los resultados es mucho menos clara. También tiene experimentos con otra función que yo no he usado nunca que se llama Fletcher and Powell.

Tanto en rosembrock como en la segunda función, las diferencias entre las soluciones globales al problema al final del algoritmo no se tienen en cuenta, no se analizan, no se destacan, en fin, que el paper se centra en el mecanismo de adaptación pero no dice que con la adaptación se mejora las soluciones encontradas ni mucho menos.

fergunet commented 9 years ago

Coñes @mgarenas , menos mal que lo has puesto ahora, iba a ponerme en 5 minutos yo xDD Ya estoy poniendo tus resúmenes en el texto, ahora cierro este issue con un commit.

Muchas gracias por el curro!

mgarenas commented 9 years ago

Y por qué te ibas a poner tú si era mi trabajo???? eh!!!! :-)

Ya está hecho.

maribel

On 08/01/15 12:50, Pablo García Sánchez wrote:

Coñes @mgarenas https://github.com/mgarenas , menos mal que lo has puesto ahora, iba a ponerme en 5 minutos yo xDD Ya estoy poniendo tus resúmenes en el texto, ahora cierro este issue con un commit.

Muchas gracias por el curro!

— Reply to this email directly or view it on GitHub https://github.com/geneura-papers/2015-ASOCO/issues/3#issuecomment-69169659.

fergunet commented 9 years ago

@mgarenas perdona que te moleste de nuevo, si tienes los artículos a mano, puedes poner los tamaños (al menos iniciales) de las subpoblaciones en cada artículo?

mgarenas commented 9 years ago

No los tengo en casa, los tengo allí en el despacho, mañana les echo un ojo y te lo pongo.

Maribel

On 08/01/15 13:24, Pablo García Sánchez wrote:

@mgarenas https://github.com/mgarenas perdona que te moleste de nuevo, si tienes los artículos a mano, puedes poner los tamaños (al menos iniciales) de las subpoblaciones en cada artículo?

— Reply to this email directly or view it on GitHub https://github.com/geneura-papers/2015-ASOCO/issues/3#issuecomment-69172658.

mgarenas commented 9 years ago

En "Adaptation of population sizes by competing subpopulations" en los experimentos sin adaptación tienen tamaños de población de 512, 16 y 64. En los experimentos con adaptación y con cuatro subpoblaciones tiene un experimento con 10-2-2-2 y otro con 52-4-4-4 y en los experimentos con 2 poblaciones y el proceso de adaptación generalizado, incluyendo los operadores tiene los tamaños de 512-2.

mgarenas commented 9 years ago

Distributed differential evolution with explorative-exploitative population families:

Para los experimentos basados en el modelo isla tienen una población de 20 individuos que dividen en 2 o en 4 según el experimento. Para los experimentos del algoritmo que los autores proponen, utilizan poblaciones iniciales de 200 y de 400 divididas entre las poblaciones

mgarenas commented 9 years ago

Parallel genetic algorithm with parameter adaptation: Para este artículo dicen que para cada problema han realizado los experimentos para varios tamaños de población, aparentemente empiezan en 20 y terminan en 240, y aumentan de 20 en 20. La verdad es que es un montón

mgarenas commented 8 years ago

Hola, hay que colaborar con Julio para la petición de la plaza.

Ya estuve hablando con él el viernes a última hora y me estuvo contando que quieren poner la línea de investigación que tiene el departamento en el citic que es: "ARQUITECTURAS DE COMPUTADOR AVANZADAS Y SISTEMAS EMBEBIDOS INTELIGENTES" . que da un poco cabida a todo.

Lo que se necesita es:

- proyectos concedidos durante este año, que creo que no tenemos

ninguno que no esté ya, pero por si acaso, el formato es:

Título: MoSos: Movilidad Sostenible en Tiempo Real Referencia: PRY 142/14 Investigador responsable: Maria Isable García Arenas Entidad financiadora: Junta de Andalucía. Centro de Estudios Andaluces Fecha: 1/1/2015 al 31/08/2016 Dotación: 22.506€ Investigadores: 7

- Artículos en Q1 y Q2 con el siguiente formato:

Autores separados por ";" :”Título del Artículo”. Nombre de la revista (fecha o pendiente de publicación), año. (cuartil)

y un ejemplo:

Pablo García-Sánchez; Gustavo Romero; Jesús González; Antonio Miguel

Mora; Maribel García Arenas; Pedro Ángel Castillo; Carlos M. Fernandes; Juan Julián Merelo Guervós: "Studying the effect of population size in distributed evolutionary algorithms on heterogeneous clusters". Appl. Soft Comput. 38: 530-547 (2016) (Q1)

Esto es un coñazo, pero de esto depende que se pueda sacar una plaza para investigación, ... así que venga, me lo podéis mandar a mí si queréis y yo voy centralizando y enviándoselo a Julio.

Un saludo a todos, Maribel

"Este mensaje se dirige exclusivamente a su destinatario y puede contener información privilegiada o confidencial. Si no es Ud. el destinatario indicado, queda notificado de que la utilización, divulgación o copia sin autorización está prohibida en virtud de la legislación vigente. Si ha recibido este mensaje por error, se ruega lo comunique inmediatamente por esta misma vía y proceda a su destrucción.

This message is intended exclusively for its addressee and may contain information that is CONFIDENTIAL and protected by professional privilege. If you are not the intended recipient you are hereby notified that any dissemination, copy or disclosure of this communication is strictly prohibited by law. If this message has been received in error, please inmediately notify us via e-mail and delete it"

María Isabel García Arenas Dpto. Arquitectura y Tecnología de los Computadores Universidad de Granada