119
Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications Tesis Doctoral Doctorando Ignacio José García del Amo Directores David Alejandro Pelta José Luis Verdegay Galdeano

Uncertain and dynamic optimization problems: solving strategies and applications

Embed Size (px)

DESCRIPTION

Transparencias de la defensa de mi Tesis Doctoral

Citation preview

  • 1. Uncertain and Dynamic Optimization Problems:Solving Strategies and ApplicationsTesis DoctoralDoctorandoIgnacio Jos Garca del AmoDirectoresDavid Alejandro PeltaJos Luis Verdegay Galdeano

2. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesContenido1 Introduction2 Background3 Mejoras algortmicas4 SRCS: Statistical Ranking Color Scheme5 Software e implementacin6 ConclusionesUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 3. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesContenido1 Introduction2 Background3 Mejoras algortmicas4 SRCS: Statistical Ranking Color Scheme5 Software e implementacin6 ConclusionesUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 4. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesIntroductionUncertain and dynamic optimization problemsAntecedents Many daily life situations can be modeled as optimization problems. Most of these scenarios change with time, and we may have anincomplete knowledge on some of their variables.Optimization problems Finding the best solution for an optimization problem is usually adifcult task (NP-Hard complexity, expensive solution evaluation, etc). We may have limited time or resources satisfaction is better thanoptimization. We need Intelligent Systems capable of dealing with optimizationproblems in the presence of dynamism and uncertainty.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 5. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesIntroductionUncertain and dynamic optimization problemsWorking framework Addressing these challenges is the main issue of the research projectP07-TIC-02970 of the Andalusian Government, Uncertain andDynamic Optimization Problems: A Study on Solving Strategies andApplications main working framework of this thesis. In this context, the techniques provided by Soft Computing, speciallyMetaheuristics, emerge as ideal candidates.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 6. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesIntroductionMain scenarioUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 7. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesIntroductionMain scenarioUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 8. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesIntroductionObjectivesMain objective: to study, design and implement Soft Computing basedmethods for solving DOPs.1 Is it possible to improve the existent algorithms, and, if possible, whattechniques can be used for that purpose?2 What methodology should be applied in order to compare theperformance of different algorithms on a DOP?3 What difculties can we nd when implementing these DOPs,algorithms and performance measures, and how can we face them?Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 9. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesIntroductionObjectivesMain objective: to study, design and implement Soft Computing basedmethods for solving DOPs.1 Is it possible to improve the existent algorithms, and, if possible, whattechniques can be used for that purpose?2 What methodology should be applied in order to compare theperformance of different algorithms on a DOP?3 What difculties can we nd when implementing these DOPs,algorithms and performance measures, and how can we face them?Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 10. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesIntroductionObjectivesMain objective: to study, design and implement Soft Computing basedmethods for solving DOPs.1 Is it possible to improve the existent algorithms, and, if possible, whattechniques can be used for that purpose?2 What methodology should be applied in order to compare theperformance of different algorithms on a DOP?3 What difculties can we nd when implementing these DOPs,algorithms and performance measures, and how can we face them?Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 11. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesIntroductionObjectivesMain objective: to study, design and implement Soft Computing basedmethods for solving DOPs.1 Is it possible to improve the existent algorithms, and, if possible, whattechniques can be used for that purpose?2 What methodology should be applied in order to compare theperformance of different algorithms on a DOP?3 What difculties can we nd when implementing these DOPs,algorithms and performance measures, and how can we face them?Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 12. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesContenido1 Introduction2 Background3 Mejoras algortmicas4 SRCS: Statistical Ranking Color Scheme5 Software e implementacin6 ConclusionesUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 13. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesProblemsProblemsUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 14. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesProblemsStatic vs. dynamic optimization problemsstatic dynamicRepresentation of the tness landscape of an optimization problem (yellowareas indicate local optima).Main differences In DOPs, some features of the problem change with time. Algorithms need to nd the optimum and track it as close as possible.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 15. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesProblemsDynamic environmentsDynamic environment features The environment (objective function) changes periodically. In the time between changes, the environment remains static. It is accepted that there is not enough time between changes tocompletely search for the optimum from zero. Changes are assumed to be gradual.Main dynamic parameters Change frequency: How often do the environment changes? Severity of the change: How big is the change?Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 16. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesProblemsContinuous DOPs in the literatureMPB Maximization problem. Set of m peaks. Dynamism affects position, height and width ofeach peak independently. 0204060801000204060801000204060MPBClassic static optimization problems Ackley, Griewank, Rastrigin, etc. Dynamism is usually added byperiodically shifting the origin ofcoordinates.20020200205101520Ackley10050050100100500501005000100001500020000Sphere402002040402002040123Griewank420244202420406080RastriginUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 17. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesProblemsDiscrete DOPs in the literatureXOR-based dynamic problems Objective is to match a target bit string. Evaluation is performed in groups ofbits, using functions like OneMax,Plateau, RoyalRoad or Deceptive. Dynamism is added by periodicallychanging the target solution using a bitmask and XOR operations.0 1 2 3 401234OneMaxMatched bitsObjectivevalue0 1 2 3 401234PlateauMatched bitsObjectivevalue0 1 2 3 401234Royal RoadMatched bitsObjectivevalue0 1 2 3 401234DeceptiveMatched bitsObjectivevalueOther Dynamic Vehicule Routing Problem. Dynamic Knapsack Problem, etcUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 18. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesPerformance measuresPerformance measuresUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 19. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesPerformance measuresPerformance in static vs. dynamic problemsstatic problems0timeerror Algorithm performance evolves as the search advances. Usually, the nal performance value is reported.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 20. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesPerformance measuresPerformance in static vs. dynamic problemsstatic problems0timeerror Algorithm performance evolves as the search advances. Usually, the nal performance value is reported.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 21. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesPerformance measuresPerformance in static vs. dynamic problemsdynamic problems 1 run = performance through a set of consecutive changes. Performance between two consecutive changes summarized with avalue (depends on the performance measure used). Usually, the mean value of these performance measures is reported atthe end of the run.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 22. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesPerformance measuresPerformance in static vs. dynamic problemsdynamic problems 1 run = performance through a set of consecutive changes. Performance between two consecutive changes summarized with avalue (depends on the performance measure used). Usually, the mean value of these performance measures is reported atthe end of the run.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 23. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesPerformance measuresPerformance in static vs. dynamic problemsdynamic problems 1 run = performance through a set of consecutive changes. Performance between two consecutive changes summarized with avalue (depends on the performance measure used). Usually, the mean value of these performance measures is reported atthe end of the run.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 24. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesPerformance measuresPerformance measures in the literaturePerformance measures pag. 2226 of the memory Ofine Error. Mean Fitness Error. Ofine Performance. Wiecker measures. Other.Statistical Tests pag. 100101, 104106 of the memory Multiple Comparison tests (ANOVA, Kruskal-Wallis, etc). Pair-wise tests (Mann-Whitney-Wilcoxon, etc). Pair-wise corrections (Holm, Bonferroni, etc). Other.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 25. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesAlgorithmsAlgorithmsUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 26. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesAlgorithmsAlgorithms for static vs. dynamic problemsMain adaptation strategiesMany algorithms for DOPs are based on adapted static optimization algo-rithms. Strategies for handling changes in the environment include: Do not do anything (algorithms with enough diversity). Attempt to detect changes in the environment. Increase diversity though the search. Reuse previous information (memory).Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 27. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesAlgorithmsAlgorithms in the literatureEvolutionary Algorithms (EA) pag. 2829 of the memory The most used algorithm in DOPs. Inspired by evolution mechanisms in nature. Very exible, generally does not depend on problem-specic features. Specialized variants aimed at producing higher diversity (e.g., RIGA).mQSO pag. 2930 of the memory A PSO variant specially aimed at DOPs. Contains multiple (m) swarms. Two types of particles: trajectory and quantum. Inter-swarm exclusion mechanism.Other Ant Colony Optimization, Differential Evolution, etc.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 28. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesAlgorithmsFurther information on DOPsDOP websitehttp://dynamic-optimization.org/Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 29. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesContenido1 Introduction2 Background3 Mejoras algortmicas4 SRCS: Statistical Ranking Color Scheme5 Software e implementacin6 ConclusionesUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 30. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesObjetivos Estudiar tcnicas que puedan mejorar los algoritmos para problemasdinmicos. Nos hemos centrado en metaheursticas basadas en poblaciones. Inters especial en el papel de la cooperacin entre los elementosconstituyentes de los algoritmos. Se han desarrollado tcnicas para un amplio abanico de familiasalgortmicas. En la medida de lo posible, se han desarrollado tcnicas que no seanexclusivas de un cierto algoritmo, sino que se puedieran aplicar deforma genrica a otros tambin.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 31. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOUso de reglas heursticas en un mQSOUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 32. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOMotivacinExperimento: anlisis de propiedades de partculas pg. 4145 de la memoriaObjetivo Identicar mejor combinacinde partculas t y q.Escenario de pruebas mQSO, conguracin desde0t-10q a 10t-0q. Escenario 2 del MPB.Conclusiones Partculas q ms tiles justo despus de un cambio en el entorno. Se sugiere ajustar dinmicamente el nmero de partculas de cadatipo en funcin del tiempo transcurrido desde el ltimo cambio.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 33. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOMotivacin A raz de los resultados anteriores, decidimos incorporar este sistemade ajuste dinmico de partculas en el algoritmo del mQSO. Esta incorporacin se realiza mediante un mecanismo de reglasheursticas, por su sencillez y versatilidad (ver pg. 46 de la memoriapara detalles de implementacin). Dada la facilidad para crear reglas, decidimos explorar las posibilidadesde este mecanismo e introducimos otras dos reglas ms. En total,incorporamos 3 reglas: Change, Rand y Both.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 34. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla ChangeReglaSI ha ocurrido un cambio en el entorno recientementeENTONCEStemporalmente incrementar el nmero de partculasquantum del swarm y disminuir el nmero departculas de trayectoria Despus de un cambio.partculas q: 40%,partculas t: 60%. Resto del tiempo.partculas q: 20%,partculas t: 80%.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 35. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla RandReglaSI un swarm tiene un rendimiento maloENTONCESrecolocar el swarm aleatoriamente, o pausarlo si nohay tiempo sucienteCmo saber si el rendimiento de un swarm es malo? nos interesa recolocar a los swarms que tengan un rendimiento malopor estar en zonas del espacio de bsqueda con bajo tness. mQSO es multiswarm aprovechar esta caracterstica y compararrendimiento con el de los otros swarms.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 36. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla RandReglaSI un swarm tiene un rendimiento maloENTONCESrecolocar el swarm aleatoriamente, o pausarlo si nohay tiempo sucienteCmo saber si el rendimiento de un swarm es malo? nos interesa recolocar a los swarms que tengan un rendimiento malopor estar en zonas del espacio de bsqueda con bajo tness. mQSO es multiswarm aprovechar esta caracterstica y compararrendimiento con el de los otros swarms.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 37. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla RandReglaSI1 el tness de un swarm est ente los peores Y2 esta situacin dura varias iteracionesconsecutivas Y3 el swarm ha convergidoENTONCESrecolocar el swarm aleatoriamente, o pausarlo si nohay tiempo sucienteUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 38. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla RandReglaSI1 el tness de un swarm est ente los peores Y2 esta situacin dura varias iteracionesconsecutivas Y3 el swarm ha convergidoENTONCESrecolocar el swarm aleatoriamente, o pausarlo si nohay tiempo sucienteUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 39. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla RandReglaSI1 el tness de un swarm est ente los peores Y2 esta situacin dura varias iteracionesconsecutivas Y3 el swarm ha convergidoENTONCESrecolocar el swarm aleatoriamente, o pausarlo si nohay tiempo sucienteUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 40. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla RandReglaSI1 el tness de un swarm est ente los peores Y2 esta situacin dura varias iteracionesconsecutivas Y3 el swarm ha convergidoENTONCESrecolocar el swarm aleatoriamente, o pausarlo si nohay tiempo sucienteUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 41. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla Rand Los swarms S2, S3 y S4 an no han convergido no hacer nada. El swarm S1 ha convergido, pero su tness no es de los peores (est enun pico elevado) no hacer nada. El swarm S5 ha convergido y est en una zona de bajo tness recolocar aleatoriamente.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 42. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOPropuesta: Regla Both Habilitar las reglas Change y Rand simultneamente. Si se cumplen los antecedentes de cualquiera de ellas, ejecutar suconsecuente.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 43. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOExperimentacinValidacin de mQSO con reglas pg. 5055 de la memoriaObjetivo Determinar si el mQSO con las nuevas reglas obtiene mejora almQSO tradicional en un amplio abanico de escenarios.Escenarios de pruebas mQSO con las 3 reglas + mQSO standard como algoritmo base decomparacin. Problemas: MPB y Ackley. Diferentes valores para la frecuencia de cambio (e [200,5000]). Diferentes valores para la severidad (s [2%,20%]). Medida de rendimiento: ofine error. Tests estadsticos: KW + MWW (Holm).Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 44. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOExperimentacinValidacin de mQSO con reglas pg. 5055 de la memoria1000 2000 3000 4000 500046810121416Change frequency (no. of evaluations between changes)Avg.offlineerrormqsomqsorulechangemqsorulerandmqsoruleboth5 10 15 204567Severity (%)Avg.offlineerrormqsomqsorulechangemqsorulerandmqsorulebothResultados (MPB) Regla Rand mejora signicativamente a las dems en todos los casos. Regla Change funciona bien ante variaciones de frecuencia, pero node severidad.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 45. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOExperimentacinValidacin de mQSO con reglas pg. 5055 de la memoria1000 2000 3000 4000 50002345Change frequency (no. of evaluations between changes)Avg.offlineerrormqsomqsorulechangemqsorulerandmqsoruleboth5 10 15 202.02.53.03.54.0Severity (%)Avg.offlineerrormqsomqsorulechangemqsorulerandmqsorulebothResultados (Ackley) Regla Rand mejora signicativamente a las dems en todos los casos. Regla Change empeora respecto al mQSO.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 46. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesUso de reglas heursticas en un mQSOResumen Incorporacin de un mecanismo de reglas heursticas al mQSO, ascomo 3 reglas nuevas. Regla Rand mejora signicativamente a los dems algoritmos en todoslos escenarios probados. Regla Change mejora en Escenario 2 de MPB (para el que fueconcebida) pero empeora en otros escenarios importante realizarexperimentos con diferentes problemas y conguraciones. Resultados de regla Both a medio camino entre Change y Rand reglas no aditivas, se contrarrestan entre s.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 47. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesReglas de cooperacin para el algoritmo CSReglas de cooperacin para el algoritmo CSUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 48. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesReglas de cooperacin para el algoritmo CSMotivacin Algoritmo previo, Estrategias Cooperativas (CS), aplicado con xito aproblemas de optimizacin estticos. Otros algoritmos utilizan muchos subcomponentes de funcionamientosimple y si usamos pocos, pero ms inteligentes? Mltiples hebras de metaheursticas de trayectoria (Tab Search). Cooperacin explcita entre las hebras gracias a un coordinador central. Algoritmos para problemas dinmicos rara vez utilizan metaheursticasde trayectoria o cooperacin explcita. Buen candidato para adaptarlo a problemas dinmicos.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 49. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesReglas de cooperacin para el algoritmo CSPropuesta Conjunto de hebras (solvers) basados en Tab Search. Coordinador central recibe informacin de las hebras y mandainstrucciones para ajustar su funcionamiento. Instrucciones basadas en reglas.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 50. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesReglas de cooperacin para el algoritmo CSPropuesta Coordinador usa reglas de tipo si condicin entonces accin. Condicin comn a todas las reglas: que la hebra que se estevaluando haya convergido al mismo ptimo ms de veces. Accin dene la regla.Reglas Best solution. La hebra se reposiciona en el entorno de la mejorsolucin encontrada por el algoritmo. Approaching. La hebra se reposiciona a medio camino de la mejorsolucin encontrada por el algoritmo. Reactive. La hebra se reposiciona en la mejor solucin, perturbada deforma proporcional a . Visited Region List. La hebra se reposiciona en la mejor solucin,pero teniendo en cuenta las regiones ms visitadas.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 51. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesReglas de cooperacin para el algoritmo CSExperimentacinExperimento 1 pg. 7785 de la memoriaObjetivo Validar la primera utilizacin de CS en problemas dinmicos.Escenario de pruebas CS-BestSol, mQSO, Agentes. MPB, Ackley, Griewank, Rastrigin. Variaciones de severidad y node funciones. MFE + KW + MWW (Holm)Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 52. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesReglas de cooperacin para el algoritmo CSExperimentacinExperimento 1 pg. 7785 de la memoriaResultados CS-BestSol superasignicativamente amQSO y Agentesen prcticamentetodos losescenariosprobados.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 53. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesReglas de cooperacin para el algoritmo CSExperimentacinExperimento 2 pg. 8592 de la memoriaObjetivo Identicar la mejor regla usada por CS.Escenario de pruebas CS-BestSol, CS-Approach, CS-Reactive, CS-VRL, CS-Independent,mQSO. Ackley, Griewank, Rastrigin. Resto de parmetros igual que Experimento 1.Resultados CS-Approach obtiene en general los mejores resultados. CS-Reactive obtiene los mejores resultados en los escenarios msdifciles.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 54. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesReglas de cooperacin para el algoritmo CSResumen Adaptacin con xito del algoritmo CS a problemas dinmicos. Experimentos demuestran que las reglas de cooperacin introducidasen CS mejoran a mQSO y Agentes en una gran variedad de escenarios. De entre las reglas usadas, la que mejores resultados obtiene es laregla Approach, seguida de la regla Reactive en los escenarios mscomplejos.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 55. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesEsquema de aprendizaje y operador adaptativo paraalgoritmo AgentesUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 56. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesMotivacin Algoritmo Agentes desarrollado previamente para problemas deoptimizacin estticos. Mltiples agentes (multipoblacin). Flexible, casi sin parmetros dependientes del problema. Cooperacin implcita entre agentes. Buen candidato para adaptarlo a problemas dinmicos. Decidimos investigar la utilizacin de un esquema de aprendizaje paraseleccionar operadores de mutacin en problemas dinmicos discretos.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 57. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesPropuestapg. 5762 de la memoria Conjunto de agentes recorren una matriz de soluciones de tamao jo. Agentes comienzan en una casilla, se mueven a la casilla adyacentecon la mejor solucin. Agentes intentan mejorar la solucin de la casilla usando un operadorde mutacin. Adaptacin a dinamismo basada en deteccin de cambios +reevaluacin de soluciones.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 58. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesPropuestapg. 5762 de la memoriaCaractersticas especcas de Agentes para problemas discretos Agentes aceptan nuevas soluciones obtenidas si mejoran o igualan eltness aumenta diversidad. Mutacin 4 operadores MutOpN, basados en invertir N bitsconsecutivos: MutOp1, MutOp2, MutOp3 y MutOp4.Esquema de aprendizaje y operador adaptativo Operador de mutacin adaptativo: usa un esquema de aprendizajepara seleccionar el operador MutOpN ms adecuado. Esquema de aprendizaje: mecanismo sencillo basado en asignacinde crdito a operadores con ms xito + seleccin de operador pormtodo ruleta.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 59. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesExperimentacinExperimento 1 pg. 6265 de la memoriaObjetivo Validar el esquema de aprendizaje y determinar si el operadoradaptativo es mejor que los dems operadores individuales.Escenario de pruebas Versiones de Agentes y de un EA genrico con cada operador demutacin (MutOp[14], Adaptativo) XOR con funciones OneMax, Plateau, RoyalRoad y Deceptive(solucin objetivo de 100 bits). Variaciones de frecuencia de cambio (e [1200,12000]) y deseveridad (s [10%,90%]). Ofine performance + KW + MWW (Holm). Uso de SRCS: zonas blancas indican mejores resultados.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 60. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesExperimentacinExperimento 1 pg. 6265 de la memoriaAdaptiveMutOp1MutOp2MutOp3MutOp4OneMax Plateau RoyalRoad DeceptiveFrecuenciaCambioSeveridad0.10.20.50.91200 6000 12000Resultados (Agentes) MutOp1 el mejor para la funcin OneMax, pero malo en las dems. MutOp4 el mejor para la funcin Deceptive, pero malo en las dems. Operador Adaptativo siempre es el mejor o el segundo mejor.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 61. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesExperimentacinExperimento 1 pg. 6265 de la memoriaAdaptiveMutOp1MutOp2MutOp3MutOp4OneMax Plateau RoyalRoad DeceptiveFrecuenciaCambioSeveridad0.10.20.50.91200 6000 12000Resultados (Agentes) MutOp1 el mejor para la funcin OneMax, pero malo en las dems. MutOp4 el mejor para la funcin Deceptive, pero malo en las dems. Operador Adaptativo siempre es el mejor o el segundo mejor.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 62. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesExperimentacinExperimento 1 pg. 6265 de la memoriaAdaptiveMutOp1MutOp2MutOp3MutOp4OneMax Plateau RoyalRoad DeceptiveFrecuenciaCambioSeveridad0.10.20.50.91200 6000 12000Resultados (Agentes) MutOp1 el mejor para la funcin OneMax, pero malo en las dems. MutOp4 el mejor para la funcin Deceptive, pero malo en las dems. Operador Adaptativo siempre es el mejor o el segundo mejor.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 63. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesExperimentacinExperimento 1 pg. 6265 de la memoriaAdaptiveMutOp1MutOp2MutOp3MutOp4OneMax Plateau RoyalRoad DeceptiveFrecuenciaCambioSeveridad0.10.20.50.91200 6000 12000Resultados (Agentes) MutOp1 el mejor para la funcin OneMax, pero malo en las dems. MutOp4 el mejor para la funcin Deceptive, pero malo en las dems. Operador Adaptativo siempre es el mejor o el segundo mejor.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 64. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesExperimentacinExperimento 1 pg. 6265 de la memoriaAdaptiveMutOp1MutOp2MutOp3MutOp4OneMax Plateau RoyalRoad DeceptiveFrecuenciaCambioSeveridad0.10.20.50.91200 6000 12000Resultados (EA) Resultados no tan claros como con el Agentes, pero an as eloperador Adaptativo queda siempre en posiciones intermedias. Esquema aprendizaje es siempre al menos mejor que otro operador.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 65. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesExperimentacinExperimento 2 pg. 6266 de la memoriaObjetivo Comparar Agentes-Adaptativo y EA-Adaptativo con uno de losmejores algoritmos del estado del arte en este problema: AHMA.Escenario de pruebas Igual que Experimento 1. Agentes-Adaptativo, EA-Adaptativo, AHMA.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 66. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesExperimentacinExperimento 2 pg. 6266 de la memoriaAgentsEAAHMAOneMax Plateau RoyalRoad DeceptiveFrecuenciaCambioSeveridad0.10.20.50.91200 6000 12000Resultados Agentes-Adaptativo signicativamente mejor en prcticamente todoslos escenarios.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 67. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesEsquema de aprendizaje y operador adaptativo para AgentesResumen Adaptacin con xito del algoritmo Agentes a problemas dinmicos. Propuesta de esquema de aprendizaje de gran sencillez pero conresultados prometedores. Agentes-Adaptativo mejora signicativamente a uno de los mejoresalgoritmos del estado del arte (AHMA) en la gran mayora deescenarios probados.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 68. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesResumen de mejoras algortmicasResumen de mejoras algortmicasUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 69. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesResumen de mejoras algortmicasMejoras propuestas Reglas heursticas para el mQSO (Change, Rand y Both). Reglas de cooperacin para el algoritmo CS (BestSol, Approach,Reactive y VRL). Esquema de aprendizaje y operador adaptativo para algoritmoAgentes.Caractersticas comunes de los algoritmos utilizados Uso de poblaciones de soluciones. Cooperacin entre sus elementos constituyentes: Explcita: CS. Implcita: Agentes. Mixta: mQSO + reglas.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 70. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesResumen de mejoras algortmicasMecanismo genrico cooperacin explcita1 monitorizar activamente el rendimiento de los elementos de unalgoritmo.2 comparar dichos elementos de forma relativa al resto (importante eluso de poblaciones).3 corregir o incluso detener los elementos que estn hacindolo peor encomparacin a los dems.Este mecanismo ha sido incorporado a los algoritmos mQSO-Rand, CS yPSO-CPT (pg. 3540 de la memoria), obteniendo buenos resultados entodos los casos.Uncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 71. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesContenido1 Introduction2 Background3 Mejoras algortmicas4 SRCS: Statistical Ranking Color Scheme5 Software e implementacin6 ConclusionesUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 72. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesSRCS: motivacin y descripcinSRCS: motivacin y descripcinUncertain and Dynamic Optimization Problems: Solving Strategies and Applications - Ignacio Jos Garca del Amo15 Noviembre 2012 73. Introduction Background Mejoras algortmicas SRCS Software e implementacin ConclusionesSRCS: motivacin y descripcinMotivacin1.13 0.50 4.18 0.89 3.50 0.71 4.23 0.27 3.46 0.74 1.96 0.35 3.55 0.88 4.79 0.36 3.91 0.73 1.40 1.09 4.53 0.46 1.03 1.08 1.15 1.25 1.47 1.03 4.42 1.12 1.03 1.09 4.79 0.96 2.20 0.53 3.64 0.40 2.27 0.59 3.79 0.40 3.15 1.03 1.53 0.36 4.92 0.56 1.55 1.054.91 0.71 2.36 0.83 2.72 0.31 3.89 1.00 4.25 0.57 4.84 1.02 2.64 0.83 2.71 0.70 3.62 0.81 2.52 0.61 3.91 0.94 1.38 0.31 2.17 1.23 4.40 0.77 4.51 1.21 1.67 1.01 4.55 0.56 3.79 1.05 2.05 0.43 4.73 1.05 1.57 0.68 2.88 0.51 4.68 1.08 1.52 1.01 1.22 0.614.16 0.80 1.68 0.50 1.95 1.04 1.45 0.89 4.77 0.69 3.50 0.86 4.37 1.14 4.04 1.18 2.42 0.74 2.17 0.77 1.92 0.39 4.64 0.47 4.15 0.73 2.26 1.22 4.01 0.56 1.64 0.95 2.74 0.79 1.32 1.03 3.36 0.57 1.30 0.49 1.38 0.92 4.88 0.31 1.81 0.73 3.54 0.52 2.41 0.281.20 0.46 1.83 0.70 2.63 0.85 4.38 0.28 2.48 1.06 2.53 0.85 3.39 0.76 4.81 1.24 2.47 0.91 1.86 0.72 2.55 1.04 3.07 1.12 1.28 0.42 4.00 0.82 2.57 0.81 4.71 0.71 2.43 0.34 2.88 0.52 1.49 0.97 2.55 0.30 3.75 1.20 3.53 0.99 3.16 0.83 1.99 1.02 4.85 1.173.99 1.06 4.02 1.09 1.58 0.46 1.61 1.09 4.66 0.84 4.25 0.52 4.76 0.62 3.03 1.19 2.04 1.05 2.57 0.99 3.95 0.74 4.28 0.72 1.39 1.24 4.50 1.05 4.12 0.85 2.01 1.05 2.28 0.77 4.82 0.33 3.36 0.67 3.81 0.94 1.40 1.18 2.89 1.05 3.52 0.72 3.37 0.74 2.04 1.113.13 0.62 3.26 0.36 1.55 0.84 3.36 0.81 2.77 0.63 2.82 0.80 4.70 0.48 4.54 0.83 1.52 0.27 2.39 1.11 3.67 0.97 4.01 0.40 4.86 0.66 2.12 0.45 2.94 0.84 1.39 0.73 4.61 1.03 1.50 1.01 4.95 0.89 3.80 0.49 4.50 0.81 3.53 1.23 3.84 1.16 2.96 1.15 2.03 0.493.84 0.32 1.69 0.98 1.07 0.36 4.83 1.00 1.81 1.21 4.77 0.48 1.00 0.96 2.71 0.55 3.01 0.54 3.43 1.17 1.50 0.54 3.00 0.40 4.05 0.42 2.96 0.60 4.85 1.13 2.47 0.87 4.77 0.51 2.07 1.02 2.63 1.01 3.33 0.90 3.49 0.71 2.53 0.99 1.53 0.29 1.44 0.68 2.32 1.002.29 1.22 2.35 0.37 4.34 0.89 1.44 0.71 2.36 0.65 3.07 1.11 4.74 0.53 1.73 0.54 1.75 0.58 1.17 1.08 3.65 0.80 4.57 0.85 4.14 1.07 1.43 1.24 4.81 0.92 3.00 0.55 2.99 0.96 1.07 0.52 1.65 0.45 1.42 0.35 4.72 1.07 4.23 1.24 4.95 0.72 3.38 0.90 3.54 0.804.77 0.46 2.01 0.47 3.41 0.81 1.96 0.99 1.77 0.65 4.46 0.95 2.50 0.58 4.09 1.16 4.27 0.38 3.75 0.29 4.27 0.81 4.38 0.58 4.54 1.24 2.75 0.33 1.97 1.08 3.32 0.37 4.46 0.45 1.14 0.27 1.11 0.60 3.63 0.60 3.64 1.05 1.12 0.57 4.86 0.55 1.19 0.84 4.62 0.264.09 1.12 1.09 0.84 2.17 0.90 3.37 0.62 1.35 0.45 1.85 1.02 1.31 0.53 1.73 0.66 1.15 0.74 2.82 0.84 1.34 0.58 4.35 0.78 1.85 0.99 3.44 1.08 4.08 1.07 4.24 1.18 4.04 0.92 2.58 0.97 3.79 0.37 4.51 0.73 4.53 0.48 2.91 0.94 3.45 0.72 2.35 0.93 1.67 0.794.44 1.03 1.86 0.46 2.28 1.22 3.14 0.94 3.58 0.70 4.80 0.55 1.37 1.01 4.52 0.70 2.27 0.77 3.78 0.42 3.19 0.29 4.32 0.38 4.95 1.21 2.82 0.38 2.30 0.74 1.47 1.14 2.86 0.97 3.03 0.83 4.48 0.67 1.84 1.07 3.24 0.94 2.94 0.69 2.12 0.33 3.91 0.72 4.14 0.551.12 0.76 4.70 0.82 1.63 0.38 3.04 0.67 3.16 0.30 3.93 0.70 1.21 0.42 3.56 0.81 2.84 0.40 2.93 0.41 3.86 1.20 1.52 0.99 1.89 0.50 3.51 0.64 4.34 0.61 4.80 0.79 4.33 0.34 4.79 0.44 1.66 0.84 3.81 0.86 2.48 1.17 4.35 0.53 3.71 0.47 3.74 1.12 3.10 1.241.54 0.46 4.83 0.88 1.22 0.72 2.26 0.84 1.72 0.27 4.25 0.96 4.00 1.06 4.19 1.02 1.78 0.62 2.11 0.62 4.70 0.87 2.69 0.77 1.97 1.13 1.41 0.32 4.83 0.60 1.73 0.80 3.81 0.40 4.40 0.73 3.31 0.32 2.33 0.61 3.46 0.70 3.37 0.85 1.71 0.65 4.05 1.10 2.30 0.324.30 0.56 2.14 1.00 3.40 1.19 3.32 1.15 1.19 0.38 4.54 0.89 3.58 1.18 3.23 0.95 4.58 1.13 3.33 1.24 3.57 0.30 2.62 0.51 1.92 0.80 3.58 0.66 1.70 0.43 2.81 1.05 4.99 0.54 2.75 0.99 1.71 0.81 3.96 0.59 4.61 0.34 2.27 0.99 3.82 1.18 2.38 0.65 1.72 0.733.84 0.83 3.29 0.35 4.11 0.78 4.23 0.71 4.85 0.83 4.79 0.48 4.80 0.34 3.19 0.49 3.40 1.20 4.14 0.30 1.73 0.97 1.33 1.17 4.04 0.74 1.94 0.54 2.68 1.22 2.42 0.25 4.65 1.12 4.29 1.02 4.87 1.13 4.60 1.15 2.76 0.85 1.88 0.96 1.63 1.12 3.63 1.13 2.31 0.274.58 0.34 4.10 0.48 1.97 0.94 4.89 0.90 4.31 1.00 2.96 1.11 1.27 1.15 1.21 0.48 3.69 1.01 2.13 1.13 1.58 0.71 3.39 0.38 3.04 0.40 3.20 0.49 3.22 0.67 3.05 0.74 2.40 0.37 3.75 0.73 4.24 0.74 2.60 0.38 1.35 0.58 4.60 0.63 2.37 0.51 4.80 0.38 2.73 0.562.82 0.48 2.52 0.69 4.94 0.52 4.04 0.25 4.20 0.44 2.19 1.11 1.48 1.12 2.57 1.06 4.36 0.49 2.42 0.31 1.05 1.03 1.21 0.64 1.46 0.32 2.69 0.87 2.70 0.90 3.73 0.32 4.23 0.45 4.46 0.80 3.48 1.06 4.10 1.02 2.14 0.93 2.18 0.56 1.72 0.98 3.85 0.83 2.62 0.982.21 0.90 4.91 0.50 2.11 1.15 4.47 0.96 3.33 0.25 4.42 0.49 4.08 0.74 3.85 1.15 1.33 1.25 3.15 1.13 3.25 0.84 3.06 0.93 1.05 0.25 2.99 0.51 1.12 1.11 4.44 1.17 2.80 0.74 3.80 0.76 1.19 0.74 2.94 0.69 2.47 1.10 3.70 0.43 1.34 1.21 4.40 1.03 3.56 0.804.80 0.67 1.20 1.10 4.91 0.86 2.64 0.45 3.45 1.00 3.75 0.57 1.29 0.69 4.36 0.83 3.92 0.65 1.99 1.03 4.61 0.87 4.29 0.46 2.64 0.52 3.40 0.62 4.14 1.21 3.87 0.31 3.12 1.23 3.91 0.58 4.69 0.89 3.23 1.06 2.97 0.85 4.06 1.13 4.87 0.68 2.85 0.27 1.15 1.102.47 0.66 4.30 1.04 1.63 1.05 3.68 0.47 1.72 0.86 2.23 1.07 3.54 1.10 2.15 0.68 3.58 0.55 3.28 0.70 4.92 1.21 2.88 0.51 1.81 1.03 1.85 1.23 2.09 0.90 1.57 0.40 1.60 0.62 3.39 0.58 2.48 0.56 3.53 0.58 1.63 0.61 1.47 0.65 4.94 0.89 3.34 1.18 2.39 0.401.91 1.17 1.81 0.52 4.62 0.93 2.86 0.50 2.95 0.84 1.28 0.57 3.46 1.06 2.62 0.29 1.90 0.49 2.39 0.85 3.14 1.06 3.76 1.06 2.12 0.29 4.35 0.60 4.00 1.08 1.63 0.29 4.46 0.40 4.98 0.28 1.44 0.97 1.83 0.63 4.09 0.44 3.69 0.63 2.72 0.81 2.74 0.80 1.35 0.854.55 0.42 3.53 0.60 2.52 0.98 4.97 1.12 3.17 0.60 4.20 1.12 2.61 0.25 3.29 0.73 4.37 0.31 4.93 1.23 2.86 0.80 1.83 0.40 4.83 1.09 3.77 1.16 3.51 1.07 4.24 0.45 1.86 0.70 1.60 0.71 3.60 0.70 1.61 0.77 3.46 0.92 4.14 0.50 4.97 0.34 2.96 1.10 1.38 0.874.60 0.97 4.49 0.31 5.00 1.11 1.86 0.97 1.90 1.07 3.77 1.13 4.33 1.07 2.72 0.67 3.94 1.20 2.67 0.46 1.90 0.91 1.76 0.91 1.99 0.26 4.69 0.29 3.51 0.37 2.42 1.07 2.37 0.40 2.53 0.56 4.49 0.59 2.33 0.39 3.09 1.24 1.11 1.24 1.55 0.95 2.70 0.29 4.52 0.463.04 0.61 4.61 1.04 3.26 0.82 2.17 0.57 1.61 1.13 1.51 1.01 3.17 0.45 4.04 0.94 1.09 0.45 3.31 0.60 2.30 0.79 3.20 0.45 3.98 1.20 3.64 0.83 4.00 1.24 4.37 0.93 2.50 1.24 1.38 1.12 2.31 0.81 4.06 0.30 2.56 0.37 2.79 0.74 1.80 1.04 1.64 1.05 1.65 0.294.78 0.87 3.72 0.85 4.77 0.52 4.36 0.42 4.49 0.25 4.81 0.48 3.25 0.26 3.12 0.62 3.68 0.43 3.27 0.93 1.18 0.51 2.03 1.12 4.91 0.52 2.85 0.50 4.86 0.94 4.25 0.97 4.99 0.76 1.21 0.66 1.07 0.42 4.95 0.31 1.19 0.49 4.36 1.15 1.19 0.74 2.25 1.11 3.21 1.213.62 0.55 4.85 1.20 2.52 0.77 3.28 0.55 2.12 0.90 3.31 0.78 2.64 0.67 3.43 1.02 4.10 0.50 1.82 0.86 3.05 0.33 3.77 0.60 1.99 1.22 4.03 0.46 2.52 0.85 3.29 0.65 1.50 0.68 2.25 1.01 4.30 0.62 2.98 0.58 2.25 0.45 1.82 0.90 3.68 0.71 1.79 1.07 3.87 0.872.16 1.13 4.91 0.36 3.64 1.18 3.87 0.53 2.97 0.65 2.95 0.91 3.62 0.62 1.48 0.78 3.00 1.17 2.93 1.10 2.41 1.16 1.20 0.90 2.60 0.42 4.70 1.08 1.07 0.34 4.83 1.17 1.25 0.36 4.70 0.82 2.77 0.30 3.64 0.65 1.93 0.75 1.12 0.27 4.12 0.67 4.73 0.50 4.09 0.354.20 0.87 2.42 0.33 3.52 0.94 4.50 0.94 2.94 1.04 2.74 1.07 4.21 0.63 4.16 1.06 2.10 1.00 1.53 1.00 2.89 0.95 2.99 0.74 4.42 1.20 2.05 0.85 1.47 0.82 3.42 0.88 2.77 0.56 3.35 1.22 4.48 1.18 1.03 0.56 3.13 0.35 4.27 0.26 3.53 0.86 1.37 1.10 4.38 1.183.24 1.07 1.41 0.62 3.76 1.14 4.42 0.52 4.29 0.79 3.79 1.24 3.59 0.73 2.32 0.39 3.68 0.99 1.00 0.25 3.54 1.04 1.11 0.71 2.69 1.02 1.31 0.65 3.61 0.93 3.15 1.02 1.45 0.41 3.28 0.92 4.64 0.31 4.24 1.20 4.88 0.58 4.77 0.25 4.37 0.96 3.28 0.40 2.37 0.763.44 0.38 3.16 0.30 1.51 0.71 4.52 1.08 1.14 0.41 2.19 0.25 3.60 0.64 3.90 0.57 4.87 0.27 4.10 0.36 1.09 0.93 1.67 0.96 1.92 0.91 1.41 0.90 4.19 0.57 2.94 0.94 2.17 1.10 1.85 0.94 3.58 1.01 3.79 0.76 4.99 0.85 4.77 0.91 4.42 1.03 3.17 0.95 2.54 0.693.90 0.38 1.78 0.95 2.25 1.20 2.97 0.73 1.56 0.76 2.56 0.60 1.23 0.41 3.04 0.51 2.28 0.28 4.98 1.07 2.29 1.00 1.99 0.34 4.66 0.31 2.17 1.14 4.09 1.19 2.24 0.98 2.23 0.38 1.43 0.87 1.09 0.42 3.99 0.60 4.56 1.03 1.39 0.50 2.91 1.16 1.58 0.57 2.78 0.271.78 1.09 2.06 0.93 2.36 0.41 1.42 0.98 2.38 0.31 1.78 1.17 4.97 0.30 4.82 0.38 3.14 0.77 1.81 0.52 1.84 1.08 1.21 0.28 3.18 0.86 4.60 0.87 2.13 1.02 3.13 0.97 2.45 0.50 4.02 0.45 2.83 1.02 3.08 0.70 3.06 0.36 4.44 1.19 1.99 0.52 4.05 0.30 4.86 0.272.70 0.54 2.88 0.68 1.99 0.78 1.63 1.03 4.78 0.80 3.74 0.34 3.37 0.94 1.93 0.62 2.87 0.36 1.33 0.97 3.69 0.69 4.96 1.00 2.84 0.84 1.91 0.88 3.93 1.06 3.18 0.92 3.46 0.72 2.16 0.58 2.13 0.46 4.81 0.81 2.40 0.71 2.91 1.21 1.58 1.14 1.84 0.97 4.15 0.542.92 1.02 2.39 0.52 2.26 1.00 4.48 0.95 3.58 0.49 1.09 0.37 4.39 0.46 3.14 0.89 2.73 0.25 1.16 0.72 3.94 1.18 1.11 1.09 3.12 1.17 4.53 0.79 2.72 0.65 1.51 0.68 3.22 1.20 1.91 0.99 3.94 0.51 2.52 0.33 4.84 1.16 3.73 0.77 4.46 0.53 3.19 0.59 1.50 0.572.84 0.62 1.81 0.47 1.27 0.36 1.30 0.74 1.39 0.66 2.35 0.37 4.16 0.93 3.02 0.78 4.53 0.66 3.66 0.30 1.33 0.54 1.09 0.97 2.45 0.38 4.17 1.18 1.87 0.57 3.25 0.84 1.64 0.88 2.69 0.63 1.69 0.46 4.98 0.65 2.27 0.45 2.14 0.68 4.62 0.28 4.28 0.52 3.46 0.484.28 1.10 4.78 0.38 3.63 0.28 3.14 0.86 1.29 0.80 1.76 0.98 1.06 0.26 1.59 1.24 1.88 0.93 4.92 0.33 2.42 0.59 3.85 0.50 3.65 0.71 4.55 0.79 1.47 0.47 3.74 1.02 2.89 0.81 1.27 0.56 3.93 0.43 3.74 1.17 1.89 0.93 4.46 0.88 1.03 0.33 1.66 0.66 4.78 0.654.47 0.88 3.39 1.13 3.87 0.55 1.13 1.11 4.82 0.47 2.22 1.13 2.53 0.78 2.50 0.86 3.43 0.98 1.64 0.83 4.96 0.41 4.66 0.42 2.55 0.55 1.40 0.76 1.51 0.91 1.62 0.36 3.52 0.74 4.98 1.08 2.56 1.00 4.17 0.63 1.87 1.13 3.27 1.13 2.91 1.10 4.21 0.43 4.48 1.202.49 0.88 1.04 0.53 4.34 0.50 2.77 1.07 3.85 1.20 1.75 0.91 3.70 1.12 3.46 0.55 4.08 1.01 1.11 1.04 4.39 0.79 4.14 0.84 3.81 1.25 3.04 1.22 2.04 0.82 1.38 0.56 3.96 1.14 4.31 1.15 4.26 1.23 2.29 0.70 3.30 0.50 4.64 0.57 3.21 1.21 4.10 1.07 2.74 0.273.05 0.39 4.28 1.18 2.78 0.31 2.08 1.03 2.92 0.82 2.33 0.67 2.61 0.51 2.83 0.35 1.88 1.21 3.87 0.78 4.31 0.52 1.93 0.90 1.25 0.30 2.67 0.89 1.58 0.73 4.40 1.15 4.51 0.88 2.05 0.93 2.57 0.95 1.38 0.64 2.42 0.79 1.63 0.34 2.70 0.47 2.54 0.80 2.12 0.723.46 1.18 2.81 0.84 1.56 0.67 3.04 1.02 3.94 0.64 1.97 1.14 2.89 0.52 3.58 0.57 2.59 0.75 3.02 0.83 3.31 0.37 4.96 0.51 1.32 1.16 1.44 1.02 2.36 0.46 1.20 0.32 3.87 0.84 2.48 1.00 4.32 0.63 3.93 0.92 2.76 0.39 4.60 0.88 2.26 0.64 2.48 0.88 4.48 1.173.62 0.26 2.41 0.37 4.45 0.26 4.65 0.79 1.81 0.61 2.40 0.47 3.54 1.06 3.32 0.51 3.87 0.80 3.75 1.18 2.84 0.62 2.92 0.28 1.08 0.39 1.51 0.40 4.78 1.10 1.13 0.35 3.44 0.36 4.13 1.08 1.85 1.25 2.46 0.47 4.57 0.52 2.49 0.42 2.25 0.85 1.28 1.17 3.80 0.354.11 1.23 4.60 1.16 3.98 0.41 4.02 1.04 2.03 0.77 1.53 0.92 1.96 1.02 4.77 1.22 4.07 0.80 1.09 0.66 1.47 0.42 1.62 0.43 4.80 0.94 1.45 1.18 3.52 1.17 4.87 0.61 2.08 0.61 1.39 0.32 4.60 1.14 3.45 0.35 3.98 0.73 4.37 0.47 3.64 1.11 3.05 1.02 2.59 1.022.42 0.41 1.09 1.09 1.99 1.16 2.35 1.15 2.62 0.53 2.06 0.33 4.26 0.26 4.79 0.38 4.62 0.82 3.40 0.27 4.95 0.44 1.46 0.27 3.54 0.26 1.48 0.42 1.02 0.75 4.75 0.87 3.33 0.90 4.86 0.54 4.64 1.08 3.37 0.37 4.87 1.04 4.41 0.47 3.66 0.40 2.15 0.60 1.25 0.843.45 0.87 3.50 0.44 2.44 0.99 4.91 0.65 2.78 1.00 1.00 0.92 3.58 0.33 4.78 0.44 4.48 0.72 3.80 0.69 1.42 0.70 1.15 0.89 1.70 0.68 2.50 0.41 3.52 1.07 4.55 0.43 2.29 1.05 3.01 0.38 3.64 0.75 3.90 1.24 4.42 0.61 1.44 0.84 4.64 0.58 1.00 0.73 2.32 0.881.18 0.84 1.37 0.87 4.45 0.84 1.99 1.08 4.27 0.71 4.74 0.42 1.34 1.20 1.56 1.20 3.54 0.90 2.14 0.88 2.43 0.80 4.36 0.84 3.63 0.92 1.96 1.07 2.69 0.93 2.69 0.81 2.78 1.10 3.23 0.93 1.91 0.62 2.66 0.45 2.14 0.76 3.44 0.28 1.69 0.93 2.19 0.29 2.26 0.391.89 0.46 2.75 1.13 1.34 0.30 2.64 0.49 3.27 0.77 3.63 0.89 1.45 0.28 2.45 0.84 1.78 0.26 2.91 0.40 3.84 1.16 1.72 0.87 4.69 0.77 1.01 0.44 3.20 0.65 2.08 1.10 4.96 1.18 4.23 0.35 4.60 0.53 4.45 0.69 2.56 1.11 4.87 0.89 4.44 0.30 2.11 0.41 4.03 0.393.14 1.11 4.93 1.08 3.05 1.22 2.99 0.95 4.69 0.45 2.05 0.74 2.03 0.55 1.71 1.25 1.16 0.30 3.69 0.96 3.31 0.87 2.03 1.12 2.24 0.55 4.31 0.56 2.72 1.00 2.52 1.14 2.52 0.89 2.20 0.79 3.77 0.78 2.60 0.83 1.11 0.61 2.53 0.48 3.27 1.01 1.76 0.88 3.48 1.224.36 0.55 1.23 1.00 1.26 0.26 3.37 0.31 1.99 0.67 3.95 0.70 2.46 0.55 3.21 0.31 1.46 0.74 1.57 0.42 2.17 1.13 1.12 0.50 4.34 0.49 4.87 1.17 3.71 0.82 2.40 0.61 4.54 0.52 3.76 0.70 3.80 0.42 4.20 0.99 2.78 0.68 2.48 1.16 4.65 1.17 1.50 0.80 3.86 0.691.70 0.85 1.70 0.65 2.05 0.97 4.12 0.94 3.27 0.97 1.84 0.50 3.04 0.36 4.37 0.72 1.93 1.20 3.03 0.64 2.86 0.97 4.95 1.24 3.12 0.47 2.26 1.14 3.60 0.80 2.68 1.15 3.84 0.85 1.88 0.47 2.04 0.27 2.16 0.30 1.43 0.62 3.49 1.18 2.04 1.03 4.35 1.17 2.39 0.931.40 1.04 1.08 0.48 2.96 1.15 4.54 0.61 1.48 0.59 3.54 1.13 1.25 1.10 2.05 1.24 1.64 0.66 2.94 0.56 4.62 0.69 1.68 0.68 3.37 0.71 4.07 0.48 1.50 1.15 3.78 1.06 4.97 0.35 2.99 0.45 3.21 0.60 1.74 1.18 3.89 0.87 4.84 1.11 1.96 0.64 4.01 1.19 4.19 0.893.59 0.27 3.36 1.17 4.32 0.47 4.63 0.36 3.29 0.55 1.68 0.52 1.27 0.64 3.23 0.75 1.43 0.49 2.47 0.66 3.23 0.70 4.80 1.05 4.25 0.84 4.32 1.00 3.42 0.30 1.25 0.51 1.61 0.82 3.36 0.54 1.88 0.45 4.81 1.18 3.81 1.14 1.94 0.54 1.31 0.75 4.37 0.31 1.69 0.472.75 0.52 4.88 1.07 1.25 0.31 3.44 0.30 2.12 0.44 3.58 0.92 1.68 0.54 1.59 1.17 3.65 1.19 3.07 0.91 4.57 0.44 1.07 0.33 4.95 0.95 4.61 1.19 3.75 0.68 4.66 1.13 4.87 1.00 2.51 0.80 4.03 0.60 2.57 0.55 1.64 0.52 2.24 0.33 2.40 1.14 3.76 0.68 1.93 0.404.48 0.70 1.31 0.67 2.22 0.94 3.50 0.61 3.31 1.19 3.78 0.43 3.54 0.41 2.52 0.84 1.17 1.22 3.33 1.10 1.90 0.80 2.94 0.26 3.60 1.14 3.69 0.99 3.10 0.93 4.68 0.66 3.96 0.29 1.55 0.72 3.34 1.06 1.14 1.24 2.31 0.66 3.09 0.61 3.86 0.76 2.99 1.17 3.11 0.522.41 1.03 1.27 0.53 2.28 0.63 3.53 0.52 2.76 1.12 4.96 0.75 4.87 0.51 1.69 0.74 2.19 0.41 1.76 1.07 2.81 0.90 2.89 0.51 1.04 0.97 1.09 1.12 4.33 0.84 4.48 0.85 4.91 0.30 3.62 0.50 1.58 1.05 1.98 0.68 3.67 0.69 3.01 1.17 1.23 0.36 2.96 1.09 2.54 1.241.22 0.63 1.59 0.43 2.45 0.45 3.56 0.43 1.61 0.97 3.30 0.85 2.71 1.12 2.16 0.37 4.39 0.86 2.90 1.07 4.64 1.17 1.60 1.19 1.80 0.77 1.19 0.85 4.69 0.71 1.29 0.68 4.04 1.10 3.56 0.73 4.51 0.87 4.32 1.18 1.18 0.97 3.68 0.72 4.58 0.92 2.19 1.10 4.91 1.042.14 1.12 3.74 0.43 3.43 0.63 1.62 0.75 1.25 1.17 3.59 0.96 4.17 0.48 4.23 1.01 4.67 0.94 4.85 1.24 3.21 0.98 2.83 0.74 3.30 0.97 1.05 1.18 2.67 0.71 3.71 0.88 3.66 0.52 4.09 1.17 2.62 1.11 3.94 0.43 3.06 0.92 4.07 0.88 4.50 0.65 3.54 0.93 1.76 0.453.96 0.50 4.18 1.20 4.26 1.14 1.62 0.40 2.72 0.91 1.55 0.74 3.87 0.43 2.10 0.40 4.30 0.96 2.49 0.35 3.22 0.63 3.01 0.94 3.85 1.17 2.62 0.36 4.50 0.39 3.59 0.91 3.56 1.11 2.39 0.98 4.62 0.83 1.83 0.66 2.08 0.60 3.67 1.21 2.19 0.97 1.23 1.04 3.26 0.721.73 0.70 3.21 0.28 1.39 0.66 3.21 1.16 2.06 0.52 2.34 1.15 3.97 0.94 1.43 0.96 2.66 1.16 4.78 1.17 1.64 0.51 4.34 0.89 1.12 0.65 2.43 0.84 3.84 1.00 1.74 0.36 4.36 1.05 3.69 1.01 1.19 0.50 4.07 1.18 4.60 0.43 1.98 0.58 3.05 0.90 2.38 0.98 3.30 0.323.07 0.50 2.49 0.39 1.12 0.73 1.42 0.43 2.44 0.39 2.81 0.75 1.24 0.31 3.86 1.19 3.67 1.00 2.42 0.68 4.64 0.80 2.11 0.86 1.81 0.45 2.53 0.36 3.47 0.67 3.25 0.60 4.45 0.76 3.52 0.70 4.68 0.85 1.55 0.88 1.26 0.71 3.12 1.04 2.05 0.30 3.82 1.12 3.05 0.692.03 1.09 3.86 0.55 3.25 0.40 2.62 0.65 1.08 0.66 3.38 1.24 2.54 0.59 1.12 0.40 1.96 0.36 4.99 0.81 1.84 0.81 4.17 0.58 1.08 0.77 2.52 0.90 4.74 0.80 4.71 0.88 1.39 0.69 1.50 0.44 1.01 1.19 3.30 0.48 3.78 1.10 2.06 0.73 2.03 1.08 2.63 0.80 2.19 1.133.42 1.25 1.61 0.75 3.71 1.10 2.54 0.67 1.45 0.41 3.27 0.80 3.07 0.63 3.40 0.85 3.97 1.04 3.05 0.83 1.62 0.81 3.68 0.30 4.46 0.69 4.63 0.81 1.37 0.77 3.38 1.15 1.17 0.72 2.74 0.54 2.64 0.58 2.20 0.38 1.81 0.45 1.73 0.49 1.11 0.54 1.10 0.26 1.86 0.322.85 0.84 1.89 0.81 1.36 1.09 2.61 0.90 3.65 1.07 3.60 0.71 3.61 0.28 4.36 0.82 2.93 0.79 4.83 1.18 2.06 0.41 1.58 0.88 1.98 1.09 1.83 0.86 3.95 0.75 1.16 1.01 1.76 1.13 3.60 0.57 4.65 0.66 1.79 0.63 4.63 0.42 3.90 0.83 2.72 0.63 3.91 0.84 4.97 0.544.15 0.71 2.82 0.47 1.80 0.57 1.60 1.15 4.16 0.96 3.57 0.74 2.17 0.82 3.81 1.09 1.04 1.23 2.38 1.24 4.97 0.92 2.42 1.09 4.98 0.96 1.60 0.94 4.03 0.66 3.64 0.87 1.27 1.17 2.50 0.68 1.86 0.28 2.41 1.02 1.33 0.60 1.19 0.60 4.15 1.05 1.37 0.75 3.81 1.112.24 0.92 1.41 0.36 3.61 0.61 1.14 0.48 4.15 1.11 1.44 0.28 4.60 0.74 2.44 0.55 4.02 1.19 3.93 0.54 1.33 0.79 3.70 0.65 2.60 0.52 1.65 1.18 1.64 0.47 4.36 1.23 2.69 1.19 1.48 1.02 4.33 1.10 2.98 0.85 3.74 0.54 1.34 0.51 1.03 0.66 2.25 0.33 1.98 0.624.68 0.66 1.54 1.05 4.04 0.56 2.65 0.44 2.50 0.82 3.97 0.71 2.38 0.93 4.96 0.46 3.69 0.77 1.27 0.76 1.69 1.21 4.36 0.72 4.03 0.33 2.09 0.69 4.22 1.17 2.35 0.94 4.14 0.54 1.95 1.22 3.24 1.20 1.43 0.43 1.64 0.54 2.03 0.40 4.27 0.81 3.13 0.35 3.94 0.742.16 1.09 2.75 0.60 2.20 0.58 4.25 0.37 3.27 0.26 1.54 0.36 1.45 1.15 1.75 0.89 3.11 0.76 2.52 0.60 1.93 1.09 4.46 1.20 4.74 0.29 3.45 0.77 2.29 0.99 4.90 0.26 1.45 1.22 3.12 0.27 1.97 1.07 1.21 1.12 4.49 0.29 3.56 0.50 1.79 0.47 1.67 1.06 3.28 0.824.02 0.97 3.33 0.49 2.04 1.12 2.10 1.01 3.72 0.46 2.75 1.07 3.68 0.89 3.44 1.02 1.77 0.60 1.64 0.51 1.37 1.24 2.07 1.12 2.39 0.91 3.16 0.26 1.27 0.29 2.98 0.83 1.94 0.59 3.86 1.02 3.93 0.68 1.81 1.02 3.46 0.70 4.39 0.90 3.68 0.91 2.67 0.33 1.84 1.103.89 1.17 3.86 0.56 4.56 0.83 1.37 1.15 2.72 0.40 4.81 0.68 3.76 0.59 2.07 1.08 3.23 0.87 2.71 0.81 2.76 0.28 2.91 0.43 1.03 1.19 4.56 0.92 3.61 0.93 2.09 1.01 4.04 0.67 2.65 1.24 2.33 1.22 3.51 0.46 2.17 0.57 4.31 0.44 3.39 1.21 3.75 0.49 2.62 0.414.29 0.95 3.26 0.90 4.30 0.55 2.90 0.90 4.58 0.89 1.74 0.67 3.92 1.02 4.64 0.54 3.39 0.56 1.02 0.31 1.88 0.26 3.98 0.82 1.67 0.99 1.27 0.54 2.35 0.69 4.30 1.11 1.81 0.85 2.19 0.37 2.99 0.29 1.17 0.76 4.97 0.38 3.95 0.32 3.75 0.53 2.57 0.62 4.99 0.914.83 0.47 1.99 0.40 2.79 1.13 1.97 0.27 4.28 0.57 2.18 0.73 4.79 0.49 3.35 0.82 2.96 0.89 3.54 0.54 4.61 0.88 2.62 1.11 2.24 0.57 4.92 1.10 2.77 0.65 3.87 0.43 3.66 0.99 2.07 0.75 1.76 0.26 3.96 0.86 2.89 1.19 1.79 0.41 3.61 0.54 3.25 0.87 2.24 1.212.75 0.64 2.28 1.04 4.89 0.74 2.74 0.78 3.04 0.42 4.49 0.65 2.91 0.77 1.95 0.39 1.33 0.32 4.12 0.51 1.75 0.42 3.61 1.00 1.86 0.82 1.56 1.15 3.21 0.30 1.58 0.62 1.63 1.16 2.28 1.03 4.72 1.09 4.12 0.87 2.72 0.40 2.18 0.53 3.17 0.59 3.56 1.11 2.15 0.791.68 0.88 3.75 0.87 3.75 0.44 1.38 1.11 2.69 1.05 1.05 1.13 3.85 0.40 4.34 1.15 4.64 0.74 1.86 0.42 3.25 0.90 3.87 0.87 2.94 0.51 4.19 1.13 2.27 0.99 4.29 0.61 2.52 1.07 2.74 0.86 2.59 0.97 4.41 1.22 1.74 0.76 1.18 1.01 4.46 0.41 2.11 0.34 2.27 1.214.32 1.21 2.24 0.92 3.35 0.35 2.51 0.71 3.12 0.50 4.24 1.03 4.96 0.46 3.70 0.88 3.24 1.05 2.77 0.61 3.24 0.86 3.20 1.01 4.78 1.00 3.49 0.25 4.00 0.84 3.95 0.50 4.05 1.06 2.79 0.37 2.11 0.46 1.88 0.52 2.47 1.14 4.28 1.00 2.94 0.31 3.08 0.51 3.95 0.674.08 0.50 4.00 0.42 1.96 1.23 1.65 0.78 4.56 0.43 4.81 0.81 1.40 0.54 4.82 1.02 1.90 0.85 3.83 0.41 2.48 0.32 4.63 0.86 1.87 0.41 4.53 0.77 4.18 1.19 1.53 0.84 3.52 0.79 4.74 1.17 3.51 0.49 1.87 0.75 2.59 1.18 3.73 0.58 2.52 0.68 4.25 1.05 2.81 0.392.90 1.04 1.91 0.77 2.99 1.14 3.10 1.21 1.58 1.15 4.14 0.72 1.52 1.19 3.80 0.62 3.94 0.33 1.73 0.42 4.99 0.56 2.36 1.24 4.09 0.76 4.59 0.32 4.13 0.94 3.41 1.08 4.00 1.05 4.29 0.55 3.88 1.03 2.39 0.86 3.42 0.76 2.80 0.39 2.42 0.31 3.99 0.39 1.54 0.504.30 0.73 1.10 0.54 1.93 0.30 4.00 0.85 1.59 0.27 2.88 0.33 3.87 0.27 2.99 0.73 3.15 0.68 1.13 1.21 2.06 1.20 4.71 0.91 2.76 0.77 3.05 0.36 2.69 1.08 2.28 0.88 3.58 0.64 1.46 0.52 2.83 0.47 3.98 0.74 3.64 1.11 4.22 1.19 3.64 1.06 3.35 0.86 2.93 1.251.39 0.75 3.72 0.64 3.28 1.09 2.61 0.90 3.10 0.64 3.39 0.95 3.70 0.95 3.20 0.86 4.93 0.63 1.13 0.28 1.49 0.78 2.47 1.24 4.05 0.42 1.77 0.37 2.06 1.21 1.07 0.76 2.12 0.96 1.47 1.20 1.94 0.98 1.20 0.29 2.83 0.29 4.20 0.25 2.36 0.87 2.14 0.56 2.08 0.421.32 0.82 2.47 0.76 4.97 1.09 1.57 0.90 2.57 0.32 2.86 1.03 4.60 0.84 4.25 1.02 2.96 0.77 4.22 0.60 2.97 0.41 4.01 0.84 1.95 0.26 4.74 0.31 2.41 0.85 2.94 0.95 3.00 0.42 3.77 0.40 4.86 0.92 4.54 0.67 4.57 1.18 3.08 0.31 3.41 0.64 1.66 0.62 4.25 0.302.03 1.20 2.43 0.96 2.11 1.10 4.55 0.38 4.41 1.10 2.31 1.24 2.55 0.26 2.48 0.32 4.64 0.75 2.36 0.73 2.77 0.55 2.84 0.66 3.82 0.97 2.02 0.49 1.20 0.36 4.51 1.24 1.34 0.39 1.58 0.58 3.57 0.70 1.73 0.62 3.76 1.23 1.28 0.69 2.17 0.78 3.04 1.04 1.01 1.162.04 0.84 3.83 0.84 2.62 0.73 1.62 0.78 3.99 0.35 3.58 0.32 2.59 0.83 3.77 0.95 2.59 0.37 2.41 1.06 4.09 1.01 2.13 0.71 2.32 0.52 4.14 1.13 4.22 0.72 4.92 1.13 2.66 0.59 4.96 0.60 2.29 0.74 3.64 0.27 2.85 0.48 2.81 1.21 1.30 0.66 2.14 0.94 1.42 0.911.93 1.02 4.45 0.47 4.46 0.75 1.96 0.93 2.56 0.82 3.80 1.07 2.70 0.69 1.14 0.67 3.14 0.85 3.64 1.21 4.19 0.33 1.63 0.85 2.47 0.72 1.66 1.07 3.99 0.45 4.53 1.03 3.72 0.88 3.57 0.65 4.28 0.82 1.86 0.54 3.56 0.38 2.63 0.33 2.27 0.74 4.58 0.51 1.41 0.433.51 0.77 4.76 0.84 2.99 0.85 2.60 0.60 4.91 0.93 5.00 0.61 2.77 1.01 1.77 1.10 2.20 1.16 3.28 1.01 3.97 0.33 1.33 0.38 2.34 0.89 3.32 0.83 4.36 0.46 1.41 0.82 4.75 0.87 3.56 0.95 3.93 0.76 3.33 0.76 4.29 1.10 2.46 0.34 4.23 0.69 3.85 0.36 1.43 0.771.24 0.34 3.21 0.66 3.87 0.93 1.85 0.89 4.41 0.99 2.36 0.91 4.02 0.49 4.44 0.57 4.39 0.39 1.00 0.36 3.20 1.14 4.79 0.37 2.61 0.30 4.22 0.93 2.06 0.42 1.36 1.05 2.47 0.26 3.85 0.81 2.38 0.93 2.67 0.43 1.11 0.90 3.19 1.18 4.36 0.35 1.54 1.14 3.10 0.454.22 0.45 2.20 0.72 4.60 1.03 3.93 0.56 2.34 0.93 2.63 1.18 4.14 0.95 4.63 1.15 1.33 0.47 2.40 0.94 1.09 0.87 1.00 1.22 2.57 0.45 2.83 0.67 1.83 0.78 1.40 1.03 1.44 0.54 3.50 1.16 4.44 0.96 2.46 0.48 4.60 0.95 4.83 0.64 3.30 0.82 4.12 1.06 3.77 0.742.67 0.80 1.15 0.57 1.72 1.19 1.70 0.40 2.49 1.06 2.13 1.04 2.15 0.25 3.38 0.27 3.86 0.60 2.73 0.37 1.00 0.36 4.64 0.91 3.21 1.03 1.44 0.37 3.83 0.39 2.99 1.18 3.61 0.71 2.47 0.92 1.86 0.38 1.82 0.90 2.55 1.00 3.89 0.43 4.13 1.24 3.21 1.17 2.78 1.172.55 0.92 4.29 0.29 2.02 0.39 2.93 0.82 2.22 1.07 1.34 0.80 1.13 0.32 3.61 1.24 4.91 0.68 2.94 0.76 4.73 0.35 2.10 0.38 2.16 0.76 2.26 0.44 4.70 1.09 4.38 0.61 4.47 0.71 2.14 0.68 3.55 0.46 2.34 0.95 2.71 0.48 3.64 1.11 2.87 1.18 4.98 0.73 4.00 0.604.19 0.87 1.49 1.21 4.07 0.56 3.76 0.62 3.22 1.05 4.95 0.92 1.86 0.56 3.18 0.46 2.52 1.09 1.81 0.91 4.81 0.88 3.99 1.08 2.25 0.42 3.17 0.33 3.51 0.61 3.29 0.49 4.41 0.41 3.15 1.08 1.31 0.54 4.92 0.59 2.62 1.06 1.75 1.07 2.85 1.04 1.96 0.64 4.61 0.714.60 0.39 1.63 0.91 2.21 0.95 2.80 1.14 4.68 0.88 3.93 1.12 1.46 0.37 4.74 0.74 3.51 0.95 2.99 0.58 2.11 0.61 1.48 0.40 3.40 1.20 1.25 0.52 2.97 0.83 1.76 1.11 1.58 0.86 4.29 0.30 1.87 0.96 3.09 0.39 2.60 1.08 2.89 0.94 4.28 1.22 2.33 1.00 4.09 1.053.08 0.91 2.34 1.07 4.33 0.67 3.26 0.68 1.98 0.27 3.38 0.93 4.44 0.70 1.93 1.01 3.80 0.66 1.44 0.87 1.59 1.16 3.27 0.81 1.73 1.24 3.39 0.79 1.05 1.05 3.04 0.87 1.14 0.93 2.66 1.04 4.64 0.91 4.74 0.35 4.28 1.23 3.30 0.65 1.18 0.42 1.12 0.97 3.34 1.131.38 0.90 2.35 0.95 2.20 0.65 2.93 0.64 3.92 0.92 1.13 0.96 2.20 0.79 1.24 0.50 1.08 0.29 3.76 1.13 2.96 0.99 1.78 1.13 3.58 0.89 3.37 1.09 2.76 0.98 1.99 0.85 4.39 1.19 2.44 1.10 3.76 0.93 4.32 0.56 2.94 1.02 1.68 0.49 2.23 0.81 3.10 0.71 4.77 0.401.28 0.72 4.96 1.05 1.27 0.29 3.43 0.38 4.08 1.12 1.46 0.33 3.80 1.20 2.06 0.77 3.77 0.60 4.44 0.30 4.87 0.51 4.74 1.04 2.25 1.00 3.84 0.96 3.47 0.73 1.57 0.62 2.87 0.66 2.46 1.17 2.15 0.45 3.82 1.11 4.82 0.78 4.90 0.33 1.97 0.34 1.84 0.42 3.45 0.711.63 0.26 4.30 0.77 2.87 0.55 1.33 0.33 1.01 0.78 1.69 1.18 4.93 0.89 3.58 0.68 3.24 0.93 2.63 0.44 2.75 1.17 4.25 0.82 4.83 0.51 4.23 0.55 4.29 0.98 4.50 0.85 2.09 1.24 2.35 0.99 3.17 0.34 1.77 1.19 4.39 0.52 3.40 0.50 2.04 0.55 4.55 1.13 3.09 0.302.57 0.86 4.36 0.30 2.84 0.75 3.25 0.80 1.48 0.81 4.72 0.59 1.06 0.47 3.85 0.67 3.75 1.20 1.42 1.16 1.15 0.50 4.73 0.36 4.54 0.92 3.39 0.31 1.22 0.82 4.30 0.49 1.07 0.49 3.87 0.87 1.48 0.34 3.64 1.04 1.60 1.20 1.10 0.46 4.11 1.16 1.83 0.54 2.88 0.691.99 0.94 1.16 1.20 2.40 0.31 1.52 0.43 3.60 0.80 4.95 0.61 2.80 0.36 2.73 0.85 2.24 0.53 4.07 0.88 1.24 0.37 2.45 0.60 2.35 0.43 1.54 0.67 2.96 1.00 2.16 0.39 3.24 1.15 1.87 1.03 4.99 0.28 1.57 0.26 3.63 0.41 4.15 0.97 1.77 0.26 2.67 0.45 4.86 0.332.00 0.63 2.47 1.03 2.11 1.10 2.92 1.08 2.74 1.22 4.88 0.39 2.16 1.08 3.74 0.70 2.98 0.82 2.93 0.70 3.31 0.44 4.27 0.75 2.80 1.18 1.97 0.51 4.18 1.12 1.86 0.56 2.68 1.02 3.35 1.04 4.29 0.81 1.75 0.79 1.63 0.76 4.24 0.38 1.33 1.03 3.37 0.86 2.04 0.671.31 0.33 1.53 0.88 4.97 0.36 2.46 0.69 2.53 1.19 3.10 1.08 4.40 0.94 3.93 1.02 1.08 1.19 4.95 0.33 3.46 1.16 4.14 0.42 4.58 0.52 3.53 0.57 1.16 0.82 3.58 0.72 1.68 0.67 2.18 0.48 2.04 1.05 1.75 0.95 2.35 0.64 4.96 1.11 2.71 0.60 4.37 0.31 4.62 0.982.14 0.64 3.98 0.42 2.11 0.98 1.78 0.83 3.23 1.03 4.08 0.31 1.25 0.77 3.94 0.48 1.51 0.77 4.09 0.51 3.22 0.48 4.12 0.28 4.70 0.45 3.97 0.42 3.75 0.63 2.39 0.92 3.05 0.62 2.44 0.30 3.75 0.56 1.06 0.92 2.35 0.67 4.57 0.70 2.83 0.48 2.32 0.99 3.52 0.602.92 0.51 1.73 0.39 2.85 1.12 3.25 0.80 4.04 1.15 3.27 0.81 1.08 0.71 2.18 1.01 1.40 0.81 2.38 1.23 3.61 1.07 4.92 0.92 4.89 0.27 4.30 0.45 1.51 1.19 1.47 0.35 1.60 0.40 4.27 1.15 1.05 0.53 2.66 1.00 2.99 0.85 3.78 1.12 1.44 0.79 4.87 1.02 1.43 0.471.81 0.90 4.78 0.84 3.36 0.58 2.37 1.00 2.78 0.84 2.69 0.75 1.72 1.22 2.00 1.22 3.22 0.84 4.43 0.81 2.04 0.84 2.51 1.18 3.97 0.25 1.29 0.76 1.85 0.34 3.99 0.48 4.02 1.14 1.81 0.66 2.47 0.46 1.42 0.42 2.44 0.96 1.84 1.09 3.73 0.93 1.56 1.04 1.09 0.544.20 1.01 4.16 0.63 3.05 0.97 4.56 0.60 3.43 1.22 1.16 0.87 4.64 0.32 1.41 0.31 1.19 0.96 3.14 0.88 2.41 1.06 3.41 1.25 2.00 1.08 2.20 0.66 1.47 0.96 4.65 0.35 3.98 0.40 2.74 0.78 2.91 0.59 4.38 1.19 2.81 0.42 3.15 0.73 2.62 0.35 3.42 0.49 3.60 0.273.79 0.57 1.35 0.89 3.56 0.35 1.65 0.83 1.53 0.30 4.08 0.37 2.61 0.42 1.18 0.35 4.50 1.20 1.04 0.72 2.40 0.87 2.65 0.39 4.74 1.08 4.71 0.75 3.62 0.83 4.36 0.85 1.44 0.56 2.43 0.44 3.32 0.57 1.16 1.16 4.39 0.92 1.72 0.81 4.68 0.70 1.15 0.85 3.83 0.701.79 0.82 3.77 0.27 1.68 0.81 2.90 1.24 1.41 0.50 1.31 0.75 3.51 0.31 2.57 0.37 1.34 0.90 3.40 0.35 1.31 1.17 4.53 0.67 2.82 1.08 4.08 0.65 1.68 0.32 4.25 1.20 3.35 1.03 3.77 0.87 2.50 0.43 3.27 0.53 1.53 0.74 3.51 0.38 3.52 0.72 1.60 1.25 1.49 0.821.45 1.17 3.92 0.44 1.79 0.74 1.35 1.04 1.56 0.70 2.25 1.21 4.52 0.98 4.15 0.79 3.71 0.88 2.93 1.20 4.02 0.50 2.98 1.08 1.39 1.00 4.45 0.76 1.17 0.64 4.96 0.84 1.75 0.50 4.55 0.39 1.32 0.85 3.58 0.57 4.83 0.65 3.82 0.78 3.43 0.67 1.02 0.86 4.80 0.334.51 0.88 4.97 0.82 2.03 0.39 3.27 0.71 2.78 0.35 3.98 0.74 4.39 1.07 3.77 1.14 3.20 1.19 2.98 0.83 2.21 0.25 1.44 0.77 1.10 0.67 1.38 0.38 1.15 1.06 1.99 0.89 4.05 0.52 3.79 0.57 2.78 0.49 1.88 1.01 3.81 0.26 2.51 0.37 1.60 0.42 3.70 0.58 3.23 0.892.96 0.61 3.80 1.23 3.17 0.99 1.55 0.76 4.59 0.43 1.96 0.47 3.71 0.82 2.25 0.30 1.48 1.24 5.00 0.29 2.28 0.69 1.62 0.30 4.29 0.74 3.11 0.62 2.98 0.82 4.23 1.15 1.62 0.43 3.52 0.75 3.76 0.67 4.86 0.75 2.02 0.36 4.73 0.26 3.61 0.81 3.46 1.24 3.10 1.034.35 0.89 4.09 0.61 4.61 0.43 2.96 0.70 2.42 1.19 1.76 1.18 3.06 1.05 3.49 0.38 1.20 0.94 4.20 0.42 1.00 0.96 1.01 0.47 4.09 1.00 2.26 0.86 4.39 0.28 3.56 0.99 2.84 1.07 4.21 0.77 4.62 0.41 1.02 0.84 3.21 1.05 3.26 0.57 4.88 0.61 3.50 1.13 4.83 1.203.48 0.63 4.94 0.93 3.65 0.64 3.33 0.72 4.73 1.07 2.05 0.34 4.77 0.32 3.67 0.82 2.05 0.29 3.62 0.47 2.24 1.01 1.27 1.22 3.16 0.68 2.36 0.37 1.44 1.12 3.23 0.86 4.64 0.96 1.83 0.30 1.81 0.69 1.53 1.24 4.24 0.44 2.65 0.57 1.88 0.64 4.41 1.20 1.09 0.703.99 0.46 3.84 0.79 3.29 0.97 1.92 0.78 4.85 0.62 2.54 0.82 2.15 0.48 2.50 0.57 4.86 0.34 4.84 1.00 2.53 0.42 1.63 0.62 1.64 0.69 4.77 0.33 2.45 1.21 1.05 1.08 4.41 1.00 2.31 0.31 4.57 1.15 2.01 0.32 3.76 0.80 2.36 0.50 1.68 0.38 2.64 0.34 3.61 0.882.11 0.77 3.75 0.65 2.91 0.69 4.80 0.53 4.78 0.86 2.84 1.08 2.38 0.55 3.23 1.16 2.98 1.02 3.39 1.07 4.15 1.15 3.91 0.45 1.81 1.05 4.95 0.82 1.97 0.71 1.06 0.83 2.07 0.37 2.77 1.15 4.66 0.78 4.44 0.56 4.53 0.25 2.40 0.53 1.25 0.64 3.54 1.13 3.26 0.852.33 0.36 4.49 0.63 2.99 0.39 2.36 0.33 4.22 0.43 4.66 0.69 1.15 1.11 2.18 0.44 3.80 0.67 1.45 0.85 4.64 0.79 1.06 0.40 4.25 0.38 1.05 0.92 1.72 0.37 3.62 0.33 2.41 0.53 2.71 1.21 1.14 0.41 3.54 0.53 2.23 1.23 3.61 0.35 4.84 1.22 3.42 1.11 1.97 0.901.19 1.25 1.59 0.45 4.15 0.67 4.56 0.26 2.23 0.63 1.62 0.82 4.23 1.03 3.98 0.46 3.11 1.06 2.55 1.18 4.56 1.14 2.94 0.97 1.26 0.48 4.91 1.12 3.57 0.86 3.43 0.27 2.42 0.45 1.01 1.21 3.76 0.26 1.67 0.58 4.70 0.44 4.33 0.55 1.33 0.97 4.56 0.59 2.63 1.063.18 0.76 4.17 0.88 1.57 1.06 4.02 0.87 1.17 0.84 3.19 0.60 3.26 0.55 3.59 0.51 2.63 1.13 4.76 0.90 1.59 0.59 4.61 0.32 3.45 0.46 1.28 0.47 3.36 1.03 3.86 0.87 2.53 1.24 4.71 1.18 3.93 0.75 3.96 0.63 2.35 0.39 2.26 0.33 3.29 0.74 2.24 0.80 1.76 1.06No. of dimensions5 10 15 20 25Severity0.2 0.4 0.6 0.8 1.0Severity0.2 0.4 0.6 0.8 1.0Severity0.2 0.4 0.6 0.8 1.0Severity0.2 0.4 0.6 0.8 1.0Severity0.2 0.4 0.6 0.8 1.0Freq.0.20.40.60.81.01.2Freq.0.20.40.60.81.01.2Freq.0.20.40.60.81.01.2Freq.0.20.40.60.81.01.2Freq.0.20.40.60.81.01.2Freq.0.20.40.60.81.01.2Freq.0.20.40.60.81.01.20.20.40.60.81.01.2Algorithm 8Algorithm 7Algorithm 6Algorithm 5Algorithm 4Algorithm 3Algorithm 2Algorithm 1Freq.1.13 0.50 4.18 0.89 3.50 0.71 4.23 0.27 3.46 0.74 1.96 0.35 3.55 0.88 4.79 0.36 3.91 0.73 1.40 1.09 4.53 0.46 1.03 1.08 1.15 1.25 1.47 1.03 4.42 1.12 1.03 1.09 4.79 0.96 2.20 0.53 3.64 0.40 2.27 0.59 3.79 0.40 3.15 1.03 1.53 0.36 4.92 0.56 1.55 1.054.91 0.71 2.36 0.83 2.72 0.31 3.89 1.00 4.25 0.57 4.84 1.02 2.64 0.83 2.71 0.70 3.62 0.81 2.52 0.61 3.91 0.94 1.38 0.31 2.17 1.23 4.40 0.77 4.51 1.21 1.67 1.01 4.55 0.56 3.79 1.05 2.05 0.43 4.73 1.05 1.57 0.68 2.88 0.51 4.68 1.08 1.52 1.01 1.22 0.614.16 0.80 1.68 0.50 1.95 1.04 1.45 0.89 4.77 0.69 3.50 0.86 4.37 1.14 4.04 1.18 2.42 0.74 2.17 0.77 1.92 0.39 4.64 0.47 4.15 0.73 2.26 1.22 4.01 0.56 1.64 0.95 2.74 0.79 1.32 1.03 3.36 0.57 1.30 0.49 1.38 0.92 4.88 0.31 1.81 0.73 3.54 0.52 2.41 0.281.20 0.46 1.83 0.70 2.63 0.85 4.38 0.28 2.48 1.06 2.53 0.85 3.39 0.76 4.81 1.24 2.47 0.91 1.86 0.72 2.55 1.04 3.07 1.12 1.28 0.42 4.00 0.82 2.57 0.81 4.71 0.71 2.43 0.34 2.88 0.52 1.49 0.97 2.55 0.30 3.75 1.20 3.53 0.99 3.16 0.83 1.99 1.02 4.85 1.173.99 1.06 4.02 1.09 1.58 0.46 1.61 1.09 4.66 0.84 4.25 0.52 4.76 0.62 3.03 1.19 2.04 1.05 2.57 0.99 3.95 0.74 4.28 0.72 1.39 1.24 4.50 1.05 4.12 0.85 2.01 1.05 2.28 0.77 4.82 0.33 3.36 0.67 3.81 0.94 1.40 1.18 2.89 1.05 3.52 0.72 3.37 0.74 2.04 1.113.13 0.62 3.26 0.36 1.55 0.84 3.36 0.81 2.77 0.63 2.82 0.80 4.70 0.48 4.54 0.83 1.52 0.27 2.39 1.11 3.67 0.97 4.01 0.40 4.86 0.66 2.12 0.45 2.94 0.84 1.39 0.73 4.61 1.03 1.50 1.01 4.95 0.89 3.80 0.49 4.50 0.81 3.53 1.23 3.84 1.16 2.96 1.15 2.03 0.493.84 0.32 1.69 0.98 1.07 0.36 4.83 1.00 1.81 1.21 4.77 0.48 1.00 0.96 2.71 0.55 3.01 0.54 3.43 1.17 1.50 0.54 3.00 0.40 4.05 0.42 2.96 0.60 4.85 1.13 2.47 0.87 4.77 0.51 2.07 1.02 2.63 1.01 3.33 0.90 3.49 0.71 2.53 0.99 1.53 0.29 1.44 0.68 2.32 1.002.29 1.22 2.35 0.37 4.34 0.89 1.44 0.71 2.36 0.65 3.07 1.11 4.74 0.53 1.73 0.54 1.75 0.58 1.17 1.08 3.65 0.80 4.57 0.85 4.14 1.07 1.43 1.24 4.81 0.92 3.00 0.55 2.99 0.96 1.07 0.52 1.65 0.45 1.42 0.35 4.72 1.07 4.23 1.24 4.95 0.72 3.38 0.90 3.54 0.804.77 0.46 2.01 0.47 3.41 0.81 1.96 0.99 1.77 0.65 4.46 0.95 2.50 0.58 4.09 1.16 4.27 0.38 3.75 0.29 4.27 0.81 4.38 0.58 4.54 1.24 2.75 0.33 1.97 1.08 3.32 0.37 4.46 0.45 1.14 0.27 1.11 0.60 3.63 0.60 3.64 1.05 1.12 0.57 4.86 0.55 1.19 0.84 4.62 0.264.09 1.12 1.09 0.84 2.17 0.90 3.37 0.62 1.35 0.45 1.85 1.02 1.31 0.53 1.73 0.66 1.15 0.74 2.82 0.84 1.34 0.58 4.35 0.78 1.85 0.99 3.44 1.08 4.08 1.07 4.24 1.18 4.04 0.92 2.58 0.97 3.79 0.37 4.51 0.73 4.53 0.48 2.91 0.94 3.45 0.72 2.35 0.93 1.67 0.794.44 1.03 1.86 0.46 2.28 1.22 3.14 0.94 3.58 0.70 4.80 0.55 1.37 1.01 4.52 0.70 2.27 0.77 3.78 0.42 3.19 0.29 4.32 0.38 4.95 1.21 2.82 0.38 2.30 0.74 1.47 1.14 2.86 0.97 3.03 0.83 4.48 0.67 1.84 1.07 3.24 0.94 2.94 0.69 2.12 0.33 3.91 0.72 4.14 0.551.12 0.76 4.70 0.82 1.63 0.38 3.04 0.67 3.16 0.30 3.93 0.70 1.21 0.42 3.56 0.81 2.84 0.40 2.93 0.41 3.86 1.20 1.52 0.99 1.89 0.50 3.51 0.64 4.34 0.61 4.80 0.79 4.33 0.34 4.79 0.44 1.66 0.84 3.81 0.86 2.48 1.17 4.35 0.53 3.71 0.47 3.74 1.12 3.10 1.241.54 0.46 4.83 0.88 1.22 0.72 2.26 0.84 1.72 0.27 4.25 0.96 4.00 1.06 4.19 1.02 1.78 0.62 2.11 0.62 4.70 0.87 2.69 0.77 1.97 1.13 1.41 0.32 4.83 0.60 1.73 0.80 3.81 0.40 4.40 0.73 3.31 0.32 2.33 0.61 3.46 0.70 3.37 0.85 1.71 0.65 4.05 1.10 2.30 0.324.30 0.56 2.14 1.00 3.40 1.19 3.32 1.15 1.19 0.38 4.54 0.89 3.58 1.18 3.23 0.95 4.58 1.13 3.33 1.24 3.57 0.30 2.62 0.51 1.92 0.80 3.58 0.66 1.70 0.43 2.81 1.05 4.99 0.54 2.75 0.99 1.71 0.81 3.96 0.59 4.61 0.34 2.27 0.99 3.82 1.18 2.38 0.65 1.72 0.733.84 0.83 3.29 0.35 4.11 0.78 4.23 0.71 4.85 0.83 4.79 0.48 4.80 0.34 3.19 0.49 3.40 1.20 4.14 0.30 1.73 0.97 1.33 1.17 4.04 0.74 1.94 0.54 2.68 1.22 2.42 0.25 4.65 1.12 4.29 1.02 4.87 1.13 4.60 1.15 2.76 0.85 1.88 0.96 1.63 1.12 3.63 1.13 2.31 0.274.58 0.34 4.10 0.48 1.97 0.94 4.89 0.90 4.31 1.00 2.96 1.11 1.27 1.15 1.21 0.48 3.69 1.01 2.13 1.13 1.58 0.71 3.39 0.38 3.04 0.40 3.20 0.49 3.22 0.67 3.05 0.74 2.40 0.37 3.75 0.73 4.24 0.74 2.60 0.38 1.35 0.58 4.60 0.63 2.37 0.51 4.80 0.38 2.73 0.562.82 0.48 2.52 0.69 4.94 0.52 4.04 0.25 4.20 0.44 2.19 1.11 1.48 1.12 2.57 1.06 4.36 0.49 2.42 0.31 1.05 1.03 1.21 0.64 1.46 0.32 2.69 0.87 2.70 0.90 3.73 0.32 4.23 0.45 4.46 0.80 3.48 1.06 4.10 1.02 2.14 0.93 2.18 0.56 1.72 0.98 3.85 0.83 2.62 0.982.21 0.90 4.91 0.50 2.11 1.15 4.47 0.96 3.33 0.25 4.42 0.49 4.08 0.74 3.85 1.15 1.33 1.25 3.15 1.13 3.25 0.84 3.06 0.93 1.05 0.25 2.99 0.51 1.12 1.11 4.44 1.17 2.80 0.74 3.80 0.76 1.19 0.74 2.94 0.69 2.47 1.10 3.70 0.43 1.34 1.21 4.40 1.03 3.56 0.804.80 0.67 1.20 1.10 4.91 0.86 2.64 0.45 3.45 1.00 3.75 0.57 1.29 0.69 4.36 0.83 3.92 0.65 1.99 1.03 4.61 0.87 4.29 0.46 2.64 0.52 3.40 0.62 4.14 1.21 3.87 0.31 3.12 1.23 3.91 0.58 4.69 0.89 3.23 1.06 2.97 0.85 4.06 1.13 4.87 0.68 2.85 0.27 1.15 1.102.47 0.66 4.30 1.04 1.63 1.05 3.68 0.47 1.72 0.86 2.23 1.07 3.54 1.10 2.15 0.68 3.58 0.55 3.28 0.70 4.92 1.21 2.88 0.51 1.81 1.03 1.85 1.23 2.09 0.90 1.57 0.40 1.60 0.62 3.39 0.58 2.48 0.56 3.53 0.58 1.63 0.61 1.47 0.65 4.94 0.89 3.34 1.18 2.39 0.401.91 1.17 1.81 0.52 4.62 0.93 2.86 0.50 2.95 0.84 1.28 0.57 3.46 1.06 2.62 0.29 1.90 0.49 2.39 0.85 3.14 1.06 3.76 1.06 2.12 0.29 4.35 0.60 4.00 1.08 1.63 0.29 4.46 0.40 4.98 0.28 1.44 0.97 1.83 0.63 4.09 0.44 3.69 0.63 2.72 0.81 2.74 0.80 1.35 0.854.55 0.42 3.53 0.60 2.52 0.98 4.97 1.12 3.17 0.60 4.20 1.12 2.61 0.25 3.29 0.73 4.37 0.31 4.93 1.23 2.86 0.80 1.83 0.40 4.83 1.09 3.77 1.16 3.51 1.07 4.24 0.45 1.86 0.70 1.60 0.71 3.60 0.70 1.61 0.77 3.46 0.92 4.14 0.50 4.97 0.34 2.96 1.10 1.38 0.874.60 0.97 4.49 0.31 5.00 1.11 1.86 0.97 1.90 1.07 3.77 1.13 4.33 1.07 2.72 0.67 3.94 1.20 2.67 0.46 1.90 0.91 1.76 0.91 1.99 0.26 4.69 0.29 3.51 0.37 2.42 1.07 2.37 0.40 2.53 0.56 4.49 0.59 2.33 0.39 3.09 1.24 1.11 1.24 1.55 0.95 2.70 0.29 4.52 0.463.04 0.61 4.61 1.04 3.26 0.82 2.17 0.57 1.61 1.13 1.51 1.01 3.17 0.45 4.04 0.94 1.09 0.45 3.31 0.60 2.30 0.79 3.20 0.45 3.98 1.20 3.64 0.83 4.00 1.24 4.37 0.93 2.50 1.24 1.38 1.12 2.31 0.81 4.06 0.30 2.56 0.37 2.79 0.74 1.80 1.04 1.64 1.05 1.65 0.294.78 0.87 3.72 0.85 4.77 0.52 4.36 0.42 4.49 0.25 4.81 0.48 3.25 0.26 3.12 0.62 3.68 0.43 3.27 0.93 1.18 0.51 2.03 1.12 4.91 0.52 2.85 0.50 4.86 0.94 4.25 0.97 4.99 0.76 1.21 0.66 1.07 0.42 4.95 0.31 1.19 0.49 4.36 1.15 1.19 0.74 2.25 1.11 3.21 1.213.62 0.55 4.85 1.20 2.52 0.77 3.28 0.55 2.12 0.90 3.31 0.78 2.64 0.67 3.43 1.02 4.10 0.50 1.82 0.86 3.05 0.33 3.77 0.60 1.99 1.22 4.03 0.46 2.52 0.85 3.29 0.65 1.50 0.68 2.25 1.01 4.30 0.62 2.98 0.58 2.25 0.45 1.82 0.90 3.68 0.71 1.79 1.07 3.87 0.872.16 1.13 4.91 0.36 3.64 1.18 3.87 0.53 2.97 0.65 2.95 0.91 3.62 0.62 1.48 0.78 3.00 1.17 2.93 1.10 2.41 1.16 1.20 0.90 2.60 0.42 4.70 1.08 1.07 0.34 4.83 1.17 1.25 0.36 4.70 0.82 2.77 0.30 3.64 0.65 1.93 0.75 1.12 0.27 4.12 0.67 4.73 0.50 4.09 0.354.20 0.87 2.42 0.33 3.52 0.94 4.50 0.94 2.94 1.04 2.74 1.07 4.21 0.63 4.16 1.06 2.10 1.00 1.53 1.00 2.89 0.95 2.99 0.74 4.42 1.20 2.05 0.85 1.47 0.82 3.42 0.88 2.77 0.56 3.35 1.22 4.48 1.18 1.03 0.56 3.13 0.35 4.27 0.26 3.53 0.86 1.37 1.10 4.38 1.183.24 1.07 1.41 0.62 3.76 1.14 4.42 0.52 4.29 0.79 3.79 1.24 3.59 0.73 2.32 0.39 3.68 0.99 1.00 0.25 3.54 1.04 1.11 0.71 2.69 1.02 1.31 0.65 3.61 0.93 3.15 1.02 1.45 0.41 3.28 0.92 4.64 0.31 4.24 1.20 4.88 0.58 4.77 0.25 4.37 0.96 3.28 0.40 2.37 0.763.44 0.38 3.16 0.30 1.51 0.71 4.52 1.08 1.14 0.41 2.19 0.25 3.60 0.64 3.90 0.57 4.87 0.27 4.10 0.36 1.09 0.93 1.67 0.96 1.92 0.91 1.41 0.90 4.19 0.57 2.94 0.94 2.17 1.10 1.85 0.94 3.58 1.01 3.79 0.76 4.99 0.85 4.77 0.91 4.42 1.03 3.17 0.95 2.54 0.693.90 0.38 1.78 0.95 2.25 1.20 2.97 0.73 1.56 0.76 2.56 0.60 1.23 0.41 3.04 0.51 2.28 0.28 4.98 1.07 2.29 1.00 1.99 0.34 4.66 0.31 2.17 1.14 4.09 1.19 2.24 0.98 2.23 0.38 1.43 0.87 1.09 0.42 3.99 0.60 4.56 1.03 1.39 0.50 2.91 1.16 1.58 0.57 2.78 0.271.78 1.09 2.06 0.93 2.36 0.41 1.42 0.98 2.38 0.31 1.78 1.17 4.97 0.30 4.82 0.38 3.14 0.77 1.81 0.52 1.84 1.08 1.21 0.28 3.18 0.86 4.60 0.87 2.13 1.02 3.13 0.97 2.45 0.50 4.02 0.45 2.83 1.02 3.08 0.70 3.06 0.36 4.44 1.19 1.99 0.52 4.05 0.30 4.86 0.272.70 0.54 2.88 0.68 1.99 0.78 1.63 1.03 4.78 0.80 3.74 0.34 3.37 0.94 1.93 0.62 2.87 0.36 1.33 0.97 3.69 0.69 4.96 1.00 2.84 0.84 1.91 0.88 3.93 1.06 3.18 0.92 3.46 0.72 2.16 0.58 2.13 0.46 4.81 0.81 2.40 0.71 2.91 1.21 1.58 1.14 1.84 0.97 4.15 0.542.92 1.02 2.39 0.52 2.26 1.00 4.48 0.95 3.58 0.49 1.09 0.37 4.39 0.46 3.14 0.89 2.73 0.25 1.16 0.72 3.94 1.18 1.11 1.09 3.12 1.17 4.53 0.79 2.72 0.65 1.51 0.68 3.22 1.20 1.91 0.99 3.94 0.51 2.52 0.33 4.84 1.16 3.73 0.77 4.46 0.53 3.19 0.59 1.50 0.572.84 0.62 1.81 0.47 1.27 0.36 1.30 0.74 1.39 0.66 2.35 0.37 4.16 0.93 3.02 0.78 4.53 0.66 3.66 0.30 1.33 0.54 1.09 0.97 2.45 0.38 4.17 1.18 1.87 0.57 3.25 0.84 1.64 0.88 2.69 0.63 1.69 0.46 4.98 0.65 2.27 0.45 2.14 0.68 4.62 0.28 4.28 0.52 3.46 0.484.28 1.10 4.78 0.38 3.63 0.28 3.14 0.86 1.29 0.80 1.76 0.98 1.06 0.26 1.59 1.24 1.88 0.93 4.92 0.33 2.42 0.59 3.85 0.50 3.65 0.71 4.55 0.79 1.47 0.47 3.74 1.02 2.89 0.81 1.27 0.56 3.93 0.43 3.74 1.17 1.89 0.93 4.46 0.88 1.03 0.33 1.66 0.66 4.78 0.654.47 0.88 3.39 1.13 3.87 0.55 1.13 1.11 4.82 0.47 2.22 1.13 2.53 0.78 2.50 0.86 3.43 0.98 1.64 0.83 4.96 0.41 4.66 0.42 2.55 0.55 1.40 0.76 1.51 0.91 1.62 0.36 3.52 0.74 4.98 1.08 2.56 1.00 4.17 0.63 1.87 1.13 3.27 1.13 2.91 1.10 4.21 0.43 4.48 1.202.49 0.88 1.04 0.53 4.34 0.50 2.77 1.07 3.85 1.20 1.75 0.91 3.70 1.12 3.46 0.55 4.08 1.01 1.11 1.04 4.39 0.79 4.14 0.84 3.81 1.25 3.04 1.22 2.04 0.82 1.38 0.56 3.96 1.14 4.31 1.15 4.26 1.23 2.29 0.70 3.30 0.50 4.64 0.57 3.21 1.21 4.10 1.07 2.74 0.273.05 0.39 4.28 1.18 2.78 0.31 2.08 1.03 2.92 0.82 2.33 0.67 2.61 0.51 2.83 0.35 1.88 1.21 3.87 0.78 4.31 0.52 1.93 0.90 1.25 0.30 2.67 0.89 1.58 0.73 4.40 1.15 4.51 0.88 2.05 0.93 2.57 0.95 1.38 0.64 2.42 0.79 1.63 0.34 2.70 0.47 2.54 0.80 2.12 0.723.46 1.18 2.81 0.84 1.56 0.67 3.04 1.02 3.94 0.64 1.97 1.14 2.89 0.52 3.58 0.57 2.59 0.75 3.02 0.83 3.31 0.37 4.96 0.51 1.32 1.16 1.44 1.02 2.36 0.46 1.20 0.32 3.87 0.84 2.48 1.00 4.32 0.63 3.93 0.92 2.76 0.39 4.60 0.88 2.26 0.64 2.48 0.88 4.48 1.173.62 0.26 2.41 0.37 4.45 0.26 4.65 0.79 1.81 0.61 2.40 0.47 3.54 1.06 3.32 0.51 3.87 0.80 3.75 1.18 2.84 0.62 2.92 0.28 1.08 0.39 1.51 0.40 4.78 1.10 1.13 0.35 3.44 0.36 4.13 1.08 1.85 1.25 2.46 0.47 4.57 0.52 2.49 0.42 2.25 0.85 1.28 1.17 3.80 0.354.11 1.23 4.60 1.16 3.98 0.41 4.02 1.04 2.03 0.77 1.53 0.92 1.96 1.02 4.77 1.22 4.07 0.80 1.09 0.66 1.47 0.42 1.62 0.43 4.80 0.94 1.45 1.18 3.52 1.17 4.87 0.61 2.08 0.61 1.39 0.32 4.60 1.14 3.45 0.35 3.98 0.73 4.37 0.47 3.64 1.11 3.05 1.02 2.59 1.022.42 0.41 1.09 1.09 1.99 1.16 2.35 1.15 2.62 0.53 2.06 0.33 4.26 0.26 4.79 0.38 4.62 0.82 3.40 0.27 4.95 0.44 1.46 0.27 3.54 0.26 1.48 0.42 1.02 0.75 4.75 0.87 3.33 0.90 4.86 0.54 4.64 1.08 3.37 0.37 4.87 1.04 4.41 0.47 3.66 0.40 2.15 0.60 1.25 0.843.45 0.87 3.50 0.44 2.44 0.99 4.91 0.65 2.78 1.00 1.00 0.92 3.58 0.33 4.78 0.44 4.48 0.72 3.80 0.69 1.42 0.70 1.15 0.89 1.70 0.68 2.50 0.41 3.52 1.07 4.55 0.43 2.29 1.05 3.01 0.38 3.64 0.75 3.90 1.24 4.42 0.61 1.44 0.84 4.64 0.58 1.00 0.73 2.32 0.881.18 0.84 1.37 0.87 4.45 0.84 1.99 1.08 4.27 0.71 4.74 0.42 1.34 1.20 1.56 1.20 3.54 0.90 2.14 0.88 2.43 0.80 4.36 0.84 3.63 0.92 1.96 1.07 2.69 0.93 2.69 0.81 2.78 1.10 3.23 0.93 1.91 0.62 2.66 0.45 2.14 0.76 3.44 0.28 1.69 0.93 2.19 0.29 2.26 0.391.89 0.46 2.75 1.13 1.34 0.30 2.64 0.49 3.27 0.77 3.63 0.89 1.45 0.28 2.45 0.84 1.78 0.26 2.91 0.40 3.84 1.16 1.72 0.87 4.69 0.77 1.01 0.44 3.20 0.65 2.08 1.10 4.96 1.18 4.23 0.35 4.60 0.53 4.45 0.69 2.56 1.11 4.87 0.89 4.44 0.30 2.11 0.41 4.03 0.393.14 1.11 4.93 1.08 3.05 1.22 2.99 0.95 4.69 0.45 2.05 0.74 2.03 0.55 1.71 1.25 1.16 0.30 3.69 0.96 3.31 0.87 2.03 1.12 2.24 0.55 4.31 0.56 2.72 1.00 2.52 1.14 2.52 0.89 2.20 0.79 3.77 0.78 2.60 0.83 1.11 0.61 2.53 0.48 3.27 1.01 1.76 0.88 3.48 1.224.36 0.55 1.23 1.00 1.26 0.26 3.37 0.31 1.99 0.67 3.95 0.70 2.46 0.55 3.21 0.31 1.46 0.74 1.57 0.42 2.17 1.13 1.12 0.50 4.34 0.49 4.87 1.17 3.71 0.82 2.40 0.61 4.54 0.52 3.76 0.70 3.80 0.42 4.20 0.99 2.78 0.68 2.48 1.16 4.65 1.17 1.50 0.80 3.86 0.691.70 0.85 1.70 0.65 2.05 0.97 4.12 0.94 3.27 0.97 1.84 0.50 3.04 0.36 4.37 0.72 1.93 1.20 3.03 0.64 2.86 0.97 4.95 1.24 3.12 0.47 2.26 1.14 3.60 0.80 2.68 1.15 3.84 0.85 1.88 0.47 2.04 0.27 2.16 0.30 1.43 0.62 3.49 1.18 2.04 1.03 4.35 1.17 2.39 0.931.40 1.04 1.08 0.48 2.96 1.15 4.54 0.61 1.48 0.59 3.54 1.13 1.25 1.10 2.05 1.24 1.64 0.66 2.94 0.56 4.62 0.69 1.68 0.68 3.37 0.71 4.07 0.48 1.50 1.15 3.78 1.06 4.97 0.35 2.99 0.45 3.21 0.60 1.74 1.18 3.89 0.87 4.84 1.11 1.96 0.64 4.01 1.19 4.19 0.893.59 0.27 3.36 1.17 4.32 0.47 4.63 0.36 3.29 0.55 1.68 0.52 1.27 0.64 3.23 0.75 1.43 0.49 2.47 0.66 3.23 0.70 4.80 1.05 4.25 0.84 4.32 1.00 3.42 0.30 1.25 0.51 1.61 0.82 3.36 0.54 1.88 0.45 4.81 1.18 3.81 1.14 1.94 0.54 1.31 0.75 4.37 0.31 1.69 0.472.75 0.52 4.88 1.07 1.25 0.31 3.44 0.30 2.12 0.44 3.58 0.92 1.68 0.54 1.59 1.17 3.65 1.19 3.07 0.91 4.57 0.44 1.07 0.33 4.95 0.95 4.61 1.19 3.75 0.68 4.66 1.13 4.87 1.00 2.51 0.80 4.03 0.60 2.57 0.55 1.64 0.52 2.24 0.33 2.40 1.14 3.76 0.68 1.93 0.404.48 0.70 1.31 0.67 2.22 0.94 3.50 0.61 3.31 1.19 3.78 0.43 3.54 0.41 2.52 0.84 1.17 1.22 3.33 1.10 1.90 0.80 2.94 0.26 3.60 1.14 3.69 0.99 3.10 0.93 4.68 0.66 3.96 0.29 1.55 0.72 3.34 1.06 1.14 1.24 2.31 0.66 3.09 0.61 3.86 0.76 2.99 1.17 3.11 0.522.41 1.03 1.27 0.53 2.28 0.63 3.53 0.52 2.76 1.12 4.96 0.75 4.87 0.51 1.69 0.74 2.19 0.41 1.76 1.07 2.81 0.90 2.89 0.51 1.04 0.97 1.09 1.12 4.33 0.84 4.48 0.85 4.91 0.30 3.62 0.50 1.58 1.05 1.98 0.68 3.67 0.69 3.01 1.17 1.23 0.36 2.96 1.09 2.54 1.241.22 0.63 1.59 0.43 2.45 0.45 3.56 0.43 1.61 0.97 3.30 0.85 2.71 1.12 2.16 0.37 4.39 0.86 2.90 1.07 4.64 1.17 1.60 1.19 1.80 0.77 1.19 0.85 4.69 0.71 1.29 0.68 4.04 1.10 3.56 0.73 4.51 0.87 4.32 1.18 1.18 0.97 3.68 0.72 4.58 0.92 2.19 1.10 4.91 1.042.14 1.12 3.74 0.43 3.43 0.63 1.62 0.75 1.25 1.17 3.59 0.96 4.17 0.48 4.23 1.01 4.67 0.94 4.85 1.24 3.21 0.98 2.83 0.74 3.30 0.97 1.05 1.18 2.67 0.71 3.71 0.88 3.66 0.52 4.09 1.17 2.62 1.11 3.94 0.43 3.06 0.92 4.07 0.88 4.50 0.65 3.54 0.93 1.76 0.453.96 0.50 4.18 1.20 4.26 1.14 1.62 0.40 2.72 0.91 1.55 0.74 3.87 0.43 2.10 0.40 4.30 0.96 2.49 0.35 3.22 0.63 3.01 0.94 3.85 1.17 2.62 0.36 4.50 0.39 3.59 0.91 3.56 1.11 2.39 0.98 4.62 0.83 1.83 0.66 2.08 0.60 3.67 1.21 2.19 0.97 1.23 1.04 3.26 0.721.73 0.70 3.21 0.28 1.39 0.66 3.21 1.16 2.06 0.52 2.34 1.15 3.97 0.94 1.43 0.96 2.66 1.16 4.78 1.17 1.64 0.51 4.34 0.89 1.12 0.65 2.43 0.84 3.84 1.00 1.74 0.36 4.36 1.05 3.69 1.01 1.19 0.50 4.07 1.18 4.60 0.43 1.98 0.58 3.05 0.90 2.38 0.98 3.30 0.323.07 0.50 2.49 0.39 1.12 0.73 1.42 0.43 2.44 0.39 2.81 0.75 1.24 0.31 3.86 1.19 3.67 1.00 2.42 0.68 4.64 0.80 2.11 0.86 1.81 0.45 2.53 0.36 3.47 0.67 3.25 0.60 4.45 0.76 3.52 0.70 4.68 0.85 1.55 0.88 1.26 0.71 3.12 1.04 2.05 0.30 3.82 1.12 3.05 0.692.03 1.09 3.86 0.55 3.25 0.40 2.62 0.65 1.08 0.66 3.38 1.24 2.54 0.59 1.12 0.40 1.96 0.36 4.99 0.81 1.84 0.81 4.17 0.58 1.08 0.77 2.52 0.90 4.74 0.80 4.71 0.88 1.39 0.69 1.50 0.44 1.01 1.19 3.30 0.48 3.78 1.10 2.06 0.73 2.03 1.08 2.63 0.80 2.19 1.133.42 1.25 1.61 0.75 3.71 1.10 2.54 0.67 1.45 0.41 3.27 0.80 3.07 0.63 3.40 0.85 3.97 1.04 3.05 0.83 1.62 0.81 3.68 0.30 4.46 0.69 4.63 0.81 1.37 0.77 3.38 1.15 1.17 0.72 2.74 0.54 2.64 0.58 2.20 0.38 1.81 0.45 1.73 0.49 1.11 0.54 1.10 0.26 1.86 0.322.85 0.84 1.89 0.81 1.36 1.09 2.61 0.90 3.65 1.07 3.60 0.71 3.61 0.28 4.36 0.82 2.93 0.79 4.83 1.18 2.06 0.41 1.58 0.88 1.98 1.09 1.83 0.86 3.95 0.75 1.16 1.01 1.76 1.13 3.60 0.57 4.65 0.66 1.79 0.63 4.63 0.42 3.90 0.83 2.72 0.63 3.91 0.84 4.97 0.544.15 0.71 2.82 0.47 1.80 0.57 1.60 1.15 4.16 0.96 3.57 0.74 2.17 0.82 3.81 1.09 1.04 1.23 2.38 1.24 4.97 0.92 2.42 1.09 4.98 0.96 1.60 0.94 4.03 0.66 3.64 0.87 1.27 1.17 2.50 0.68 1.86 0.28 2.41 1.02 1.33 0.60 1.19 0.60 4.15 1.05 1.37 0.75 3.81 1.112.24 0.92 1.41 0.36 3.61 0.61 1.14 0.48 4.15 1.11 1.44 0.28 4.60 0.74 2.44 0.55 4.02 1.19 3.93 0.54 1.33 0.79 3.70 0.65 2.60 0.52 1.65 1.18 1.64 0.47 4.36 1.23 2.69 1.19 1.48 1.02 4.33 1.10 2.98 0.85 3.74 0.54 1.34 0.51 1.03 0.66 2.25 0.33 1.98 0.624.68 0.66 1.54 1.05 4.04 0.56 2.65 0.44 2.50 0.82 3.97 0.71 2.38 0.93 4.96 0.46 3.69 0.77 1.27 0.76 1.69 1.21 4.36 0.72 4.03 0.33 2.09 0.69 4.22 1.17 2.35 0.94 4.14 0.54 1.95 1.22 3.24 1.20 1.43 0.43 1.64 0.54 2.03 0.40 4.27 0.81 3.13 0.35 3.94 0.742.16 1.09 2.75 0.60 2.20 0.58 4.25 0.37 3.27 0.26 1.54 0.36 1.45 1.15 1.75 0.89 3.11 0.76 2.52 0.60 1.93 1.09 4.46 1.20 4.74 0.29 3.45 0.77 2.29 0.99 4.90 0.26 1.45 1.22 3.12 0.27 1.97 1.07 1.21 1.12 4.49 0.29 3.56 0.50 1.79 0.47 1.67 1.06 3.28 0.824.02 0.97 3.33 0.49 2.04 1.12 2.10 1.01 3.72 0.46 2.75 1.07 3.68 0.89 3.44 1.02 1.77 0.60 1.64 0.51 1.37 1.24 2.07 1.12 2.39 0.91 3.16 0.26 1.27 0.29 2.98 0.83 1.94 0.59 3.86 1.02 3.93 0.68 1.81 1.02 3.46 0.70 4.39 0.90 3.68 0.91 2.67 0.33 1.84 1.103.89 1.17 3.86 0.56 4.56 0.83 1.37 1.15 2.72 0.40 4.81 0.68 3.76 0.59 2.07 1.08 3.23 0.87 2.71 0.81 2.76 0.28 2.91 0.43 1.03 1.19 4.56 0.92 3.61 0.93 2.09 1.01 4.04 0.67 2.65 1.24 2.33 1.22 3.51 0.46 2.17 0.57 4.31 0.44 3.39 1.21 3.75 0.49 2.62 0.414.29 0.95 3.26 0.90 4.30 0.55 2.90 0.90 4.58 0.89 1.74 0.67 3.92 1.02 4.64 0.54 3.39 0.56 1.02 0.31 1.88 0.26 3.98 0.82 1.67 0.99 1.27 0.54 2.35 0.69 4.30 1.11 1.81 0.85 2.19 0.37 2.99 0.29 1.17 0.76 4.97 0.38 3.95 0.32 3.75 0.53 2.57 0.62 4.99 0.914.83 0.47 1.99 0.40 2.79 1.13 1.97 0.27 4.28 0.57 2.18 0.73 4.79 0.49 3.35 0.82 2.96 0.89 3.54 0.54 4.61 0.88 2.62 1.11 2.24 0.57 4.92 1.10 2.77 0.65 3.87 0.43 3.66 0.99 2.07 0.75 1.76 0.26 3.96 0.86 2.89 1.19 1.79 0.41 3.61 0.54 3.25 0.87 2.24 1.212.75 0.64 2.28 1.04 4.89 0.74 2.74 0.78 3.04 0.42 4.49 0.65 2.91 0.77 1.95 0.39 1.33 0.32 4.12 0.51 1.75 0.42 3.61 1.00 1.86 0.82 1.56 1.15 3.21 0.30 1.58 0.62 1.63 1.16 2.28 1.03 4.72 1.09 4.12 0.87 2.72 0.40 2.18 0.53 3.17 0