Performance and energy consumption tradeoff in server consolidation

Abstract

[eng] Currently, Information Technologies (IT) represents 7% of worldwide emissions of greenhouse gases having an untenable growth in the coming years. One of the main contributors for these emissions are datacenters, for which demand is increasing day after day by users who access services through the Internet. To mitigate this effect, a set of techniques to minimize energy consumption in datacenters was proposed within the Green IT framework. Among the proposed techniques, server consolidation is one of the most widely used. This is based on grouping the maximum number of users (or workload) as possible in the minimum number of physical servers that compose the datacenter. As the workload on the physical servers is consolidated, the amount of workload to be executed by each server increases. Also, more physical servers can be turned off having a saving in power consumption. However, the fact of increasing the workload per physical server causes a performance degradation, affecting the Quality of Service (QoS) offered to the users. Therefore, there is a tradeoff between the power consumption and server performance degradation. Increasing the consolidation degree is not always compensated by energy savings, due to increased response time from servers to users. There is a set of metrics related to the balance between performance and the energy consumed in servers and datacenters, such as PUE, CUE, SWaP, etc. However, none of them reflects the server consolidation behavior. Therefore, to the best of our knowledge, there is no metric that can express this balance based on the number of consolidated servers. The main contribution of this dissertation is a new metric, called CiS^2, which quantifies the tradeoff between performance degradation and energy consumption of server consolidation. This metric allows system’s administrators to know the efficiency of a certain configuration of virtual servers through its simple graphical representation. In addition, the metric allows comparisons between different physical and consolidated servers to determine the most suitable consolidation option in a specific scenario, under intensive CPU workloads. Also, as demonstrated through experimentation, the CiS^2 can be applied to different types of CPU loads with any percentage of utilization. Likewise, it is revealed that CiS^2 can be studied on any type of server and any hypervisor type, and that its values depend on the type on hypervisor, the workload nature and the consolidation degree. In this way, a system’s administrator can know the efficiency of any of the available infrastructure. On the other hand, the observations made of the CiS^2 values lead us to propose the second contribution of this thesis, which focuses on the overhead caused by the server consolidation. There are two types of overhead, one produced by the fact of having a hypervisor, and the other, because of the co-existence of different virtual servers on the same physical server. In addition, a general methodology is proposed to determine these values which is applicable to any type of server, virtualization platform and executed workload. In this way, system’s administrators may know the performance and energy efficiency their systems and be able to carry out actions in this regard, for example, a change in the virtualization hypervisor. To sum up, the completion of this doctoral thesis contributed to an improvement in the management of energy efficiency in datacenters’ servers through the CiS^2 metric. Besides, it contributed to an improvement in the knowledge of virtualized systems through the study of overhead in server consolidation, facilitating management and decision-making for datacenter’s administrators. Also, all these improvements in the management of energy consumption in datacenters contribute to a reduction in the CO2 emissions levels, which is one of the objectives of our society.

[spa] Actualmente, las Tecnologías de la Información y las Comunicaciones (TIC) suponen el 7% de las emisiones de gases de efecto invernadero a la atmosfera, con una previsión de crecimiento insostenible en los próximos años. Uno de los grandes responsables a estas emisiones son los centros de datos, los cuales son más demandados día tras día por los usuarios que acceden a los servicios a través de Internet. Para mitigar este efecto, el marco de las Green IT provee de un conjunto de técnicas para minimizar el consumo de energía por parte de los centros de datos. De entre estas técnicas, la consolidación de servidores a través de la virtualización es una de las más utilizadas. Ésta en basa en agrupar el máximo de usuarios (o carga) posible en el número mínimo de servidores que conforman el centro de datos. A medida que se va consolidando la carga en los servidores físicos, la cantidad de carga a ejecutar por cada uno de ellos aumenta. A su vez, más servidores físicos pueden ser apagados, por lo que se produce un ahorro en el consumo de potencia del centro de datos. Por otra parte, el hecho de incrementar la carga por servidor físico provoca una degradación del rendimiento del mismo, por lo que la calidad del servicio ofrecida a los usuarios podría verse afectada. Por lo tanto, hay un doble juego entre la reducción del consumo de potencia y la degradación del rendimiento de los servidores. No siempre el hecho de consolidar más va a ser mejor, ya que la degradación del rendimiento se ve afectada, y no compensará al ahorro de energía, debido al aumento del tiempo de respuesta de los servidores a los usuarios. Existe un conjunto de métricas relacionadas con el balance entre el rendimiento y la energía consumida en servidores y centros de datos, como por ejemplo son el PUE, CUE, SWaP, entre otras. Sin embargo, ninguna de ellas refleja la consolidación de servidores, es decir, no existe ninguna métrica que pueda expresar dicho equilibrio en función del número de servidores consolidados. Precisamente, la contribución principal de esta tesis es una nueva métrica, llamada CiS^2, la cual mide el balance entre la degradación del rendimiento y el consumo energético de la consolidación de servidores. Esta métrica permite a los administradores de sistemas conocer el rendimiento y la eficiencia energética de una determinada configuración de servidores virtuales a través de su simple representación gráfica. Además, la métrica permite realizar comparaciones entre diferentes servidores físicos y servidores consolidados, para así determinar la opción más adecuada en un escenario específico, bajo cargas intensivas de CPU, para este caso. También, tal y como se demuestra a través de la experimentación, el CiS^2 puede ser aplicado, a diferentes tipos de cargas de CPU bajo cualquier porcentaje de utilización. Asimismo, se revela que el CiS^2 puede ser estudiado en cualquier tipo de servidor y cualquier hipervisor, y que sus valores dependen del tipo de consolidación, la carga ejecutada y el grado consolidación. De esta forma, un administrador de sistemas puede conocer la eficiencia de cualquiera de la infraestructura de la que disponga. Por otra parte, las observaciones realizadas de los valores del CiS^2 llevan a plantear la segunda contribución de esta tesis, la cual se centra en la sobrecarga (overhead) producida por la consolidación de servidores. Existen dos tipos de overhead, uno producido por el hecho de disponer de un hipervisor, y otro, como consecuencia de la co-existencia de diferentes servidores virtuales en un mismo servidor. Además, se propone una metodología general para determinar estos valores aplicables a cualquier tipo de servidor, hipervisor y carga ejecutada. De esta forma, los administradores de sistemas pueden conocer de forma más detallada el origen de la eficiencia de sus sistemas y poder llevar a cabo acciones al respecto, como, un cambio de hipervisor. En definitiva, la realización de esta tesis doctoral contribuye en una mejora de la gestión de la eficiencia energética en los centros de datos a través de la métrica CiS^2. Además, se contribuye con una mejora en el conocimiento de los sistemas virtualizados a través del estudio del overhead en consolidación de servidores, facilitando la gestión y la toma de decisiones a los administradores de los centros de datos. También, todas las mejoras en la gestión del consumo energético en los centros de datos contribuyen a una reducción en los niveles de emisiones de CO2 a la atmósfera, siendo uno de los objetivos que tiene nuestra sociedad.

[cat] Actualment, les Tecnologies de la Informació i les Comunicacions (TIC) suposen el 7% de les emissions de gasos d’efecte hivernacle a l’atmosfera, amb un esperat creixement insostenible als anys pròxims. Un dels principals responsables d’aquestes emissions son els centres de dades, el quals son més demandats dia a dia pels usuaris que accedeixen als serveis a través d’Internet. Per a mitigar aquest efecte, es va proposar dintre del marc de les Green IT un conjunt de tècniques per a minimitzar el consum d’energia per part dels centres de dades. D’entre les tècniques proposades, la consolidació de servidors a través de la virtualització de una de les més utilitzades. Aquesta tècnica es basa en l’agrupació màxima d’usuaris (o càrrega) possible al nombre mínim de servidores que formen part del centre de dades. A mida que es va consolidant més càrrega als servidors físics, la quantitat de càrrega que executa cada un d’ells augmenta. A l’hora, més servidors físics poden ser apagats, per lo que es produeix un estalvi en el consum de potència. Per altra part, el fet d’incremental la càrrega per servidor físic provoca una degradació del rendiment del mateix, per lo que la qualitat del servei oferta als usuaris es podria veure afectada. Per tant, existeix un doble joc entre la reducció del consum de potència i la degradació del rendiment dels servidors. No sempre el fet de tenir un major grau de consolidació serà millor, ja que la degradació del rendiment es veu afectada, i no compensarà a l’estalvi d’energia, degut a l’increment del temps de resposta dels servidor als usuaris. Existeix un conjunt de mètriques relacionades amb el balanç entre el rendiment i l’energia consumida pels servidors i centres de dades, tals com el PUE, CUE, SWaP, entre d’altres. Però, cap d’aquestes mètriques reflexa la consolidació de servidors, és a dir, no existeix cap mètrica que pugui expressar dit equilibri en funció del nombre de servidors consolidats. Precisament, la contribució principal d’aquesta tesis doctoral és una nova mètrica, anomenada CiS^2, la qual mesura el balanç entre la degradació del rendiment i el consum energètic de la consolidació de servidors. Aquesta mètrica permet als administradors de sistemes conèixer el rendiment i la eficiencia energètica d’una determinada configuració dels servidors virtuals a través d’una simple representació gràfica. A més, la mètrica permet realitzar comparacions entre diferents servidors físics i servidors consolidats per a determinar l’opció més adequada en un escenari específic, sota càrregues intensives de CPU, per a aquest cas. També, cal destacar que el CiS^2 pot ser aplicat, tal i com es postra a través de l’experimentació, a diferents tipus de càrrega de CPU sota qualsevol percentatge e d’utilització d’aquesta dispositiu. Així mateix, es revela que el CiS^2 pot ser estudiat en qualsevol tipus de servidor i qualsevol plataforma de virtualització, i que els seus valors depenen del tipus de consolidació, la càrrega executada i el grau de consolidació. D’aquesta forma, un administrador de sistemes podria conèixer l’eficiència de qualsevol infraestructura de la que disposi. Per altra part, les observacions realitzades dels valors dels CiS^2 duen al plantejament de la segona contribució d’aquesta tesi, la qual es focalitza a la sobrecàrrega (overhead) produïda per la consolidació de servidors. Existeixen dos tipus de overhad en consolidación de servidors, un produït pel fet de disposar d’un hipervisor, i un altre, com a conseqüència de la co-existència de diferents servidors virtuals a un mateix servidor. A més, es proposa una metodologia general per a determinar aquests valors aplicables a qualsevol tipus de servidor, plataforma de virtualització i càrrega executada. D’aquesta forma, els administradors de sistemes poden arribar a conèixer de forma més detallada l’origen de l’eficiència dels seus sistemes i poder dur a terme accions als respecte, com per exemple, un canvi de la plataforma de virtualització. En definitiva, la realització d’aquesta tesis doctoral contribueix en una millor en quant a la gestió de l’eficiència energètica als centres de dades a través de la mètrica CiS^2. A més, es contribueix amb una millora del coneixement dels sistemes virtualitats a través de l’estudi del overhead, facilitant la gestió i la presa de decisions dels administradors dels centres de dades. També, totes les millores en la gestió del consum energètic contribueixen a una reducció als nivells d’emissió de CO2 a l’atmosfera, sent un dels principals objectius de la nostra societat.