Evaluating dynamic load balancing of ECM workload pattern employed in cloud environments managed by a Kubernetes/Docker eco-system

Abstract

The transition to cloud-based ECM solutions requires adaptation and enhancements for dynamic cloud environment. Cloud computing and containerization offer key concepts to create solutions for this task. They also open new opportunities to benefit from cloud usage by leveraging the pay-as-you-go model. Cloud users and providers both benefit from the increased efficiency of dynamic applications. But legacy applications are not yet able to leverage the benefits provided by cloud orchestration. This thesis, therefore researches the feasibility of a dynamic load balancing approach applied to an ECM application deployed into a cloud environment. To evaluate the approach, a prototype using open-source software is created on a Kubernetes orchestrated cluster. Previous work included the port of the containerized ECM application into the Kubernetes environment. The present prototype builds up on this approach by enhancing the ECM application components with metrics export capabilities. A monitoring system based on Prometheus is introduced to gather these metrics from the ECM application and other system components. Information provided by these metrics are used to add elasticity to application components. The prototype proves that dynamic load balancing of the ECM application in the cloud is feasible. Two major challenges for an efficient deployment of the application were identified, (1) the generation of useful metrics and (2) removing dependencies from individual components. Further research into optimizations of stateful service components is required. This further ensures an efficient usage in cloud based elastic topologies, especially considering stateful database applications.

Der Übergang zu Cloud-basierten ECM-Lösungen erfordert Adaptionen und Erweiterungen für die dynamische Cloud-Umgebung. Cloud-Computing und Containerisierung bieten Schlüsselkonzepte zur Erstellung von Lösungen für diese Aufgaben an. Sie öffnen zudem neue Möglichkeiten, um von Cloud-basierten Lösungen durch die Nutzung des ''pay-as-you-go''-Modells zu profitieren. Cloud Nutzer und Anbieter profitieren gleichermaßen von der erhöhten Effizienz dynamischer Applikationen. Doch ältere Applikationen sind noch nicht in der Lage, die Vorteile der orchestrierten Cloud voll auszuschöpfen. Diese Arbeit untersucht daher die Möglichkeit eines Ansatzes zur dynamischen Lastverteilung einer ECM-Applikation in der Cloud. Zur Evaluation des Ansatzes erstellen wir einen Prototyp auf Basis quelloffener Software in einem von Kubernetes orchestrierten Cluster. Vorherige Arbeiten untersuchten die Übertragung der ECM-Applikation in die Kubernetes Umgebung. Der Prototyp baut auf diesen Ansatz auf und erweitert die Komponenten der Applikation mit Fähigkeiten zum Export von Metriken. Ein Monitoring-System basierend auf Prometheus wird eingeführt, um die Metriken der ECM-Applikation und anderer Systemkomponenten zu sammeln. Informationen, die aus diesen Metriken extrahiert werden können, werden genutzt, um die Komponenten der Applikation mit Elastizität auszustatten. Der Prototyp zeigt die Möglichkeit der dynamischen Lastverteilung für ECM-Applikation in der Cloud. Die folgenden zwei vorwiegenden Herausforderungen für einen effizienten Einsatz konnten identifiziert werden. Die Generierung von nützlichen Metriken (1) sowie die Reduktion von Abhängigkeiten zwischen einzelnen Komponenten (2). Weitere Forschung wird benötigt, um den Einsatz von Zustands-behafteten Diensten zu optimieren. Diese führen zu einer effizienten Nutzung in Cloud-basierten elastischen Topologien, vor allem in Betracht von Zustands-behafteten Datenbank-Applikationen.