High Performance Computing (HPC) has become an indispensable tool for the scientific community to perform simulations on models whose complexity would exceed the limits of a standard computer. An unfortunate trend concerning HPC systems is that their power consumption under high-demanding workloads increases. To counter this trend, hardware vendors have implemented power saving mechanisms in recent years, which has increased the variability in power demands of single nodes. These capabilities provide an opportunity to increase the energy efficiency of HPC applications. To utilize these hardware power saving mechanisms efficiently, their overhead must be analyzed. Furthermore, applications have to be examined for performance and energy efficiency issues, which can give hints for optimizations. This requires an infrastructure that is able to capture both, performance and power consumption information concurrently. The mechanisms that such an infrastructure would inherently support could further be used to implement a tool that is able to do both, measuring and tuning of energy efficiency. This thesis targets all steps in this process by making the following contributions: First, I provide a broad overview on different related fields. I list common performance measurement tools, power measurement infrastructures, hardware power saving capabilities, and tuning tools. Second, I lay out a model that can be used to define and describe energy efficiency tuning on program region scale. This model includes hardware and software dependent parameters. Hardware parameters include the runtime overhead and delay for switching power saving mechanisms as well as a contemplation of their scopes and the possible influence on application performance. Thus, in a third step, I present methods to evaluate common power saving mechanisms and list findings for different x86 processors. Software parameters include their performance and power consumption characteristics as well as the influence of power-saving mechanisms on these. To capture software parameters, an infrastructure for measuring performance and power consumption is necessary. With minor additions, the same infrastructure can later be used to tune software and hardware parameters. Thus, I lay out the structure for such an infrastructure and describe common components that are required for measuring and tuning. Based on that, I implement adequate interfaces that extend the functionality of contemporary performance measurement tools. Furthermore, I use these interfaces to conflate performance and power measurements and further process the gathered information for tuning. I conclude this work by demonstrating that the infrastructure can be used to manipulate power-saving mechanisms of contemporary x86 processors and increase the energy efficiency of HPC applications.

Optimierungsaufgaben unter Partiellen Differentialgleichungen (PDGLs) tauchen in verschiedensten Anwendungen der Wissenschaft und Technik auf. Wenn wir ein PDGL Problem formulieren, kann es aufgrund seiner Größe unmöglich werden, das Problem mit konventionellen Methoden zu lösen. Zusätzlich noch eine Optimierung auszuführen birgt zusätzliche Schwierigkeiten. In vielen Fällen können wir das PDGL Problem in einem kompakteren Format formulieren indem wir der zugrundeliegenden Kronecker-Produkt Struktur zwischen Raum- und Zeitdimension Aufmerksamkeit schenken. Wenn die PDGL zusätzlich mit Isogeometrischer Analysis diskretisiert wurde, können wir zusätlich eine Niedrig-Rang Approximation zwischen den einzelnen Raumdimensionen erzeugen. Diese Niedrig-Rang Approximation lässt uns die Systemmatrizen schnell und speicherschonend aufstellen. Das folgende PDGL-Problem lässt sich als Summe aus Kronecker-Produkten beschreiben, welche als eine Niedrig-Rang Tensortrain Formulierung interpretiert werden kann. Diese kann effizient im Niedrig-Rang Format gelöst werden. Wir illustrieren dies mit unterschiedlichen, anspruchsvollen Beispielproblemen.:Introduction Tensor Train Format Isogeometric Analysis PDE-constrained Optimization Bayesian Inverse Problems A low-rank tensor method for PDE-constrained optimization with Isogeometric Analysis A low-rank matrix equation method for solving PDE-constrained optimization problems A low-rank tensor method to reconstruct sparse initial states for PDEs with Isogeometric Analysis Theses and Summary Bibilography / Optimization problems governed by Partial Differential Equations (PDEs) arise in various applications of science and engineering. If we formulate a discretization of a PDE problem, it may become infeasible to treat the problem with conventional methods due to its size. Solving an optimization problem on top of the forward problem poses additional difficulties. Often, we can formulate the PDE problem in a more compact format by paying attention to the underlying Kronecker product structure between the space and time dimension of the discretization. When the PDE is discretized with Isogeometric Analysis we can additionally formulate a low-rank representation with Kronecker products between its individual spatial dimensions. This low-rank formulation gives rise to a fast and memory efficient assembly for the system matrices. The PDE problem represented as a sum of Kronecker products can then be interpreted as a low-rank tensor train formulation, which can be efficiently solved in a low-rank format. We illustrate this for several challenging PDE-constrained problems.:Introduction Tensor Train Format Isogeometric Analysis PDE-constrained Optimization Bayesian Inverse Problems A low-rank tensor method for PDE-constrained optimization with Isogeometric Analysis A low-rank matrix equation method for solving PDE-constrained optimization problems A low-rank tensor method to reconstruct sparse initial states for PDEs with Isogeometric Analysis Theses and Summary Bibilography

Es wird das Software Framework JStatCom vorgestellt, welches die Enwicklung von leistungsfähigen grafischen Benutzerschnittstellen für Daten-basierte Analysemethoden wesentlich vereinfacht, wobei der Schwerpunkt auf Methoden der Ökonometrie, insbesondere der Zeitreihenanalyse liegt. Das Konzept besteht darin, sämtliche wiederkehrenden Aufgaben mit Hilfe von Java-Klassen zu lösen, sowie die Ausführung von speziellen Algorithmen an externe Programme, wie z.B. Gauss oder Matlab, zu delegieren. Auf diese Weise können schon existierende Prozeduren aus verschiedenen Programmiersprachen wiederverwendet werden. Weiterhin wird die ökonometrische Anwendungssoftware JMulTi beschrieben, die auf Basis dieses Frameworks erstellt wurde. / This work presents the software framework JStatCom which is geared towards the development of powerful graphical user interfaces for data based analysis methods, especially for econometrics and time series analysis. The concept is to solve all recurring tasks with the help of Java classes and to delegate the execution of special algorithms to external programs, for example Gauss or Matlab. This way it is possible to reuse already existing procedures written in different programming languages. Furthermore, the econometric software JMulTi will be presented which has been developed with the help of this framework.

Vernetzte Standardarbeitsplatzrechner (sog. Cluster) sind eine attraktive Umgebung zur Ausf"uhrung paralleler Programme; f"ur einige Anwendungsgebiete bestehen jedoch noch immer ungel"oste Probleme. Ein solches Problem ist die Verl"asslichkeit und Rechtzeitigkeit der Programmausf"uhrung: In vielen Anwendungen ist es wichtig, sich auf die rechtzeitige Fertigstellung eines Programms verlassen zu k"onnen. Mechanismen zur Kombination dieser Eigenschaften f"ur parallele Programme in verteilten Rechenumgebungen sind das Hauptanliegen dieser Arbeit. Zur Behandlung dieses Anliegens ist eine gemeinsame Metrik f"ur Verl"asslichkeit und Rechtzeitigkeit notwendig. Eine solche Metrik ist die Responsivit"at, die f"ur die Bed"urfnisse dieser Arbeit verfeinert wird. Als Fallstudie werden Calypso und Charlotte, zwei Systeme zur parallelen Programmierung, im Hinblick auf Responsivit"at untersucht und auf mehreren Abstraktionsebenen werden Ansatzpunkte zur Verbesserung ihrer Responsivit"at identifiziert. L"osungen f"ur diese Ansatzpunkte werden zu allgemeineren Mechanismen f"ur (parallele) responsive Dienste erweitert. Im Einzelnen handelt es sich um 1. eine Analyse der Responsivit"at von Calypsos ``eager scheduling'' (ein Verfahren zur Lastbalancierung und Fehlermaskierung), 2. die Behebung eines ``single point of failure,'' zum einen durch eine Responsivit"atsanalyse von Checkpointing, zum anderen durch ein auf Standardschnittstellen basierendes System zur Replikation bestehender Software, 3. ein Verfahren zur garantierten Ressourcenzuteilung f"ur parallele Programme und 4.die Einbeziehung semantischer Information "uber das Kommunikationsmuster eines Programms in dessen Ausf"uhrung zur Verbesserung der Leistungsf"ahigkeit. Die vorgeschlagenen Mechanismen sind kombinierbar und f"ur den Einsatz in Standardsystemen geeignet. Analyse und Experimente zeigen, dass diese Mechanismen die Responsivit"at passender Anwendungen verbessern. / Clusters of standard workstations have been shown to be an attractive environment for parallel computing. However, there remain unsolved problems to make them suitable to some application scenarios. One of these problems is a dependable and timely program execution: There are many applications in which a program should be successfully completed at a predictable point of time. Mechanisms to combine the properties of both dependable and timely execution of parallel programs in distributed computing environments are the main objective of this dissertation. Addressing these properties requires a joint metric for dependability and timeliness. Responsiveness is such a metric; it is refined for the purposes of this work. As a case study, Calypso and Charlotte, two parallel programming systems, are analyzed and their shortcomings on several abstraction levels with regard to responsiveness are identified. Solutions for them are presented and generalized, resulting in widely applicable mechanisms for (parallel) responsive services. Specifically, these solutions are: 1) a responsiveness analysis of Calypso's eager scheduling (a mechanism for load balancing and fault masking), 2) ameliorating a single point of failure by a responsiveness analysis of checkpointing and by a standard interface-based system for replication of legacy software, 3) managing resources in a way suitable for parallel programs, and 4) using semantical information about the communication pattern of a program to improve its performance. All proposed mechanisms can be combined and are suitable for use in standard environments. It is shown by analysis and experiments that these mechanisms improve the responsiveness of eligible applications.

Obwohl das Angebot von Feedback in Lehr-Lernsituationen eine wichtige instruktionale Maßnahme darstellt,um Lernende in ihrem Lernprozess zu unterstützen, wird dessen Potenzial in multimedialen Lernumgebungen nur selten optimal genutzt. Feedback, welches in aller Regel im Anschluss an die Bearbeitung von Lernaufgaben bereitgestellt wird und den Lerner über die Qualität seiner Aufgabenbearbeitung informiert, beschränkt sich häufig auf die Bereitstellung einer richtig/falsch Rückmeldung mit einem sich anschließenden, zusätzlichen Lösungsversuch bzw. der Präsentation der richtigen Lösung. Als prototypisch für diese Art der Feedbackgestaltung erweist sich das in mathematischer Grundschulsoftware implementierte Feedback. Der Lerner erhält weder Informationen zu dem Ort und der Art des Fehlers noch einen Hinweis auf die korrekte Lösungsstrategie. Vor diesem Hintergrund bestand ein zentrales Ziel der vorliegenden Arbeit in der Entwicklung von fehlerspezifischem informativem tutoriellem Feedback (ITF) für die schriftliche Subtraktion auf der Grundlage des heuristischen Feedbackmodells von Narciss (2004) und der aus diesem Modell abgeleiteten Gestaltungsprinzipien für ITF. Obwohl allgemein erwartet wird, dass informatives Feedback lernwirksamer ist als Feedback, welches nur die richtige Lösung präsentiert, konnte diese Annahme durch die Ergebnisse der empirischen Feedbackforschung bisher nicht bestätigt werden. So ist die Feedbackforschung durch eine inkonsistente Befundlage gekennzeichnet. Vor diesem empirischen Hintergrund bestand ein weiteres zentrales Ziel der vorliegenden Arbeit in der Überprüfung der Effektivität des entwickelten fehlerspezifischen ITFs hinsichtlich verschiedener Lern- und motivationaler Parameter. Fehlerspezifisches ITF zeichnet sich dadurch aus, dass bei fehlerhaften Aufgabenlösungen Informationen angeboten werden, die auf der Grundlage einer kognitiven Anforderungs- und Fehleranalyse als korrekturrelevant identifiziert worden waren. Diese korrekturrelevanten Informationen werden dem Lernenden ohne Bekanntgabe der korrekten Lösung präsentiert, so dass sich dieser dazu aufgefordert sieht, die bereitgestellten strategischen Informationen in einem erneuten Lösungsversuch unmittelbar anzuwenden. In zwei Studien mit Viertklässlern wurde dieses computergestützte ITF im Hinblick auf seine Lern- und motivationale Wirksamkeit evaluiert. In der ersten Studie (N = 30) erfolgte diese Evaluation gegen eine Feedbackbedingung, welche das üblicherweise in mathematischer Lernsoftware realisierte Knowledge of Response und Knowledge of Correct Response (KR-KCR) Feedback präsentierte. In der zweiten Studie (N = 105) wurden zwei zusätzliche Feedbackbedingungen "Knowledge about Mistake (KR-KM) und Knowledge on How to proceed (KR-KH)" aufgenommen. Diese sind in ihrem Informationsgehalt zwischen dem ITF und dem KR-KCR Feedbackalgorithmus anzusiedeln. Die Ergebnisse beider Studien bestätigen die postulierte Lern- und motivationale Wirksamkeit des fehlerspezifischen ITFs für die schriftliche Subtraktion. Besonders im Vergleich zu der wenig informativen KR-KCR Feedbackbedingung konnten in beiden Studien signifikante Wirksamkeitsunterschiede nachgewiesen werden. Auch im Vergleich zu den komplexeren Feedbackformen Knowledge about mistake (KR-KM) und Knowledge on how to proceed (KR-KH) konnten für die Schüler der ITF Bedingung bessere Leistungen beobachtet werden, auch wenn diese Unterschiede nur partiell signifikant wurden. Die Ergebnisse der vorliegenden Untersuchungen zeigen, dass es möglich ist, auf der Grundlage des von Narciss (2004) vorgestellten Feedbackmodells und der aus diesem Feedbackmodell abgeleiteten Gestaltungsprinzipien lern- und motivationsförderliches ITF zu entwickeln. So liefern die Ergebnisse beider Studien erste empirische Belege für die Annahme, dass informatives Feedback nicht nur den Lernprozess unterstützt, sondern auch motivationsförderlich wirkt. / Feedback is considered to be an important factor to promote learning and motivation with computer-based training tools. However the findings of studies on the effectiveness of feedback are rather inconsistent. One reason for these inconsistent findings might be that the implementation of feedback is more based on intuition than on well-founded design principles. Therefore the aims of the present work was (1) to develop theoretical well-founded elaborated feedback forms for a procedural skill like the written subtraction, (2) to implement them in an adaptive feedback algorithm that induces the mindful processing of feedback, and (3) to evaluate this elaborated feedback regarding his impact on learning and motivation. Using results from prior feedback research and from cognitive task and error analysis of written subtraction tasks, information relevant to the correction of typical systematic errors (e.g. location of error, source of error, type of error and hints to the correct solution strategy) were selected. This information was used to design different types of bug-related feedback messages. These different feedback messages were arranged in an adaptive bug-related algorithm presenting three levels of feedback with increasing informational value to support the learner in finding the correct solution on his own. Because the developed feedback allows assisted multiple response attempts for an item by providing relevant information for error correction, but no immediate Knowledge of Correct Response (KCR) feedback, and by encouraging the learner to apply the corrective information to a further attempt, this kind of feedback was called bug-related "informative tutoring feedback (ITF)". In two computer-based learning experiments cognitive and motivational effects of this bug-related ITF were evaluated with forth-grade students with difficulties in written subtraction. In the first study (N=30) the bug-related ITF was compared to the effects of a standard Knowledge of Result-Knowledge of Correct Response feedback (KR-KCR) algorithm. In the second study (N=105) two additional feedback algorithms - Knowledge about Mistake (KR-KM) und Knowledge on How to proceed (KR-KH) - were implemented. These both feedback algorithms range between the bug-related ITF and the simple KR-KCR feedback regarding to their amount of information. In both studies significant positive effects of the bug-related ITF compared to the KR-KCR feedback could be found. Regarding to the more informative KR-KM and KR-KH feedback a positive effect of the bug-related ITF could be showed sporadic. These results are discussed in detail.

The broadcast function MPI_Bcast() from the MPI-1.1 standard is one of the most heavily used collective operations for the message passing programming paradigm. This diploma thesis makes use of a feature called "Multicast", which is supported by several network technologies (like Ethernet or InfiniBand), to create an efficient MPI_Bcast() implementation, especially for large communicators and small-sized messages. A preceding analysis of existing real-world applications leads to an algorithm which does not only perform well for synthetical benchmarks but also even better for a wide class of parallel applications. The finally derived broadcast has been implemented for the open source MPI library "Open MPI" using IP multicast. The achieved results prove that the new broadcast is usually always better than existing point-to-point implementations, as soon as the number of MPI processes exceeds the 8 node boundary. The performance gain reaches a factor of 4.9 on 342 nodes, because the new algorithm scales practically independently of the number of involved processes. / Die Broadcastfunktion MPI_Bcast() aus dem MPI-1.1 Standard ist eine der meistgenutzten kollektiven Kommunikationsoperationen des nachrichtenbasierten Programmierparadigmas. Diese Diplomarbeit nutzt die Multicastfähigkeit, die von mehreren Netzwerktechnologien (wie Ethernet oder InfiniBand) bereitgestellt wird, um eine effiziente MPI_Bcast() Implementation zu erschaffen, insbesondere für große Kommunikatoren und kleinere Nachrichtengrößen. Eine vorhergehende Analyse von existierenden parallelen Anwendungen führte dazu, dass der neue Algorithmus nicht nur bei synthetischen Benchmarks gut abschneidet, sondern sein Potential bei echten Anwendungen noch besser entfalten kann. Der letztendlich daraus entstandene Broadcast wurde für die Open-Source MPI Bibliothek "Open MPI" entwickelt und basiert auf IP Multicast. Die erreichten Ergebnisse belegen, dass der neue Broadcast üblicherweise immer besser als jegliche Punkt-zu-Punkt Implementierungen ist, sobald die Anzahl von MPI Prozessen die Grenze von 8 Knoten überschreitet. Der Geschwindigkeitszuwachs erreicht einen Faktor von 4,9 bei 342 Knoten, da der neue Algorithmus praktisch unabhängig von der Knotenzahl skaliert.

High Performance Computing (HPC) has become an indispensable tool for the scientific community to perform simulations on models whose complexity would exceed the limits of a standard computer. An unfortunate trend concerning HPC systems is that their power consumption under high-demanding workloads increases. To counter this trend, hardware vendors have implemented power saving mechanisms in recent years, which has increased the variability in power demands of single nodes. These capabilities provide an opportunity to increase the energy efficiency of HPC applications. To utilize these hardware power saving mechanisms efficiently, their overhead must be analyzed. Furthermore, applications have to be examined for performance and energy efficiency issues, which can give hints for optimizations. This requires an infrastructure that is able to capture both, performance and power consumption information concurrently. The mechanisms that such an infrastructure would inherently support could further be used to implement a tool that is able to do both, measuring and tuning of energy efficiency. This thesis targets all steps in this process by making the following contributions: First, I provide a broad overview on different related fields. I list common performance measurement tools, power measurement infrastructures, hardware power saving capabilities, and tuning tools. Second, I lay out a model that can be used to define and describe energy efficiency tuning on program region scale. This model includes hardware and software dependent parameters. Hardware parameters include the runtime overhead and delay for switching power saving mechanisms as well as a contemplation of their scopes and the possible influence on application performance. Thus, in a third step, I present methods to evaluate common power saving mechanisms and list findings for different x86 processors. Software parameters include their performance and power consumption characteristics as well as the influence of power-saving mechanisms on these. To capture software parameters, an infrastructure for measuring performance and power consumption is necessary. With minor additions, the same infrastructure can later be used to tune software and hardware parameters. Thus, I lay out the structure for such an infrastructure and describe common components that are required for measuring and tuning. Based on that, I implement adequate interfaces that extend the functionality of contemporary performance measurement tools. Furthermore, I use these interfaces to conflate performance and power measurements and further process the gathered information for tuning. I conclude this work by demonstrating that the infrastructure can be used to manipulate power-saving mechanisms of contemporary x86 processors and increase the energy efficiency of HPC applications.

In algorithmic computing, the program follows a predefined set of rules – the algorithm. The analyst/designer of the program analyzes the intended tasks of the program, defines the rules for its expected behaviour and programs the implementation. The creators of algorithmic software must therefore foresee, identify and implement all possible cases for its behaviour in the future application! However, what if the problem is not fully defined? Or the environment is uncertain? What if situations are too complex to be predicted? Or the environment is changing dynamically? In many such cases algorithmic computing fails. In such situations, the software needs an additional degree of freedom: Autonomy! Autonomy allows software to adapt to partially defined problems, to uncertain or dynamically changing environments and to situations that are too complex to be predicted. As more and more applications – such as autonomous cars and planes, adaptive power grid management, survivable networks, and many more – fall into this category, a gradual switch from algorithmic computing to autonomic computing takes place. Autonomic computing has become an important software engineering discipline with a rich literature, an active research community, and a growing number of applications.:Introduction 5 1 A Process Data Based Autonomic Optimization of Energy Efficiency in Manufacturing Processes, Daniel Höschele 9 2 Eine autonome Optimierung der Stabilität von Produktionsprozessen auf Basis von Prozessdaten, Richard Horn 25 3 Assuring Safety in Autonomous Systems, Christian Rose 41 4 MAPE-K in der Praxis - Grundlage für eine mögliche automatische Ressourcenzuweisung, in der Cloud Michael Schneider 59

Die Handreichung wendet sich an alle Lehrkräfte, die im Anfangsunterricht im Fach Mathematik unterrichten. Sie greift die Aussagen der „Handreichung für den Anfangsunterricht in der Grundschule“, SMK 2012 auf, ergänzt sie mit dem Blick auf einen guten Mathematikunterricht, der die Voraussetzung für das Rechnen lernen und das Vorbeugen von Schwierigkeiten beim Rechnen lernen ist. Angelehnt an die Broschüre „Schwierigkeiten beim Erlernen des Rechnens - Empfehlungen zur Förderung von Schülern“, SMK 2007, 2010, werden weitere Ursachen und Risikofaktoren sowie externe Unterstützungsmöglichkeiten bei besonderen Rechenschwierigkeiten aufgezeigt. Die „Grundsätze zur Förderung von Schülerinnen und Schülern mit besonderen Schwierigkeiten im Lesen und Rechtschreiben oder im Rechnen“ verweisen darauf, bei Schülern mit besonderen Rechenschwierigkeiten die pädagogischen Möglichkeiten in der Schule durch differenzierte Förderung und Beratung auszuschöpfen. Redaktionsschluss: 05.03.2020

Nowadays, our daily live concerns the usage of Information Technology, increasingly. As a result, a huge amount of data has to be processed which is outsourced from local devices to data centers. Due to fluctuating demands these are not fully utilized all the time and consume a significant amount of energy while idling. A common approach to avoid unnecessary idle times is to consolidate running services on a subset of machines and switch off the remaining ones. Unfortunately, the services on a single machine interfere with each other due to the competition for shared resources such as caches after the consolidation, which leads to a degradation of performance. Hence, data centers have to trade off between reducing the energy consumption and certain performance criteria defined in the Service Level Agreement. In order to make the trade off in advance, it is necessary to characterize services and quantify the impact to each other after a potential consolidation. Our approach is to use random variables for characterization, which includes the fluctuations of the resource consumptions. Furthermore, we would like to model the interference of services to provide a probability of exceeding a certain performance criterion.