In dieser Arbeit werden Techniken beschrieben, die es erlauben (höhere) Ableitungen und Taylorapproximationen solcher Computerprogramme effizient zu berechnen. Auch inbesondere dann, wenn die Programme Algorithmen der numerischen linearen Algebra (NLA) enthalten. Im Gegensatz zur traditionellen algorithmischen Differentiation (AD), bei der die zugrunde liegenden Algorithmen um zusätzliche Befehlere erweitert werden, sind in dieser Arbeit die Zerlegungen durch definierende Gleichungen charakterisiert. Basierend auf den definierenden Gleichungen werden Strukturausnutzende Algorithmen hergeleitet. Genauer, neuartige Algorithmen für die Propagation von Taylorpolynomen durch die QR, Cholesky und reell-symmetrischen Eigenwertzerlegung werden präsentiert. Desweiteren werden Algorithmen für den Rückwärtsmodus der AD hergeleitet, welche im Wesentlichen nur die Faktoren der Zerlegungen benötigen. Im Vergleich zum traditionellen Ansatz, bei dem alle Zwischenergebnisse gespeichert werden, ist dies eine Reduktion von O(N^3) zu O(N^2) für Algorithmen mit O(N^3) Komplexität. N ist hier die Größe der Matrix. Zusätzlich kann bestehende, hoch-optimierte Software verwendet werden. Ein Laufzeitvergleich zeigt, dass dies im Vergleich zum traditionellen Ansatz zu einer Beschleunigung in der Größenordnung 100 führen kann. Da die NLA Funktionen als Black Box betrachtet werden, ist desweiteren auch der Berechnungsgraph um Größenordnungen kleiner. Dies bedeutet, dass Software, welche Operator Overloading benutzt, weniger Overhead hervorruft und auch weniger Speicher benötigt. / This thesis provides a framework for the evaluation of first and higher-order derivatives and Taylor series expansions through large computer programs that contain numerical linear algebra (NLA) functions. It is a generalization of traditional algorithmic differentiation (AD) techniques in that NLA functions are regarded as black boxes where the inputs and outputs are related by defining equations. Based on the defining equations, structure-exploiting algorithms are derived. More precisely, novel algorithms for the propagation of Taylor polynomials through the QR, Cholesky,- and real-symmetric eigenvalue decomposition are shown. Recurrences for the reverse mode of AD, which require essentially only the returned factors of the decomposition, are also derived. Compared to the traditional approach where all intermediates of an algorithm are stored, this is a reduction from O(N^3) to O(N^2) for algorithms with O( N^3) complexity. N denotes the matrix size. The derived algorithms make it possible to use existing high-performance implementations. A runtime comparison shows that the treatment of NLA functions as atomic can be more than one order of magnitude faster than an automatic differentiation of the underlying algorithm. Furthermore, the computational graph is orders of magnitudes smaller. This reduces the additional memory requirements, as well as the overhead, of operator overloading techniques to a fraction.

Zuweilen wird gefördertes Erdgas als eine Brückentechnologie noch eine Weile erhalten bleiben, aber unsere Gasnetzinfrastruktur hat auch in einer Ära post-fossiler Brennstoffe eine Zukunft, um Klima-neutral erzeugtes Methan, Ammoniak oder Wasserstoff zu transportieren. Damit die Dispatcher der Zukunft, in einer sich fortwährend dynamisierenden Marktsituation, mit sich beständig wechselnden Kleinstanbietern, auch weiterhin einen sicheren Gasnetzbetrieb ermöglichen und garantieren können, werden sie auf moderne, schnelle Simulations- sowie performante Optimierungstechnologie angewiesen sein. Der Schlüssel dazu liegt in einem besseren Verständnis zur numerischen Behandlung nicht differenzierbarer Funktionen und diese Arbeit möchte einen Beitrag hierzu leisten. Wir werden stückweise differenzierbare Funktionen in sog. Abs-Normalen Form betrachten. Durch einen Prozess, der Abs-Linearisierung genannt wird, können wir stückweise lineare Approximationsmodelle erster Ordnung, mittels Techniken der algorithmischen Differentiation erzeugen. Jene Modelle können über Matrizen und Vektoren mittels gängiger Software-Bibliotheken der numerischen linearen Algebra auf Computersystemen ausgedrückt, gespeichert und behandelt werden. Über die Generalisierung der Formel von Faà di Bruno können auch Splinefunktionen höherer Ordnung generiert werden, was wiederum zu Annäherungsmodellen mit besserer Güte führt. Darauf aufbauend lassen sich gemischte Taylor-Kollokationsmethoden, darunter die mit Ordnung zwei konvergente generalisierte Trapezmethode, zur Integration von Gasnetzen, in Form von nicht glatten Algebro-Differentialgleichungssystemen, definieren. Numerische Experimente demonstrieren das Potential. Da solche implizite Integratoren auch nicht lineare und in unserem Falle zugleich auch stückweise differenzierbare Gleichungssysteme erzeugen, die es als Unterproblem zu lösen gilt, werden wir uns auch die stückweise differenzierbare, sowie die stückweise lineare Newtonmethode betrachten. / As of yet natural gas will remain as a bridging technology, but our gas grid infrastructure does have a future in a post-fossil fuel era for the transportation of carbon-free produced methane, ammonia or hydrogen. In order for future dispatchers to continue to enable and guarantee safe gas network operations in a continuously changing market situation with constantly switching micro-suppliers, they will be dependent on modern, fast simulation as well as high-performant optimization technology. The key to such a technology resides in a better understanding of the numerical treatment of non-differentiable functions and this work aims to contribute here. We will consider piecewise differentiable functions in so-called abs-normal form. Through a process called abs-linearization, we can generate piecewise linear approximation models of order one, using techniques of algorithmic differentiation. Those models can be expressed, stored and treated numerically as matrices and vectors via common software libraries of numerical linear algebra. Generalizing the Faà di Bruno's formula yields higher order spline functions, which in turn leads to even higher order approximation models. Based on this, mixed Taylor-Collocation methods, including the generalized trapezoidal method converging with an order of two, can be defined for the integration of gas networks represented in terms of non-smooth system of differential algebraic equations. Numerical experiments will demonstrate the potential. Since those implicit integrators do generate non-linear and, in our case, piecewise differentiable systems of equations as sub-problems, it will be necessary to consider the piecewise differentiable, as well as the piecewise linear Newton method in advance.