The present thesis deals with optimisation problems with sparsity terms, either in the constraints which lead to cardinality-constrained problems or in the objective function which in turn lead to sparse optimisation problems. One of the primary aims of this work is to extend the so-called sequential optimality conditions to these two classes of problems. In recent years sequential optimality conditions have become increasingly popular in the realm of standard nonlinear programming. In contrast to the more well-known Karush-Kuhn-Tucker condition, they are genuine optimality conditions in the sense that every local minimiser satisfies these conditions without any further assumption. Lately they have also been extended to mathematical programmes with complementarity constraints. At around the same time it was also shown that optimisation problems with sparsity terms can be reformulated into problems which possess similar structures to mathematical programmes with complementarity constraints. These recent developments have become the impetus of the present work. But rather than working with the aforementioned reformulations which involve an artifical variable we shall first directly look at the problems themselves and derive sequential optimality conditions which are independent of any artificial variable. Afterwards we shall derive the weakest constraint qualifications associated with these conditions which relate them to the Karush-Kuhn-Tucker-type conditions. Another equally important aim of this work is to then consider the practicability of the derived sequential optimality conditions. The previously mentioned reformulations open up the possibilities to adapt methods which have been proven successful to handle mathematical programmes with complementarity constraints. We will show that the safeguarded augmented Lagrangian method and some regularisation methods may generate a point satisfying the derived conditions. / Die vorliegende Arbeit beschäftigt sich mit Optimierungsproblemen mit dünnbesetzten Termen, und zwar entweder in der Restriktionsmenge, was zu kardinalitätsrestringierten Problemen führen, oder in der Zielfunktion, was zu Optimierungsproblemen mit dünnbesetzten Lösungen führen. Die Herleitung der sogenannten sequentiellen Optimalitätsbedingungen für diese Problemklassen ist eines der Hauptziele dieser Arbeit. Im Bereich der nichtlinearen Optimierung gibt es in jüngster Zeit immer mehr Interesse an diesen Bedingungen. Im Gegensatz zu der mehr bekannten Karush-Kuhn-Tucker Bedingung sind diese Bedingungen echte Optimalitätsbedingungen. Sie sind also in jedem lokalen Minimum ohne weitere Voraussetzung erfüllt. Vor Kurzem wurden solche Bedingungen auch für mathematische Programme mit Komplementaritätsbedingungen hergeleitet. Zum gleichen Zeitpunkt wurde es auch gezeigt, dass Optimierungsproblemen mit dünnbesetzten Termen sich als Problemen, die ähnliche Strukturen wie mathematische Programme mit Komplementaritätsbedingungen besitzen, umformulieren lassen. Diese jüngsten Entwicklungen motivieren die vorliegende Arbeit. Hier werden wir zunächst die ursprunglichen Problemen direkt betrachten anstatt mit den Umformulierungen, die eine künstliche Variable enthalten, zu arbeiten. Dies ermöglicht uns, um Optimalitätsbedingungen, die von künstlichen Variablen unabhängig sind, zu gewinnen. Danach werden wir die entsprechenden schwächsten Constraint Qualifikationen, die diese Bedingungen mit Karush-Kuhn-Tucker-ähnlichen Bedingungen verknüpfen, herleiten. Als ein weiteres Hauptziel der Arbeit werden wir dann untersuchen, ob die gerade hergeleiteten Bedingungen eine praktische Bedeutung haben. Die vor Kurzem eingeführten Umformulierungen bieten die Möglichkeiten, um die für mathematische Programme mit Komplementaritätsbedingungen gut funktionierenden Methoden hier auch anzuwenden. Wir werden zeigen, dass das safeguarded augmented Lagrangian Method und einige Regularisierungsmethoden theoretisch in der Lage sind, um einen Punkt, der den hergeleiteten Bedingungen genügt, zu generieren.

Universiẗat, Diss., 2004--Bremen.

Load control strategies for wind turbines are used to reduce the structural wear of the turbine without reducing energy yield. Until now, these control strategies are almost exclusively built up-on linear approaches like PID and model-based controllers due to their robustness. However, advances in turbine size and capabilities create a need for more complex control strategies that can effectively address design challenges in modern turbines. This work presents WINDL, a load control policy based on a neural network, which is trained through model-free Reinforcement Learning (RL) on a simulated wind turbine. While RL has achieved great success in the past on games and simple simulation benchmarks, applications to more complex control problems are starting to emerge just recently. We show that through the usage of regularization techniques and signal transformations, such an application to the field of wind turbine load control is possible. Using a smoothness regularizer, we incentivize the highly non-linear neural network policy to output control actions that are safe to apply to a wind turbine. The Coleman transformation, a common tool for the design of traditional PID-based load control strategies, is used to project signals into a stationary coordinate space, increasing robustness and final policy performance. Trained to control a large offshore turbine in a model-free fashion, WINDL finds a control policy that outperforms a state-of-the-art controller based on the IPC strategy with respect to the prima-ry optimization goal blade loads. Using the DEL metric, we measure 54.1% lower blade loads in the steady wind and 13.45% lower blade loads in the turbulent wind scenario. While such levels of blade reduction come with slightly worse performance on secondary optimi-zation goals like pitch wear and power production, we demonstrate the ability to control the trade-off between different optimization goals on the example of pitch versus blade loads. To comple-ment our findings, we perform a qualitative analysis of the policy behavior and learning process. We believe our work to be the first application of RL to wind turbine load control that exceeds baseline performance in the primary optimization metric, opening up the possibility of including specialized load controllers for targeting critical design driving scenarios of modern large wind turbines.:Problem Method Aim Results Conclusion

Die vorliegende Arbeit befasst sich mit der Konvergenztheorie für die regularisierten Lösungen inkorrekter inverser Probleme bei A-priori-Parameterwahl im Hilbertraum. Zunächst werden bekannte Konvergenzratenresultate basierend auf verallgemeinerten Quelldarstellungen systematisch zusammengetragen. Danach wird sich mit dem Fall befasst, was getan werden kann, wenn solche Quellbedingungen nicht erfüllt sind. Man gelangt zur Analysis von Abstandsfunktionen, mit deren Hilfe ebenfalls Konvergenzraten ermittelt werden können. Praktisch wird eine solche Abstandsfunktion anhand der Betrachtung einer Fredholmschen Integralgleichung 2. Art abgeschätzt. Schließlich werden die Zusammenhänge zwischen bedingter Stabilität, Stetigkeitsmodul und Konvergenzraten erörtert und durch ein Beispiel zur Laplace-Gleichung untermauert. / This dissertation deals with the convergence theory of regularized solutions of ill-posed inverse problems in Hilbert space with a priori parameter choice. First, well-known convergence rate results based on general source conditions are brought together systematically. Then it is studied what can be done if such source conditions are not fulfilled. One arrives at the analysis of distance functions. With their help, convergence rates can be determined, too. As an example, a distance function is calculated by solving a Fredholm integral equation of the second kind. Finally, the cross-connections between conditional stability, the modulus of continuity and convergence rates is treated accompanied with an example concerning the Laplace equation.

Die Dissertation beschäftigt sich mit Parameteridentifikationsproblemen, wie sie häufig in Fragestellungen der Festkörpermechanik zu finden sind. Hierbei betrachten wir die Identifikation von Materialparametern -- die typischerweise die Eigenschaften der zugrundeliegenden Materialien repräsentieren -- aus gemessenen Verformungen oder Belastungen eines Testkörpers. In mathematischem Sinne entspricht dies der Lösung von Identifikationsproblemen, die eine spezielle Klasse von inversen Problemen bilden. Der Inhalt der Dissertation ist folgendermaßen gegliedert. Nach dem einführenden Abschnitt 1 wird in Abschnitt 2 ein Überblick von Optimierungs- und Regularisierungsverfahren zur stabilen Lösung nichtlinearer inverser Probleme diskutiert. In Abschnitt 3 betrachten wir die Identifikation von skalaren und stückweise konstanten Parametern in linearen elliptischen Differentialgleichungen. Hierbei werden zwei Testprobleme erörtert, die Identifikation von Diffusions- und Reaktionsparameter in einer allgemeinen elliptischen Differentialgleichung und die Identifikation der Lame-Konstanten in einem Modell der linearisierten Elastizität. Die zugrunde liegenden PDE-Modelle und Lösungszugänge werden erläutert. Insbesondere betrachten wir hier Newton-artige Algorithmen, Gradientenmethoden, Multi-Parameter Regularisierung and den evolutionären Algorithmus CMAES. Abschließend werden Ergebnisse einer numerischen Studie präsentiert. Im Abschnitt 4 konzentrieren wir uns auf die Identifikation von verteilten Parametern in hyperelastischen Materialmodellen. Das nichtlineare Elastizitätsproblem wird detailiert erläutert und verschiedene Materialmodelle werden diskutiert (linear elastisches St.-Venant-Kirchhoff Material und nichtlineare Neo-Hooke, Mooney-Rivlin und Modified-Fung Materialien. Zur Lösung des resultierenden Parameteridentifikationsproblems werden Lösungsansätze aus der optimalen Steuerung in Form eines Newton-Lagrange SQP Algorithmus verwendet. Die Resultate einer numerischen Studie werden präsentiert, basierend auf einem zweidimensionales Testproblem mit einer sogenannten Cook-Mebran. Abschließend wird im Abschnitt 5 die Verwendung adaptiver FEM für die Lösung von Parameteridentifikationsproblems kurz erörtert. / The dissertation is focussed on parameter identification problems arising in the context of structural mechanics. At this, we consider the identification of material parameters - which typically represent the properties of an underlying material - from given measured displacements and forces of a loaded test body. In mathematical terms such problems denote identification problems as a special case of general inverse problems. The dissertation is organized as follows. After the introductive section 1, section 2 is devoted to a survey of optimization and regularization methods for the stable solution of nonlinear inverse problems. In section 3 we consider the identification of scalar and piecewise constant parameters in linear elliptic differential equations and examine two test problems, namely the identification of diffusion and reaction parameters in a generalized linear elliptic differential equation of second order and the identification of the Lame constants in the linearized elasticity model. The underlying PDE models are introduced and solution approaches are discussed in detail. At this, we consider Newton-type algorithms, gradient methods, multi-parameter regularization, and the evolutionary algorithm CMAES. Consequently, numerical studies for a two-dimensional test problem are presented. In section 4 we point out the identification of distributed material parameters in hyperelastic deformation models. The nonlinear elasticity boundary value problem for large deformations is introduced. We discuss several material laws for linear elastic (St.-Venant-Kirchhoff) materials and nonlinear Neo-Hooke, Mooney-Rivlin, and Modified-Fung materials. For the solution of the corresponding parameter identification problem, we focus on an optimal control solution approach and introduce a regularized Newton-Lagrange SQP method. The Newton-Lagrange algorithm is demonstrated within a numerical study. Therefore, a simplified two-dimensional Cook membrane test problem is solved. Additionally, in section 5 the application of adaptive methods for the solution of parameter identification problems is discussed briefly.

Die vorliegende Arbeit befasst sich mit der Konvergenztheorie für die regularisierten Lösungen inkorrekter inverser Probleme bei A-priori-Parameterwahl im Hilbertraum. Zunächst werden bekannte Konvergenzratenresultate basierend auf verallgemeinerten Quelldarstellungen systematisch zusammengetragen. Danach wird sich mit dem Fall befasst, was getan werden kann, wenn solche Quellbedingungen nicht erfüllt sind. Man gelangt zur Analysis von Abstandsfunktionen, mit deren Hilfe ebenfalls Konvergenzraten ermittelt werden können. Praktisch wird eine solche Abstandsfunktion anhand der Betrachtung einer Fredholmschen Integralgleichung 2. Art abgeschätzt. Schließlich werden die Zusammenhänge zwischen bedingter Stabilität, Stetigkeitsmodul und Konvergenzraten erörtert und durch ein Beispiel zur Laplace-Gleichung untermauert. / This dissertation deals with the convergence theory of regularized solutions of ill-posed inverse problems in Hilbert space with a priori parameter choice. First, well-known convergence rate results based on general source conditions are brought together systematically. Then it is studied what can be done if such source conditions are not fulfilled. One arrives at the analysis of distance functions. With their help, convergence rates can be determined, too. As an example, a distance function is calculated by solving a Fredholm integral equation of the second kind. Finally, the cross-connections between conditional stability, the modulus of continuity and convergence rates is treated accompanied with an example concerning the Laplace equation.

Die Dissertation beschäftigt sich mit Parameteridentifikationsproblemen, wie sie häufig in Fragestellungen der Festkörpermechanik zu finden sind. Hierbei betrachten wir die Identifikation von Materialparametern -- die typischerweise die Eigenschaften der zugrundeliegenden Materialien repräsentieren -- aus gemessenen Verformungen oder Belastungen eines Testkörpers. In mathematischem Sinne entspricht dies der Lösung von Identifikationsproblemen, die eine spezielle Klasse von inversen Problemen bilden. Der Inhalt der Dissertation ist folgendermaßen gegliedert. Nach dem einführenden Abschnitt 1 wird in Abschnitt 2 ein Überblick von Optimierungs- und Regularisierungsverfahren zur stabilen Lösung nichtlinearer inverser Probleme diskutiert. In Abschnitt 3 betrachten wir die Identifikation von skalaren und stückweise konstanten Parametern in linearen elliptischen Differentialgleichungen. Hierbei werden zwei Testprobleme erörtert, die Identifikation von Diffusions- und Reaktionsparameter in einer allgemeinen elliptischen Differentialgleichung und die Identifikation der Lame-Konstanten in einem Modell der linearisierten Elastizität. Die zugrunde liegenden PDE-Modelle und Lösungszugänge werden erläutert. Insbesondere betrachten wir hier Newton-artige Algorithmen, Gradientenmethoden, Multi-Parameter Regularisierung and den evolutionären Algorithmus CMAES. Abschließend werden Ergebnisse einer numerischen Studie präsentiert. Im Abschnitt 4 konzentrieren wir uns auf die Identifikation von verteilten Parametern in hyperelastischen Materialmodellen. Das nichtlineare Elastizitätsproblem wird detailiert erläutert und verschiedene Materialmodelle werden diskutiert (linear elastisches St.-Venant-Kirchhoff Material und nichtlineare Neo-Hooke, Mooney-Rivlin und Modified-Fung Materialien. Zur Lösung des resultierenden Parameteridentifikationsproblems werden Lösungsansätze aus der optimalen Steuerung in Form eines Newton-Lagrange SQP Algorithmus verwendet. Die Resultate einer numerischen Studie werden präsentiert, basierend auf einem zweidimensionales Testproblem mit einer sogenannten Cook-Mebran. Abschließend wird im Abschnitt 5 die Verwendung adaptiver FEM für die Lösung von Parameteridentifikationsproblems kurz erörtert. / The dissertation is focussed on parameter identification problems arising in the context of structural mechanics. At this, we consider the identification of material parameters - which typically represent the properties of an underlying material - from given measured displacements and forces of a loaded test body. In mathematical terms such problems denote identification problems as a special case of general inverse problems. The dissertation is organized as follows. After the introductive section 1, section 2 is devoted to a survey of optimization and regularization methods for the stable solution of nonlinear inverse problems. In section 3 we consider the identification of scalar and piecewise constant parameters in linear elliptic differential equations and examine two test problems, namely the identification of diffusion and reaction parameters in a generalized linear elliptic differential equation of second order and the identification of the Lame constants in the linearized elasticity model. The underlying PDE models are introduced and solution approaches are discussed in detail. At this, we consider Newton-type algorithms, gradient methods, multi-parameter regularization, and the evolutionary algorithm CMAES. Consequently, numerical studies for a two-dimensional test problem are presented. In section 4 we point out the identification of distributed material parameters in hyperelastic deformation models. The nonlinear elasticity boundary value problem for large deformations is introduced. We discuss several material laws for linear elastic (St.-Venant-Kirchhoff) materials and nonlinear Neo-Hooke, Mooney-Rivlin, and Modified-Fung materials. For the solution of the corresponding parameter identification problem, we focus on an optimal control solution approach and introduce a regularized Newton-Lagrange SQP method. The Newton-Lagrange algorithm is demonstrated within a numerical study. Therefore, a simplified two-dimensional Cook membrane test problem is solved. Additionally, in section 5 the application of adaptive methods for the solution of parameter identification problems is discussed briefly.

This thesis deals with regularization parameter selection methods in the context of Tikhonov-type regularization with Poisson distributed data, in particular the reconstruction of images, as well as with the identification of the volatility surface from observed option prices. In Part I we examine the choice of the regularization parameter when reconstructing an image, which is disturbed by Poisson noise, with Tikhonov-type regularization. This type of regularization is a generalization of the classical Tikhonov regularization in the Banach space setting and often called variational regularization. After a general consideration of Tikhonov-type regularization for data corrupted by Poisson noise, we examine the methods for choosing the regularization parameter numerically on the basis of two test images and real PET data. In Part II we consider the estimation of the volatility function from observed call option prices with the explicit formula which has been derived by Dupire using the Black-Scholes partial differential equation. The option prices are only available as discrete noisy observations so that the main difficulty is the ill-posedness of the numerical differentiation. Finite difference schemes, as regularization by discretization of the inverse and ill-posed problem, do not overcome these difficulties when they are used to evaluate the partial derivatives. Therefore we construct an alternative algorithm based on the weak formulation of the dual Black-Scholes partial differential equation and evaluate the performance of the finite difference schemes and the new algorithm for synthetic and real option prices.

This thesis deals with regularization parameter selection methods in the context of Tikhonov-type regularization with Poisson distributed data, in particular the reconstruction of images, as well as with the identification of the volatility surface from observed option prices. In Part I we examine the choice of the regularization parameter when reconstructing an image, which is disturbed by Poisson noise, with Tikhonov-type regularization. This type of regularization is a generalization of the classical Tikhonov regularization in the Banach space setting and often called variational regularization. After a general consideration of Tikhonov-type regularization for data corrupted by Poisson noise, we examine the methods for choosing the regularization parameter numerically on the basis of two test images and real PET data. In Part II we consider the estimation of the volatility function from observed call option prices with the explicit formula which has been derived by Dupire using the Black-Scholes partial differential equation. The option prices are only available as discrete noisy observations so that the main difficulty is the ill-posedness of the numerical differentiation. Finite difference schemes, as regularization by discretization of the inverse and ill-posed problem, do not overcome these difficulties when they are used to evaluate the partial derivatives. Therefore we construct an alternative algorithm based on the weak formulation of the dual Black-Scholes partial differential equation and evaluate the performance of the finite difference schemes and the new algorithm for synthetic and real option prices.