Wir fixeren einen Körper k, der bezüglich eines nicht-archimedischen Absolutbetrags vollständig ist. In Kapitel 1 konstruieren wir eine Algebra U bestehend aus überkonvergenten Funktionen. Sie ist eine Unteralgebra der Tate-Algebra, wobei mittels einer sogenannten Filterfunktion, eine zusätzliche Wachstumsbedingung an die Koeffizienten der Potenzreihen in U gestellt wird. In diesem Kontext beweisen wir das folgende Resultat: U ist ein Noetherscher, Jacobsonscher, faktorieller Integritätsbereich, der bezüglich der Norm vollständig ist, und jedes Ideal in U ist abgeschlossen in der induzierten Topologie. In Kapitel 2 definieren wir die Kategorie der NMK-Algebren als die Kategorie der Quotienten der U. Indem wir in der größeren Kategorie der Frèchet-Räume arbeiten, beweisen wir die Noethernormalisierung und untersuchen die Morphismen zwishen NMK-Algebren. Schließlich zeigen wir, dass die Kategorie der NMK-Algebren abgeschlossen ist unter vervollständigten Tersorprodukten. In Kapitel 3 untersuchen wir geometrische Aspekte der Algebren U nämlich Eigenschaften der maximalen Ideale und die Regularität von U. Abschließend zeigen wir, dass für jedes U der assoziierte algebraische v exact in positiven Graden ist. / We fix a complete field k with respect to a non-Archimedean absolute value. In Chapter 1, we build the overconvergent function algebra U to be the subalgebra of the Tate algebra by putting a growth condition on the coefficients of the power series using a decreasing function which we call a filter function (satisfying certain conditions). With this setting we prove the following result: U is a Noetherian, Jacobson, unique factorization domain and it is complete with respect to the norm on it, moreover every ideal of U is closed with respect to the induced topology. In Chapter 2, we define a category of NMK-algebras as the category of all quotients of U. Working in the larger category of Frèchet spaces, we establish Noether normalization and investigate the morphisms between NMK-algebras. Finally, we show that the category of NMK-algebras is closed under completed tensor products. We investigate certain geometric aspects of the algebra U in Chapter 3, such as the properties of maximal ideals and regularity of U. Further, we show that for each U the associated algebraic de Rham complex is exact in positive degrees.

Algebro-Differentialgleichungen (engl. differential-algebraic equations - DAEs) sind implizite singuläre gewöhnliche Differentialgleichungen, die restringierte dynamische Prozesse beschreiben. Sie unterscheiden sich von expliziten gewöhnlichen Differentialgleichungen dahingehend, dass Anfangswerte nicht beliebig vorgegeben werden können. Weiterhin sind in einer DAE neben Integrations- auch Differentiationsaufgaben involviert. Der Differentiationsindex gibt an, wieviele Differentiationen zur Lösung notwendig sind. Seit den 1980er Jahren wird vorwiegend an der Charakterisierung und Klassifizierung regulärer DAEs und der Konstruktion nebst Fundierung von Integrationsmethoden gearbeitet. I. Higueras, R. März und C. Tischendorf haben gezeigt, dass man lineare DAEs mit properem Hauptterm, A(t)(D(t)x(t))'' + B(t)x(t) = q(t), die regulär mit Traktabilitätsindex 2 sind, zuverlässig numerisch integrieren kann - im Unterschied zu linearen DAEs in Standardform. In Publikationen von R. Riaza und R. März wird die Klassifizierungen kritischer Punkten von linearen DAEs an die Verletzung bestimmter Rangbedingungen von Matrixfunktionen im Rahmen des Traktabilitätsindexes geknüpft. Im wesentlichen heißt ein kritischer Punkt harmlos, wenn der durch die inhärente Differentialgleichung beschriebene Fluß nicht tangiert ist. Gegenstand der vorliegenden Arbeit sind lineare quasi-proper formulierte DAEs. Es werden Index 2 DAEs mit harmlosen kritischen Punkten charakterisiert. Unter Verwendung von quasi-zulässigen Projektorfunktionen können neben DAEs, die fast überall gleiche charakteristische Werte haben, nun erstmalig auch solche mit Indexwechseln behandelt werden. Der Hauptteil der Arbeit besteht im Nachweis von Durchführbarkeit, Konvergenz und nur schwacher Instabilität von numerischen Integrationsmethoden (BDF, IRK(DAE)) für lineare Index 2 DAEs mit harmlosen kritischen Punkten, sowie in der Entwicklung von Fehlerschätzern und Schrittweitensteuerung. / Differential-algebraic equations (DAEs) are implicit singular ordinary differential equations, which describe dynamical processes that are restricted by some constraints. In contrast to explicit regular ordinary differential equations, for a DAE not any value can be imposed as an initial condition. Furthermore, DAEs involve not only integration problems but also differentiation problems. The differentiation index of a DAE indicates the number of differentiations required in order to solve a DAE. Since the 1980th, research focuses primarily on the characterization and classification of regular problem classes and the construction and foundation of integration methods for simulation software. I. Higueras, R. Maerz, and C. Tischendorf have shown that one can reliably integrate a general linear DAE with a properly stated leading term, A(t)(D(t)x(t))'' + B(t)x(t) = q(t), which is regular with tractability index 2 - in contrast to linear standard form DAEs. The first classification of critical points of linear DAEs has been published by R. Riaza and R. Maerz. Based on the tractability index, critical points are classified according to failures of certain rank conditions of matrix functions. Essentially, a critical point is said to be harmless, if the flow described by the inherent differential equation is not affected. The subject of this work are quasi-proper linear DAEs. Index-2 DAEs with harmless critical points are characterized. Under the application of quasi-admissible projector functions. Besides DAEs which have almost everywhere the same characteristic values, DAEs with index changes can now be discussed for the first time. The main part of the work is to provide a proof of feasibility, convergence, and only weak instability of numerical integration methods (BDF, IRK (DAE)) for linear index-2 DAEs with harmless critical points, as well as the development and testing of error estimators and stepsize control.

In dieser Arbeit wird die Smallest-Accepted Methode als neue Lepski-Typ Methode für Modellwahl im geordneten Fall eingeführt. In einem ersten Schritt wird die Methode vorgestellt und im Fall von Schätzproblemen mit bekannter Fehlervarianz untersucht. Die Hauptkomponenten der Methode sind ein Akzeptanzkriterium, basierend auf Modellvergleichen für die eine Familie von kritischen Werten mit einem Monte-Carlo-Ansatz kalibriert wird, und die Wahl des kleinsten (in Komplexität) akzeptierten Modells. Die Methode kann auf ein breites Spektrum von Schätzproblemen angewandt werden, wie zum Beispiel Funktionsschätzung, Schätzung eines linearen Funktionals oder Schätzung in inversen Problemen. Es werden allgemeine Orakelungleichungen für die Methode im Fall von probabilistischem Verlust und einer polynomialen Verlustfunktion gezeigt und Anwendungen der Methode in spezifischen Schätzproblemen werden untersucht. In einem zweiten Schritt wird die Methode erweitert auf den Fall einer unbekannten, möglicherweise heteroskedastischen Fehlerstruktur. Die Monte-Carlo-Kalibrierung wird durch eine Bootstrap-basierte Kalibrierung ersetzt. Eine neue Familie kritischer Werte wird eingeführt, die von den (zufälligen) Beobachtungen abhängt. In Folge werden die theoretischen Eigenschaften dieser Bootstrap-basierten Smallest-Accepted Methode untersucht. Es wird gezeigt, dass unter typischen Annahmen unter normalverteilten Fehlern für ein zugrundeliegendes Signal mit Hölder-Stetigkeits-Index s > 1/4 und log(n) (p^2/n) klein, wobei n hier die Anzahl der Beobachtungen und p die maximale Modelldimension bezeichnet, die Anwendung der Bootstrap-Kalibrierung anstelle der Monte-Carlo-Kalibrierung theoretisch gerechtfertigt ist. / In this thesis, the Smallest-Accepted method is presented as a new Lepski-type method for ordered model selection. In a first step, the method is introduced and studied in the case of estimation problems with known noise variance. The main building blocks of the method are a comparison-based acceptance criterion relying on Monte-Carlo calibration of a set of critical values and the choice of the model as the smallest (in complexity) accepted model. The method can be used on a broad range of estimation problems like function estimation, estimation of linear functionals and inverse problems. General oracle results are presented for the method in the case of probabilistic loss and for a polynomial loss function. Applications of the method to specific estimation problems are studied. In a next step, the method is extended to the case of an unknown possibly heteroscedastic noise structure. The Monte-Carlo calibration step is now replaced by a bootstrap-based calibration. A new set of critical values is introduced, which depends on the (random) observations. Theoretical properties of this bootstrap-based Smallest-Accepted method are then studied. It is shown for normal errors under typical assumptions, that the replacement of the Monte-Carlo step by bootstrapping in the Smallest-Accepted method is valid, if the underlying signal is Hölder-continuous with index s > 1/4 and log(n) (p^2/n) is small for a sample size n and a maximal model dimension p.

Schwerpunkt dieser Arbeit ist die Untersuchung einer Klasse von Diskretisierungsmethoden für nichtlineare optimale Steuerungsprobleme mit gewöhnlichen Differentialgleichungen und Steuerungsbeschränkung sowie die Durchführung von numerischen Experimente. Die theoretischen Untersuchungen basieren aus einem gekoppeltes Parametrisierungs-Diskretisierungsschema aus stückweise polinomialen Ansatz für die Steuerung und einen Runge-Kutta-Verfahren zur Integration der Zustands-Differentialgleichung. Die Konvergenzordnung der Lösung wird unter Regularitätsbedingung und Optimalitätsbedingung 2.Ordnung ermittelt. Außerdem wird eine Möglichkeit zur numerischen Berechnung der Gradienten über internen numerischen Differentiation erläutert. Schließlich werden einige numerischen Resultate gegeben und die Abhängigkeiten zur den theoretischen Konvergenzresultate diskutiert. / The focal point of this work is the investigation of a class of discretization methods for nonlinear optimal control problems governed by ordinary differential equations with control restrictions, as well as the implementation of some numerical experiments. The theoretical investigations are based on a coupledparameterization-discretization pattern, a piecewise linear parameterization representation of the control, and the application of a Runge Kutta method for the integration of the differential state equation. The rate of convergence of the solution is obtained with the help of regularity conditions and the second order optimality conditions. Furthermore, we also present in this paper a possibility of the numerical computation of the gradients via numerical differentiation. Finally some numerical results are given and their relationship to the theoretical convergence results are discussed.

In dieser Arbeit beschäftigen wir uns mit Nutzenoptimierungs- und stochastischen Kontrollproblemen unter mehreren Gesichtspunkten. Wir untersuchen die Parameterunsicherheit solcher Probleme im Sinne des Robustheits- und des Sensitivitätsparadigma. Neben der Betrachtung dieser problemen widmen wir uns auch einem Zweiagentenproblem, bei dem der eine dem anderen das Management seines Portfolios vertraglich überträgt. Wir betrachten das robuste Nutzenoptimierungsproblem in Finanzmarktmodellen, wobei wir Bedingungen für seine Lösbarkeit formulieren, ohne jegliche Kompaktheit der Unsicherheitsmenge zu fordern, welche die Maße enthält, auf die der Optimierer robustifiziert. Unsere Bedingungen sind über gewisse Funktionenräume beschrieben, die allgemein Modularräume sind, mittels dennen wir eine Min-Max-Gleichung und die Existenz optimalen Strategien beweisen. In vollständigen Märkten ist der Raum ein Orlicz, und nachdem man seine Reflexivität explizit überprüft hat, erhält man zusätzlich die Existenz einer Worst-Case-Maße, die wir charakterisieren. Für die Parameterabhängigkeit stochastischer Kontrollprobleme entwickeln wir einen Sensitivitätsansatz. Das Kernargument ist die Korrespondenz zwischen dem adjungierten Zustand zur schwachen Formulierung des Pontryaginschen Prinzips und den Lagrange-Multiplikatoren, die der Kontrollgleichung assoziiert werden, wenn man sie als eine Bedingung betrachtet. Der Sensitivitätsansatz wird dann auf konvexe Probleme mit additiver oder multiplikativer Störung angewendet. Das Zweiagentenproblem formulieren wir in diskreter Zeit. Wir wenden in größter Verallgemeinerung die Methoden der bedingten Analysis auf den Fall linearer Verträge an und zeigen, dass sich die Mehrheit der in der Literatur unter sehr spezifischen Annahmen bekannten Ergebnisse auf eine deutlich umfassenderer Klasse von Modellen verallgemeinern lässt. Insbesondere erhalten wir die Existenz eines first-best-optimalen Vertrags und dessen Implementierbarkeit. / In this thesis we deal with utility maximization and stochastic optimal control through several points of view. We shall be interested in understanding how such problems behave under parameter uncertainty under respectively the robustness and the sensitivity paradigms. Afterwards, we leave the single-agent world and tackle a two-agent problem where the first one delegates her investments to the second through a contract. First, we consider the robust utility maximization problem in financial market models, where we formulate conditions for its solvability without assuming compactness of the densities of the uncertainty set, which is a set of measures upon which the maximizing agent performs robust investments. These conditions are stated in terms of functional spaces wich generally correspond to Modular spaces, through which we prove a minimax equality and the existence of optimal strategies. In complete markets the space is an Orlicz one, and upon explicitly granting its reflexivity we obtain in addition the existence of a worst-case measure, which we fully characterize. Secondly we turn our attention to stochastic optimal control, where we provide a sensitivity analysis to some parameterized variants of such problems. The main tool is the correspondence between the adjoint states appearing in a (weak) stochastic Pontryagin principle and the Lagrange multipliers associated to the controlled equation when viewed as a constraint. The sensitivity analysis is then deployed in the case of convex problems and additive or multiplicative perturbations. In a final part, we proceed to Principal-Agent problems in discrete time. Here we apply in great generality the tools from conditional analysis to the case of linear contracts and show that most results known in the literature for very specific instances of the problem carry on to a much broader setting. In particular, the existence of a first-best optimal contract and its implementability by the Agent is obtained.

Diese Dissertation betrachtet das Problem der nichtparametrischen Schätzung der Diffusionskoeffizienten eines ein-dimensionalen und zeitlich homogenen Itô-Diffusionsprozesses. Dabei werden verschiedene diskrete Sampling Regimes untersucht. Im ersten Teil zeigen wir, dass eine Variante des von Gobet, Hoffmann und Reiß konstruierten Niedrigfrequenz-Schätzers auch im Fall von zufälligen Beobachtungszeiten verwendet werden kann. Wir beweisen, dass der Schätzer optimal im Minimaxsinn und adaptiv bezüglich der Verteilung der Beobachtungszeiten ist. Außerdam wenden wir die Lepski Methode an um einen Schätzer zu erhalten, der zusätzlich adaptiv bezüglich der Sobolev-Glattheit des Drift- und Volatilitätskoeffizienten ist. Im zweiten Teil betrachten wir das Problem der Volatilitätsschätzung für äquidistante Beobachtungen. Im Fall eines stationären Prozesses, mit kompaktem Zustandsraum, erhalten wir einen Schätzer, der sowohl bei hochfrequenten als auch bei niedrigfrequenten Beobachtungen die optimale Minimaxrate erreicht. Die Konstruktion des Schätzers beruht auf spektralen Methoden. Im Fall von niedrigfrequenten Beobachtungen ist die Analyse des Schätzers ähnlich wie diejenige in der Arbeit von Gobet, Hoffmann und Reiß. Im hochfrequenten Fall hingegen finden wir die Konvergenzraten durch lokale Mittelwertbildung und stellen daubt eine Verbindung zum Hochfrequenzschätzer von Florens-Zmirou her. In der Analyse unseres universalen Schätzers benötigen wir scharfe obere Schranken für den Schätzfehler von Funktionalen der Occupation time für unstetige Funktionen. Wir untersuchen eine auf Riemannsummen basierende Approximation der Occupation time eines stationären, reversiblen Markov-Prozesses und leiten obere Schranken für den quadratischen Fehler her. Im Fall von Diffusionsprozessen erhalten wir Konvergenzraten für Sobolev Funktionen. / In this thesis, we consider the problem of nonparametric estimation of the diffusion coefficients of a scalar time-homogeneous Itô diffusion process from discrete observations under various sampling assumptions. In the first part, the low-frequency estimation method proposed by Gobet, Hoffmann and Reiß is modified to cover the case of random sampling times. The estimator is shown to be optimal in the minimax sense and adaptive to the sampling distribution. Moreover, Lepski''s method is applied to adapt to the unknown Sobolev smoothness of the drift and volatility coefficients. In the second part, we address the problem of volatility estimation from equidistant observations without a predefined frequency regime. In the case of a stationary diffusion with compact state space and boundary reflection, we introduce a universal estimator that attains the minimax optimal convergence rates for both low and high-frequency observations. Being based on the spectral method, the low-frequency analysis is similar to the study conducted by Gobet, Hoffmann and Reiß. On the other hand, the derivation of the convergence rates in the high-frequency regime requires local averaging of the low-frequency estimator, which makes it mimic the behaviour of the classical high-frequency estimator introduced by Florens-Zmirou. The analysis of the universal estimator requires tight upper bounds on the estimation error of the occupation time functional for non-continuous functions. In the third part of the thesis, we thus consider the Riemann sum approximation of the occupation time functional of a stationary, time-reversible Markov process. Upper bounds on the squared mean estimation error are provided. In the case of diffusion processes, convergence rates for Sobolev regular functions are obtained.

Diese Arbeit behandelt die Instrumentalvariablenregression im Kontext der Stichprobenwiederholung. Es wird ein Rahmen geschaffen, der das Ziel der Inferenz identifiziert. Diese Abhandlung versucht die Instrumentalvariablenregression von einer neuen Perspektive aus zu motivieren. Dabei wird angenommen, dass das Ziel der Schätzung von zwei Faktoren gebildet wird, einer Umgebung und einer zu einem internen Model spezifischen Struktur. Neben diesem Rahmen entwickelt die Arbeit eine Methode der Stichprobenwiederholung, die geeignet für das Testen einer linearen Hypothese bezüglich der Schätzung des Ziels ist. Die betreffende technische Umgebung und das Verfahren werden im Zusammenhang in der Einleitung und im Hauptteil der folgenden Arbeit erklärt. Insbesondere, aufbauend auf der Arbeit von Spokoiny, Zhilova 2015, rechtfertigt und wendet diese Arbeit ein numerisches ’multiplier-bootstrap’ Verfahren an, um nicht asymptotische Konfidenzintervalle für den Hypothesentest zu konstruieren. Das Verfahren und das zugrunde liegende statistische Werkzeug wurden so gewählt und angepasst, um ein im Model auftretendes und von asymptotischer Analysis übersehenes Problem zu erklären, das formal als Schwachheit der Instrumentalvariablen bekannt ist. Das angesprochene Problem wird jedoch durch den endlichen Stichprobenansatz von Spokoiny 2014 adressiert. / Instrumental variables regression in the context of a re-sampling is considered. In the work a framework is built to identify an inferred target function. It attempts to approach an idea of a non-parametric regression and motivate instrumental variables regression from a new perspective. The framework assumes a target of estimation to be formed by two factors - an environment and an internal, model specific structure. Aside from the framework, the work develops a re-sampling method suited to test linear hypothesis on the target. Particular technical environment and procedure are given and explained in the introduction and in the body of the work. Specifically, following the work of Spokoiny, Zhilova 2015, the writing justifies and applies numerically 'multiplier bootstrap' procedure to construct confidence intervals for the testing problem. The procedure and underlying statistical toolbox were chosen to account for an issue appearing in the model and overlooked by asymptotic analysis, that is weakness of instrumental variables. The issue, however, is addressed by design of the finite sample approach by Spokoiny 2014.

Die vorliegende Doktorarbeit befasst sich mit der optimalen Steuerung von einem Cahn–Hilliard–Navier–Stokes-System mit variablen Flüssigkeitsdichten. Dabei konzentriert sie sich auf das Doppelhindernispotential, was zu einem optimalen Steuerungsproblem einer Gruppe von gekoppelten Systemen, welche eine Variationsungleichung vierter Ordnung sowie eine Navier–Stokes-Gleichung beinhalten, führt. Eine geeignete Zeitdiskretisierung wird präsentiert und zugehörige Energieabschätzungen werden bewiesen. Die Existenz von Lösungen zum primalen System und von optimalen Steuerungen für das ursprüngliche Problem sowie für eine Gruppe von regularisierten Problemen wird etabliert. Die Optimalitätsbedingungen erster Ordnung für die regularisierten Probleme werden hergeleitet. Mittels eines Grenzübergangs in Bezug auf den Regularisierungsparameter werden Stationaritätsbedingungen für das ursprüngliche Problem etabliert, welche einer Form von C-Stationarität im Funktionenraum entsprechen. Weiterhin wird ein numerischer Lösungsalgorithmus für das Steuerungsproblem basierend auf einer Strafmethode entwickelt, welche die Moreau–Yosida-artigen Approximationen des Doppelhindernispotentials einschließt. In diesem Zusammenhang wird ein dual-gewichteter Residuenansatz für zielorientierte adaptive finite Elemente präsentiert, welcher auf dem Konzept der C-Stationarität beruht. Die numerische Realisierung des adaptiven Konzepts und entsprechende numerische Testergebnisse werden beschrieben. Die Lipschitzstetigkeit des Steuerungs-Zustandsoperators des zugehörigen instantanen Steuerungsproblems wird bewiesen und dessen Richtungsableitung wird charakterisiert. Starke Stationaritätsbedingungen für dieses Problem werden durch die Anwendung einer Technick von Mignot und Puel hergeleitet. Basierend auf der primalen Form der Bouligard-Ableitung wird ein impliziter numerischer Löser entwickelt, dessen Implentierung erläutert und anhand von numerischen Resultaten illustriert wird. / This thesis is concerned with the optimal control of a Cahn–Hilliard–Navier–Stokes system with variable fluid densities. It focuses on the double-obstacle potential, which yields an optimal control problem for a family of coupled systems in each time instant of a variational inequality of fourth order and the Navier–Stokes equation. A suitable time-discretization is presented and associated energy estimates are proven. The existence of solutions to the primal system and of optimal controls is established for the original problem as well as for a family of regularized problems. The consistency of these approximations is shown and first order optimality conditions for the regularized problems are derived. Through a limit process with respect to the regularization parameter, a stationarity system for the original problem is established, which corresponds to a function space version of ε-almost C-stationarity. Moreover, a numerical solution algorithm for the optimal control problem is developed based on a penalization method involving the Moreau–Yosida type approximations of the double-obstacle potential. A dual-weighted residual approach for goal-oriented adaptive finite elements is presented, which is based on the concept of C-stationarity. The overall error representation depends on dual weighted primal residuals and vice versa, supplemented by additional terms corresponding to the complementarity mismatch. The numerical realization of the adaptive concept is described and a report on numerical tests is provided. The Lipschitz continuity of the control-to-state operator of the corresponding instantaneous control problem is verified and its directional derivative is characterized. Strong stationarity conditions for the instantaneous control problem are derived. Utilizing the primal notion of B-differentiability, a bundle-free implicit programming method is developed. Details on the numerical implementation are given and numerical results are included.

Diese Dissertation ist ein Beitrag zum Forschungsfeld Early stopping im Kontext iterativer Schätzverfahren. Wir betrachten Early stopping dabei sowohl aus der Perspektive impliziter Regularisierungsverfahren als auch aus der Perspektive adaptiver Methoden Analog zu expliziter Regularisierung reduziert das Stoppen eines Schätzverfahrens den stochastischen Fehler/die Varianz des endgültigen Schätzers auf Kosten eines zusätzlichen Approximationsfehlers/Bias. In diesem Forschungsbereich präsentieren wir eine neue Analyse des Gradientenabstiegsverfahrens für konvexe Lernprobleme in einem abstrakten Hilbert-Raum. Aus der Perspektive adaptiver Methoden müssen iterative Schätzerverfahren immer mit einer datengetriebenen letzten Iteration m kombiniert werden, die sowohl under- als auch over-fitting verhindert. In diesem Forschungsbereichpräsentieren wir zwei Beiträge: In einem statistischen inversen Problem, das durch iteratives Trunkieren der Singulärwertzerlegung regularisiert wird, untersuchen wir, unter welchen Umständen optimale Adaptiertheit erreicht werden kann, wenn wir an der ersten Iteration m stoppen, an der die geglätteten Residuen kleiner sind als ein kritischer Wert. Für L2-Boosting mittels Orthogonal Matching Pursuit (OMP) in hochdimensionalen linearen Modellen beweisen wir, dass sequenzielle Stoppverfahren statistische Optimalität garantieren können. Die Beweise beinhalten eine subtile punktweise Analyse einer stochastischen Bias-Varianz-Zerlegung, die durch den Greedy-Algorithmus, der OMP unterliegt, induziert wird. Simulationsstudien zeigen, dass sequentielle Methoden zu deutlich reduzierten Rechenkosten die Leistung von Standardalgorithmen wie dem kreuzvalidierten Lasso oder der nicht-sequentiellen Modellwahl über ein hochdimensionales Akaike- Kriterium erbringen können. / This dissertation contributes to the growing literature on early stopping in modern statistics and machine learning. We consider early stopping from the perspective of both implicit regularization and adaptive estimation. From the former, analogous to an explicit regularization method, halting an iterative estimation procedure reduces the stochastic error/variance of the final estimator at the cost of some bias. In this area, we present a novel analysis of gradient descent learning for convex loss functions in an abstract Hilbert space setting, which combines techniques from inexact optimization and concentration of measure. From the perspective of adaptive estimation, iterative estimation procedures have to be combined with a data-driven choice m of the effectively selected iteration in order to avoid under- as well as over-fitting. In this area, we present two contributions: For truncated SVD estimation in statistical inverse problems, we examine under what circumstances optimal adaptation can be achieved by early stopping at the first iteration at which the smoothed residuals are smaller than a critical value. For L2-boosting via orthogonal matching pursuit (OMP) in high dimensional linear models, we prove that sequential early stopping rules can preserve statistical optimality in terms of a general oracle inequality for the empirical risk and recently established optimal convergence rates for the population risk.

im Postscript-Format / PostScript