This thesis is broadly concerned with online-optimizing anti-windup control. These are control structures that implement some online-optimization routines to compensate for the windup effects in constrained control systems. The first part of this thesis examines a general framework for analyzing robust preservation in anti-windup control systems. This framework - the robust Kalman conjecture - is defined for the robust Lur’e problem. This part of the thesis verifies this conjecture for first-order plants perturbed by various norm-bounded unstructured uncertainties. Integral quadratic constraint theory is exploited to classify the appropriate stability multipliers required for verification in these cases. The remaining part of the thesis focusses on accelerated gradient methods. In particular, tight complexity-certificates can be obtained for the Nesterov gradient method, which makes it attractive for implementation of online-optimizing anti-windup control. This part of the thesis presents a proposed algorithm that extends the classical Nesterov gradient method by using available secant information. Numerical results demonstrating the efficiency of the proposed algorithm are analysed with the aid of performance profiles. As the objective function becomes more ill-conditioned, the proposed algorithm becomes significantly more efficient than the classical Nesterov gradient method. The improved performance bodes well for online-optimization anti-windup control since ill-conditioning is common place in constrained control systems. In addition, this thesis explores another subcategory of accelerated gradient methods known as Barzilai-Borwein gradient methods. Here, two algorithms that modify the Barzilai-Borwein gradient method are proposed. Global convergence of the proposed algorithms for all convex functions is established by using discrete Lyapunov theorems.

In recent years additional requirements have been imposed on financial institutions, including Central Counterparty clearing houses (CCPs), as an attempt to assess quantitative measures of their exposure to different types of risk. One of these requirements results in a need to perform stress tests to check the resilience in case of a stressed market/crisis. However, financial markets develop over time and this leads to a situation where some instruments traded today are not present at the chosen date because they were introduced after the considered historical event. Based on current routines, the main goal of this thesis is to provide a more sophisticated method to impute (fill in) historical missing data as a preparatory work in the context of stress testing. The models considered in this paper include two methods currently regarded as state-of-the-art techniques, based on maximum likelihood estimation (MLE) and multiple imputation (MI), together with a third alternative approach involving copulas. The different methods are applied on historical return data of commodity futures contracts from the Nordic energy market. By using conventional error metrics, and out-of-sample log-likelihood, the conclusion is that it is very hard (in general) to distinguish the performance of each method, or draw any conclusion about how good the models are in comparison to each other. Even if the Student’s t-distribution seems (in general) to be a more adequate assumption regarding the data compared to the normal distribution, all the models are showing quite poor performance. However, by analysing the conditional distributions more thoroughly, and evaluating how well each model performs by extracting certain quantile values, the performance of each method is increased significantly. By comparing the different models (when imputing more extreme quantile values) it can be concluded that all methods produce satisfying results, even if the g-copula and t-copula models seems to be more robust than the respective linear models. / På senare år har ytterligare krav införts för finansiella institut (t.ex. Clearinghus) i ett försök att fastställa kvantitativa mått på deras exponering mot olika typer av risker. Ett av dessa krav innebär att utföra stresstester för att uppskatta motståndskraften under stressade marknader/kriser. Dock förändras finansiella marknader över tiden vilket leder till att vissa instrument som handlas idag inte fanns under den dåvarande perioden, eftersom de introducerades vid ett senare tillfälle. Baserat på nuvarande rutiner så är målet med detta arbete att tillhandahålla en mer sofistikerad metod för imputation (ifyllnad) av historisk data som ett förberedande arbete i utförandet av stresstester. I denna rapport implementeras två modeller som betraktas som de bäst presterande metoderna idag, baserade på maximum likelihood estimering (MLE) och multiple imputation (MI), samt en tredje alternativ metod som involverar copulas. Modellerna tillämpas på historisk data förterminskontrakt från den nordiska energimarkanden. Genom att använda väl etablerade mätmetoder för att skatta noggrannheten förrespektive modell, är det väldigt svårt (generellt) att särskilja prestandan för varje metod, eller att dra några slutsatser om hur bra varje modell är i jämförelse med varandra. även om Students t-fördelningen verkar (generellt) vara ett mer adekvat antagande rörande datan i jämförelse med normalfördelningen, så visar alla modeller ganska svag prestanda vid en första anblick. Däremot, genom att undersöka de betingade fördelningarna mer noggrant, för att se hur väl varje modell presterar genom att extrahera specifika kvantilvärden, kan varje metod förbättras markant. Genom att jämföra de olika modellerna (vid imputering av mer extrema kvantilvärden) kan slutsatsen dras att alla metoder producerar tillfredställande resultat, även om g-copula och t-copula modellerna verkar vara mer robusta än de motsvarande linjära modellerna.

This thesis deals with modern statistical approaches and their application aimed at robust methods and neural network modelling. Selected methods are analyzed and applied on frequent practical problems in czech industry and technology. Topics and methods are to be benificial in real applications compared to currently used classical methods. Applicability and effectivity of the algorithms is verified and demonstrated on real studies and problems in czech industrial and research bodies. The great and unexploited potential of modern theoretical and computational capacity and the potential of new approaces to statistical modelling and methods. A significant result of this thesis is also an environment for software application development for data analysis with own programming language DARWin (Data Analysis Robot for Windows) for implemenation of effective numerical algorithms for extaction information from data. The thesis should be an incentive for boarder use of robust and computationally intensive methods as neural networks for modelling processes, quality control and generally better understanding of nature.

Robust state estimation solutions must deal with faulty measurements, called outliers, and unknown data associations, which lead to multiple feasible hypotheses. Take, for instance, the scenario of tracking two indistinguishable targets based on position measurements, where each measurement could refer to either of the targets or even be a faulty reading. Common estimation methods model the state as having a unimodal distribution, so they are called unimodal methods. Likewise, multimodal methods model the state as a multimodal distribution. Difficult problems, such as autonomous underwater vehicle (AUV) navigation relying on acoustic localization, frequently involve recurring outliers. In these situations, the correct hypothesis only emerges as the most likely one when a substantial number of measurements are considered. Robust solutions for these problems need to consider multiple hypotheses simultaneously, which, in turn, calls for the representation of multimodal distributions. In this work, a novel approximate inference method is presented, called the Gaussian mixture sum-product algorithm (GM-SPA), as it implements the sum-product algorithm (SPA) for Gaussian mixtures. The GM-SPA can exactly represent under-constrained linear measurements and approximate important non-linear models, such as range measurements and 2D pose kinematics. The outlier robustness of the GM-SPA is tested and compared against the particle filter (PF) and multimodal incremental smoothing and mapping (MMiSAM), both of which are non-parametric methods. Robustness, accuracy, and run-time are improved in simulation tests. The test problems include 1D localization with unknown data association, 3D linear target tracking with correlated outliers, and 2D range-only pose estimation with Gaussian mixture noise. / Robusta lösningar för tillståndsuppskattning måste kunna hantera felaktiga mätningar, så kallade outliers, och okända dataassociationer, vilket leder till flera möjliga hypoteser. Ta till exempel scenariot att spåra två likadana mål baserat på positionsmätningar, där varje mätning kan tillhöra något av målen eller till och med vara en felaktig avläsning. Vanliga skattningsmetoder modellerar tillståndet som en unimodal fördelning, och kallas därför unimodala metoder. På samma sätt modellerar multimodala metoder tillståndet som en multimodal fördelning. Svåra problem, som navigering av autonoma undervattensfarkoster (AUV) med hjälp av akustisk lokalisering, involverar ofta upprepade outliers. I dessa situationer framstår den korrekta hypotesen som den mest sannolika först när ett stort antal mätningar beaktas. Robusta lösningar för dessa problem måste ta hänsyn till flera hypoteser samtidigt, vilket i sin tur kräver representation av multimodala fördelningar. I detta arbete presenteras en ny approximativ inferensmetod, kallad Gaussian mixture sum-product algorithm (GM-SPA), eftersom den implementerar sum-product algorithm (SPA) för gaussiska blandningar. GM-SPA kan representera underbegränsade linjära mätningar exakt och approximera viktiga icke-linjära modeller, till exempel avståndsmätningar eller 2D-posekinematik. GM-SPA:s robusthet mot outliers testas och jämförs med partikelfiltret (PF) och multimodal incremental smoothing and mapping (MM-iSAM), som båda är icke-parametriska metoder. Robusthet, noggrannhet och körtid förbättras i simuleringstester. Simulerade tester inkluderar 1D-lokalisering med okänd dataassociation, 3D linjär målföljning med korrelerade outliers och 2D-ställningsuppskattning av endast räckvidd med Gaussiskt blandningsljud. / Soluções robustas para estimação de estado devem lidar com medidas defeituosas, chamadas de outliers, e com associações de dados desconhecidas, que levam a múltiplas hipóteses possíveis. Considere-se, por exemplo, o cenário de rastreamento de dois alvos indistinguíveis com base em medidas de posição, em que cada medida pode-se referir a qualquer um dos alvos ou até mesmo ser uma leitura defeituosa. Métodos de estimação comuns modelam o estado como tendo uma distribuição unimodal, sendo assim chamados de métodos unimodais. Da mesma forma, métodos multimodais modelam o estado como uma distribuição multimodal. Problemas difíceis, como a navegação de veículos subaquáticos autónomos (AUVs) baseada em localização acústica, frequentemente envolvem outliers recorrentes. Nestas situações, a hipótese correta apenas surge como a mais provável quando um número substancial de medidas é considerado. Soluções robustas para estes problemas precisam de considerar múltiplas hipóteses simultaneamente, o que, por sua vez, exige a representação de distribuições multimodais. Neste trabalho, é apresentado um novo método de inferência aproximada, chamado Gaussian mixture sum-product algorithm (GM-SPA), pois implementa o sum-product algorithm (SPA) para misturas Gaussianas. O GM-SPA pode representar exatamente medidas lineares sub-determinadas e aproximar modelos não lineares importantes, como medidas de distância e cinemática de pose 2D. A robustez a outliers do GM-SPA é testada e comparada com o filtro de partículas (PF) e com multimodal incremental smoothing and mapping (MM- -iSAM), ambos métodos não-paramétricos. A robustez, a exatidão e o tempo de execução em testes de simulação são melhorados. Os problemas de teste incluem localização 1D com associação de dados desconhecida, rastreamento linear de alvos em 3D com outliers correlacionados e estimação de pose 2D com base em medidas de distância com ruído de mistura Gaussiana.

Hydropower in Sweden is a powerful and efficient source of energy due to its flexibility, usually used to balance the Swedish power system. With the transition of power system into more intermittent power sources, the role of hydro-power as producers will become more important. Thus the optimal scheduling of hydropower units, with other assets, holds an important place in electric power systems, which is significantly investigated as a research issue. This thesis presents an optimization model that aims at maximizing the income of that producer. The model is implemented on a virtual power plant trading in both day-ahead and mFRR balancing markets in the SE2 bidding zone in Sweden. The virtual power plant comprises hydo-power plants located on the Swedish river Skellefteälven, a wind power unit, and a storage unit. This system participates in electricity market as a single entity in order to optimize the use of energy resources. As feature, uncertainty in electricity market price, wind power production and in active-time duration in the mFRR energy market are modeled in order to formulate a so-called stochastic adaptive robust optimization model. The latter is solved using a column-and-constraint generation algorithm, solved by GAMS and Matlab. A bid curve analysis is performed showing the optimal strategy in case of low/high price scenario and the level of conservativeness. After that, a revenue assessment is carried out which in turn leads to an investigation of the interaction between the three assets and the impact of the storage facility in the revenue. Results demonstrate the advantage of the battery in increasing profit in some cases and its flexibility in the use of storing energy and selling it to the markets at suitable times, e.g., it saves energy from the wind in hours of comparatively low prices, while it sells it in hours of comparatively high prices. Finally, an assessment on variation of imbalance costs is held with and without battery, comparing how such virtual power plants reduce the imbalance costs. / Vattenkraften i Sverige är en kraftfull och effektiv energikälla tack vare sin flexibilitet, används vanligtvis för att balansera det svenska kraftsystemet. I och med att kraftsystemet övergår till mer intermittenta energikällor kommer vattenkraftens roll som producent att bli viktigare. Den optimala schemaläggningen av vattenkraftsenheter har därför tillsammans med andra tillgångar en viktig plats i elkraftsystemen, vilket är en viktig forskningsfråga. I denna avhandling presenteras en optimeringsmodell som syftar till att maximera inkomsten för den producenten. Modellen implementeras på ett virtuellt kraftverk som handlar på både day-ahead- och mFRR-balanseringsmarknader i budzonen SE2 i Sverige. Det virtuella kraftverket består av vattenkraftverk belägna vid den svenska Skellefteälven, en vindkraftsenhet och en lagringsenhet. Systemet deltar på elmarknaden som en enda enhet för att optimera användningen av energiresurser. Som en funktion kan osäkerheten i elmarknadspriset, vindkraftsproduktionen och den aktiva tiden i kraftverket användas. mFRR-marknaden modelleras för att formulera en så kallad stokastisk adaptiv robust optimeringsmodell. Den sistnämnda löses med hjälp av en kolumn-och-bindningsgenerering algoritm, som löses med GAMS och Matlab. En analys av budkurvan utförs och visar att optimala strategin vid scenarier med lågt/hög pris och nivån av försiktighet. Efter därefter görs en intäktsbedömning som i sin tur leder till en undersökning av interaktionen mellan de tre tillgångarna och lagringsanläggningens inverkan på intäkterna.Resultaten visar att batteriet i vissa fall är en fördel när det gäller att öka vinsten och att dess flexibilitet när det gäller att lagra energi och sälja den på marknaden vid lämpliga tidpunkter, Det sparar t.ex. energi från vinden under timmar med jämförelsevis låga priser, medan det säljer den. när priserna är jämförelsevis höga. Slutligen görs en bedömning av variationen i obalansen. med och utan batteri, där man jämför hur sådana virtuella kraftverk minskar kostnaderna för obalans.

Stop-and-Go Adaptive Cruise Control (ACC+) is an extension of Adaptive Cruise Control (ACC) that works at low speed as well as normal highway speeds to regulate the speed of the vehicle relative to the vehicle it is following. In this thesis, we design an ACC+ controller for a scale model electric vehicle that ensures the robust performance of the system under various models of uncertainty. We capture the operation of the hybrid system via a state-chart model that performs mode switching between different digital controllers with additional decision logic to guarantee the collision freedom of the system under normal operation. We apply different controller design methods such as Linear Quadratic Regulator (LQR) and H-infinity and perform multiple simulation runs in MATLAB/Simulink to validate the performance of the proposed designs. We compare the practicality of our design with existing formally verified ACC designs from the literature. The comparisons show that the other formally verified designs exhibit unacceptable behaviour in the form of mode thrashing that produces excessive acceleration and deceleration of the vehicle. While simulations provide some assurance of safe operation of the system design, they do not guarantee system safety under all possible cases. To increase confidence in the system, we use Differential Dynamic Logic (dL) to formally state environmental assumptions and prove safety goals, including collision freedom. The verification is done in two stages. First, we identify the invariant required to ensure the safe operation of the system and we formally verify that the invariant preserves the safety property of any system with similar dynamics. This procedure provides a high level abstraction of a class of safe solutions for ACC+ system designs. Second, we show that our ACC+ system design is a refinement of the abstract model. The safety of the closed loop ACC+ system is proven by verifying bounds on the system variables using the KeYmaera verification tool for hybrid systems. The thesis demonstrates how practical ACC+ controller designs optimized for fuel economy, passenger comfort, etc., can be verified by showing that they are a refinement of the abstract high level design. / Thesis / Master of Applied Science (MASc)

Robust portfolio optimization models attempt to address the standard optimization method's high sensitivity to noise in the parameter estimates, by taking an investor's uncertainty about the estimates into account when finding an optimal portfolio. In this thesis, we study robust variations of an extension of the mean-variance problem, where an additional term penalizing the portfolio's correlation with an exogenous return sequence is included in the objective. Using a normalized risk factor model of the asset returns, estimations are done using EMA filtering as well as exponentially weighted linear regression. We show that portfolio performance can significantly improve with respect to a range of metrics, such as Sharpe ratio, expected shortfall and skewness, when using appropriate robust models and hyperparameters. We further show that extending the optimization problem with a correlation penalty can notably reduce portfolio correlation with an arbitrary return sequence, with only a small impact on other performance metrics. / Robust portföljoptimering är en metod för att reducera vanliga portföljmodellers höga känslighet för brus i parameterskattningar, genom att ta en investerares osäkerhet kring skattningarna i åtanke när en optimal portfölj tas fram. I denna rapport studeras robusta varianter av ett utökat mean-variance-problem, där en straffterm för portföljens korrelation med en exogen avkastningsserie lagts till. Skattningarna bygger på en riskfaktor-modell för avkastningarna, och använder EMA-filter kombinerat med exponentiellt viktad linjär regression. Vi visar att en portföljs prestanda kan förbättras avsevärt med avseende på ett flertal prestandamått, till exempel Sharpe-kvot, expected shortfall och skevhet, vid användning av lämpliga robusta modeller och hyperparametrar. Vi visar också att inkludering av ett korrelationsstraff i optimeringsproblemet kan ge noterbara reduceringar i portföljens korrelation med en godtycklig avkastningsserie, med liten effekt på andra prestandamått.

The space industry and the technological developments regarding space exploration hasn’t been this popular since the first moon landing. The privatization of space exploration and the vertical landing rockets made rocket science mainstream again. While being able to reuse rockets is efficient both in terms of profitability and popularity, these developments are still in their early stages. Vertical landing has challenges that, if neglected, can cause disastrous consequences. The existing studies on the matter usually don’t account for aerodynamics forces and corresponding controls, which results in higher fuel consumption thus lessening the economical benefits of vertical landing. Similar problems have been tackled in studies not regarding booster landings but regarding planetary landings. And while multiple solutions have been proposed for these problems regarding planetary landings, the fact that the reinforcement learning concepts work well and provide robustness made them a valid candidate for applying to booster landings. In this study, we focus on developing a vertical booster descent guidance and control law that’s robust by applying reinforcement learning concept. Since reinforcement learning method that is chosen requires solving Optimal Control Problems (OCP), we also designed and developed an OCP solver software. The robustness of resulting hybrid guidance and control policy will be examined against various different uncertainties including but not limited to wind, delay and aerodynamic uncertainty. / Rymdindustrin och den tekniska utvecklingen av rymdutforskningen har inte varit så populär sedan den första månlandningen. Privatiseringen av utforskningen av rymden och de vertikala landningsraketerna medförde att raketvetenskapen återkom som en viktig huvudfråga igen. Även om det är effektivt att återanvända raketer i form av lönsamhet och popularitet, är denna utveckling fortfarande i sina tidiga stadier. Vertikal landning har utmaningar som, om de försummas, kan orsaka katastrofala konsekvenser. De befintliga studierna i frågan redovisar vanligtvis inte aerodynamikkrafter och motsvarande regulatorer, vilket resulterar i högre bränsleförbrukning som minskar de ekonomiska fördelarna med vertikal landning. Liknande problem har hanterats i studier som inte avsåg boosterlandningar utan om planetariska landningar. Även om flera lösningar har föreslagits för dessa problem beträffande planetariska landningar, det faktum att förstärkningsinlärningskonceptet fungerar bra och ger robusthet gjorde dem till en giltig kandidat för att ansöka om boosterlandningar. I den här studien fokuserar vi på att utveckla en lagstiftning för styrning av vertikala booster-nedstigningar som är robust genom att tillämpa koncepten inom förstärkningsinlärning. Ef- tersom förstärkt inlärningsmetod som väljs kräver lösning av optimala kontrollproblem (OCP), designade och utvecklade vi också en OCP-lösningsmjukvara. Robustheten för resulterande hybridstyrning och kontrollpolicy kommer att undersökas mot olika osäkerheter inklusive, men inte begränsat till vind, fördröjning och aerodynamisk osäkerhet.

No description available.

The thesis focuses on the design of a control strategy for safety-critical remote teleoperation. The main goal is to make the controlled system track the desired velocity specified by a human operator while avoiding obstacles despite communication delays. Different methods adopting Control Barrier Functions (CBFs) and Model Predictive Control (MPC) have been explored and tested. In this combination, CBFs are used to define the safety constraints the system has to respect to avoid obstacles, while MPC provides the framework for filtering the desired input by solving an optimization problem. The resulting input is sent to the remote system, where appropriate low-level velocity controllers translate it into system-specific commands. The main novelty of the thesis is a method to make the CBFs robust against the uncertainties affecting the system’s state due to network delays. Other techniques are investigated to improve the quality of the system information starting from the delayed one and to formulate the optimization problem without knowing the specific dynamic of the controlled system. The results show how the proposed method successfully solves the safetycritical teleoperation problem, making the controlled systems avoid obstacles with different types of network delay. The controller has also been tested in simulation and on a real manipulator, demonstrating its general applicability when reliable low-level velocity controllers are available. / Avhandlingen fokuserar på utformningen av en kontrollstrategi för säkerhetskritisk fjärrstyrd teleoperation. Huvudmålet är att få det kontrollerade systemet att följa den önskade hastigheten som specificeras av en mänsklig operatör samtidigt som hinder undviks trots kommunikationsfördröjningar. Olika metoder som använder Control Barrier Functions (CBFs) och Model Predictive Control har undersökts och testats. I denna kombination används CBFs för att definiera de säkerhetsbegränsningar som systemet måste respektera för att undvika hinder, medan MPC utgör ramverket för filtrering av den önskade indata genom att lösa ett optimeringsproblem. Den resulterande indata skickas till fjärrsystemet, där lämpliga hastighetsregulatorer på låg nivå översätter den till systemspecifika kommandon. Den viktigaste nyheten i avhandlingen är en metod för att göra CBFs robust mot de osäkerheter som påverkar systemets tillstånd på grund av nätverksfördröjningar. Andra tekniker undersöks för att förbättra kvaliteten på systeminformationen med utgångspunkt från den fördröjda informationen och för att formulera optimeringsproblemet utan att känna till det kontrollerade systemets specifika dynamik. Resultaten visar hur den föreslagna metoden framgångsrikt löser det säkerhetskritiska teleoperationsproblemet, vilket gör att de kontrollerade systemen undviker hinder med olika typer av nätverksfördröjningar. Styrningen har också testats i simulering och på en verklig manipulator, vilket visar dess allmänna tillämpbarhet när tillförlitliga lågnivåhastighetsregulatorer finns tillgängliga.