This thesis investigates time series analysis tools for prediction, as well as detection and characterization of dependencies, informed by dynamical systems theory. Emphasis is placed on the role of delays with respect to information processing in dynamical systems, as well as with respect to their effect in causal interactions between systems. The three main features that characterize this work are, first, the assumption that time series are measurements of complex deterministic systems. As a result, functional mappings for statistical models in all methods are justified by concepts from dynamical systems theory. To bridge the gap between dynamical systems theory and data, differential topology is employed in the analysis. Second, the Bayesian paradigm of statistical inference is used to formalize uncertainty by means of a consistent theoretical apparatus with axiomatic foundation. Third, the statistical models are strongly informed by modern nonlinear concepts from machine learning and nonparametric modeling approaches, such as Gaussian process theory. Consequently, unbiased approximations of the functional mappings implied by the prior system level analysis can be achieved. Applications are considered foremost with respect to computational neuroscience but extend to generic time series measurements.

In dieser Doktorarbeit wird die Magnetisierungsdynamik von strukturierten, weichmagnetischen Einzelschichten aus Permalloy (Ni81Fe19) mittels stroboskopischer Kerrmikroskopie untersucht. Die Dicke der in unterschiedliche Formen (Kreise, Quadrate und Rechtecke) strukturierten magnetischen Schicht beträgt 50 nm bzw. 160 nm. Durch die Verwendung eines gepulsten Lasers als Beleuchtungsquelle wird eine Zeitauflösung erreicht, die unter 25 ps liegt. Parallel zu den Laserpulsen wird die Probe mit gepulsten Magnetfeldern angeregt und die Reaktion der Magnetisierung auf diese schnellen Magnetfeldänderungen wird untersucht. Diese Reaktion der Magnetisierung unterscheidet sich deutlich von einer Anregung mit quasistatischen Magnetfeldern. Durch die stroboskopische Beobachtungsweise sind nur reversible Prozesse sichtbar, irreversible Prozesse werden durch die Mittelung über mehrere Millionen Anregungs- und Beobachtungspulse nicht abgebildet. Dies wird bei der Anregung eines Vortex in einer Kreisscheibe deutlich, bei dem die Magnetisierungsrichtung im Vortexkern durch das gepulste Magnetfeld teilweise geschaltet wird. Dadurch ändert sich der Drehsinn der spiralförmigen Relaxationsbewegung des Vortex, was zu einer Überlagerung der beiden Bewegungen während der Beobachtung führt. Desweiteren wird eine Vervielfältigung von Vortex-Antivortex Paaren in Stachelwänden durch hochfrequente Felder gezeigt. Diese Vervielfältigung führt zur Erzeugung eines neuen, metastabilen Zustandes mit geringerem Stachelabstand. Mit steigender Frequenz des Feldes fällt der Stachelabstand bis auf 30 % des Ausgangswertes. Ab einer Grenzfrequenz, die durch die ferromagnetische Resonanz gegeben ist, kann die Magnetisierung dem Feld nicht mehr folgen und die Wandstruktur ist vergleichbar mit der im quasistatischen Grenzfall. Auch in dickeren Elementen wird diese Erzeugung beobachtet, wo sie zu einer irreversiblen Wandtransformation von der asymmetrischen Blochwand zur Stachelwand führt. Bei der Pulsanregung eines Landau-Domänenzustandes in einem Quadrat kommt es zur Bildung von sichelartigen Domänen an den Ecken des Quadrates. Die Entstehung dieser Domänen geschieht relativ schnell innerhalb einer Nanosekunde. Während der Relaxation der Magnetisierung lösen sich diese neu entstandenen Domänen durch Wandverschiebung wieder auf. Die Auflösung der Domänen geschieht deutlich langsamer als die Entstehung, was durch die unterschiedlichen Mechanismen, die bei der Entstehung (Magnetisierungsdrehung) und Auflösung (Wandverschiebung) der Domänen involviert sind, begründet werden kann. Außerdem kommt es zu einer inkohärenten Drehung der Magnetisierung in der Domäne mit antiparalleler Ausrichtung der Magnetisierung bezüglich des Pulsfeldes. Diese Drehung der Magnetisierung, lateral abwechselnd nach links und rechts, wird durch eine leichte Abweichung der Magnetisierung von einer perfekt homogenen Ausrichtung begünstigt.

Tall och gran är de vanligaste trädarterna i svenska skogar. Förutom deras ekonomiska värde är de viktiga värdar för andra organismer och nyttjas oftast när de är döda. Säby Västerskog har skyddats i hundra år och är ett urskogsartat naturreservat där inga fördjupade analyser av dynamiken i trädskiktet har gjorts sedan 1930-talet. Denna studie gjordes med syfte av att uppdatera informationen om reservatets trädstatus samt att undersöka mortaliteten hos skogens barrträd. Det som undersöktes var om mortaliteten skiljde sig mellan trädslag, storleksklass och markslag. Förändringar i grundytan och balansen mellan arten undersöktes också. Träd identifierades med hjälp av data från en detaljerad karta från 1937, det togs mått på deras diameter och noterades vilken mark de stod på. Fler granar än tallar har dött i reservatet sedan 1937. Trädens storlek spelade ingen roll för tallars mortalitet, men väl för granar. Granens mortalitet skiljde sig inte mycket mellan olika markslag, men verkade spela roll för tall som hade högst mortalitet på våtmark och lägst på blockmark. Trots mortaliteten ökade trädens grundyta. Balansen mellan arterna förblev samma. / Scots pine and Norway spruce are the most common tree species in Swedish forests. They are important hosts to other organisms – mostly as dead wood. Säby Västerskog has been protected in hundred years but no in-depth analyses of dynamics in the tree layer have beendone since the 1930s. This study was done to update the information about the reserve’s tree status and examined mortality of conifers. I evaluated if mortality depended on tree species, size of the trees, or the type of ground they stood on. I also examined changes in trees’ basal area. The trees were identified with help of an old, detailed map from 1937. Their diameters were measured and the ground type they were standing on was noted. More spruces than pines had died in the reserve since 1937. Mortality varied with the tree size for spruce but not for pines. The mortality of pines varied among ground types (with the highest on wetlands and lowest on boulder deposits), but not for spruce. Despite high mortality basal area had increased. The balance between the species remained the same.

At the moment of writing, an expansion of the Swedish railway network has started, by constructions of new lines for high-speed trains. The aim is to create a high-speed connection between the most populous cities in Sweden - Stockholm, Göteborg and Malmö, and the rest of Europe. Thereby, the likelihood of faster, longer and heavier foreign trains crossing the Swedish lines is increased. However, this could be problematic since the dynamic response in railway bridges and, consequently, the risk of resonance increases with increasing train speeds. Bridges are usually designed based on contemporary conditions and future requirements are rarely considered, due to e.g. cost issues. Prospectively, the dynamic performance of existing bridges may become insufficient. Hence, the current expansion of the high-speed railway network results in an increased demand of innovative design solutions for new bridges and cost-efficient upgrading methods for existing lines. The aim of the present thesis is to propose a vibration mitigation strategy suitable for new and existing high-speed railway bridges. The main focus is a retrofit method with fluid viscous dampers installed between the bridge superstructure and the supports, which is intended to reduce the vertical bridge deck acceleration below the European design code limits. Furthermore, the intention is to investigate the efficiency of such a system, as well as to identify and analyse the parameters and uncertainties which could influence its functionality. In order to examine the applicability of the proposed retrofit, case studies, statistical screenings and sensitivity analyses are performed and analysed. Two different models, a single-degree-of-freedom system and a finite element model, are developed and compared. From the different models, it is possible to study the influence from the damper parameters, the variability of the material properties and different modelling aspects on the bridge response. After the installation of the fluid viscous dampers, it is found that the acceleration level of the bridge deck is significantly reduced, even below the design code requirements. / I skrivande stund har en utbyggnad av det svenska järnvägsnätet initierats. Målet är att skapa en höghastighetsanslutning mellan de folkrikaste städerna i Sverige - Stockholm, Göteborg och Malmö, och vidare ut i Europa. Därmed ökar sannolikheten att snabbare, längre och tyngre utländska tåg korsar de svenska järnvägslinjerna. Dock kan detta bli problematiskt i och med att järnvägsbroars dynamiska respons och, följaktligen, risken för resonans ökar med ökad tåghastighet. Broar dimensioneras ofta utifrån nuvarande förutsättningar och hänsyn tas sällan till framtida hållbarhetskrav, exempelvis p.g.a. kostnadsbesparingar. Ur ett framtidsperspektiv kan därför det dynamiska beteendet hos befintliga broar komma att bli otillräckligt. Utbyggnaden av höghastighetsnätverket ökar därmed behovet av innovativa konstruktionslösningar för nya broar och kostnadseffektiva uppgraderingsmetoder för befintliga sträckor. Syftet med föreliggande avhandling är att föreslå en metod för att minska de vibrationsnivåer som kan uppstå i både nybyggda och befintliga järnvägsbroar för höghastighetståg. Huvudfokus är en eftermonteringsmetod med viskösa dämpare, som har installerats mellan brons överbyggnad och landfästen, för att minska brobanans vertikala acceleration under gällande europeiska dimensioneringskrav. Vidare avses att undersöka effektiveteten av ett sådant system, samt att identifiera och analysera de parametrar och osäkerheter som kan påverka dess funktionalitet. Fall- och parameterstudier, samt statistiska metoder används och utvärderas för att undersöka tillämpbarheten av den föreslagna vibrationsdämpningsmetoden. Två olika modeller, ett enfrihetsgradssystem och en finit elementmodell, har skapats och jämförts. Utifrån dessa modeller kan påverkan av dämparens parametrar, variabiliteten hos materialegenskaperna och behandlingen av olika modelleringsaspekter studeras. Från resultaten är det tydligt att brobanans accelerationsnivå avsevärt reduceras efter monteringen av viskösa dämpare, till och med under dimensioneringskraven. / <p>QC 20170425</p>

Many novel graph neural network models have reported an impressive performance on benchmark dataset, but the theory behind these networks is still being developed. In this thesis, we study the trajectory of Gradient descent (GD) and Stochastic gradient descent (SGD) in the loss landscape of Graph neural networks by replicating Xing et al. [1] study for feed-forward networks. Furthermore, we empirically examine if the training process could be accelerated by an optimization algorithm inspired from Stochastic gradient Langevin dynamics and what effect the topology of the graph has on the convergence of GD by perturbing its structure. We find that the loss landscape is relatively flat and that SGD does not encounter any significant obstacles during its propagation. The noise-induced gradient appears to aid SGD in finding a stationary point with desirable generalisation capabilities when the learning rate is poorly optimized. Additionally, we observe that the topological structure of the graph plays a part in the convergence of GD but further research is required to understand how. / Många nya grafneurala nätverk har visat imponerande resultat på existerande dataset, dock är teorin bakom dessa nätverk fortfarande under utveckling. I denna uppsats studerar vi banor av gradientmetoden (GD) och den stokastiska gradientmetoden (SGD) i lösningslandskapet till grafiska faltningsnätverk genom att replikera studien av feed-forward nätverk av Xing et al. [1]. Dessutom undersöker vi empiriskt om träningsprocessen kan accelereras genom en optimeringsalgoritm inspirerad av Stokastisk gradient Langevin dynamik, samt om grafens topologi har en inverkan på konvergensen av GD genom att ändra strukturen. Vi ser att lösningslandskapet är relativt plant och att bruset inducerat i gradienten verkar hjälpa SGD att finna stabila stationära punkter med önskvärda generaliseringsegenskaper när inlärningsparametern har blivit olämpligt optimerad. Dessutom observerar vi att den topologiska grafstrukturen påverkar konvergensen av GD, men det behövs mer forskning för att förstå hur.

Outer membrane proteins (OMPs) maintain the viability of Gram-negative bacteria by functioning as receptors, transporters, ion channels, lipases, and porins. Folding and assembly of OMPs involves synchronized action of chaperones and multi-protein machineries which escort the highly hydrophobic polypeptides to their target outer membrane in a folding competent state. Previous studies have identified proteins and their involvement along the OMP biogenesis pathway. Yet, the mechanisms of action and the intriguing ability of all these molecular machines to work without the typical cellular energy source of ATP, but solely based on thermodynamic principles, are still not well understood. Here, we highlight how different single-molecule studies can shed additional light on the mechanisms and kinetics of OMP biogenesis.

Autonomous vehicles rely on sensors for a clear understanding of the environment and in a heavy duty truck, the sensors are placed at multiple locations like the cabin, chassis and the trailer in order to increase the field of view and reduce the blind spot area. Usually, these sensors perform best when they are stationary relative to the ground, hence large and fast movements, which are quite common in a truck, may lead to performance reduction, erroneous data or in the worst case, a sensor failure. This enforces a need to validate the sensors before using them for making life-critical decisions. This thesis proposes Domain Adaptation as one of the strategies to co-validate Inertial Measurement Unit (IMU) sensors. The proposed Generative Adversarial Network (GAN) based framework predicts the data of one IMU using other IMUs in the truck by implicitly learning the internal dynamics. This prediction model along with other sensor fusion strategies would be used by the supervising system to validate the IMUs in real-time. Through data collected from real-world experiments, it is shown that the proposed framework is able to accurately transform raw IMU sequences across domains. A further comparison is made between Long Short Term Memory (LSTM) and WaveNet based architectures to show the superiority of WaveNets in terms of performance and computational efficiency. / Autonoma fordon förlitar sig på sensorer för att skapa en bild av omgivningen. På en tung lastbil placeras sensorerna på multipla ställen, till exempel på hytten, chassiet och på trailern för att öka siktfältet och för att minska blinda områden. Vanligtvis presterar sensorerna som bäst när de är stationära i förhållande till marken, därför kan stora och snabba rörelser, som är vanliga på en lastbil, leda till nedsatt prestanda, felaktig data och i värsta fall fallerande sensorer. På grund av detta så finns det ett stort behov av att validera sensordata innan det används för kritiskt beslutsfattande. Den här avhandlingen föreslår domänadaption som en av de strategier för att samvalidera Tröghetsmätningssensorer (IMU-sensorer). Det föreslagna Generative Adversarial Network (GAN) baserade ramverket förutspår en Tröghetssensors data genom att implicit lära sig den interna dynamiken från andra Tröghetssensorer som är monterade på lastbilen. Den här prediktionsmodellen kombinerat med andra sensorfusionsstrategier kan användas av kontrollsystemet för att i realtid validera Tröghetssensorerna. Med hjälp av data insamlat från verkliga experiment visas det att det föreslagna ramverket klarar av att med hög noggrannhet konvertera obehandlade Tröghetssensor-sekvenser mellan domäner. Ytterligare en undersökning mellan Long Short Term Memory (LSTM) och WaveNet-baserade arkitekturer görs för att visa överlägsenheten i WaveNets när det gäller prestanda och beräkningseffektivitet.

Robotics is an interdisciplinary field that integrates computer science, electrical engineering, mechanical engineering, control engineering and other related fields. As the quick development of these fields, people have been building more complex robots with more advanced control strategies in order to solve more challenging tasks. In addition, it is always a target for researchers to achieve autonomous operation of robots so that the manpower can be saved and the robot can work in harsh environment like on Mars. In this project, I focus on the trajectory planning problem of a unicycle model running in 2D environment. I choose Path Integral Policy Improvement (PI2) control algorithm in this project as the main study object. And Model Predictive Control (MPC) is chosen as a reference in order to be compared with PI2 to evaluate the performance of PI2. In order to simulate the tasks that the robot needs to handle in practice, I use obstacles to represent the complex environment and I use Signal Temporal Logic (STL) to represent the complex tasks. Furthermore, I also incorporate the deep dynamics model in the project so that the the method put forward in this project is able to handle complex robot models and complex working environments. To evaluate the performances of PI2 and MPC, five criteria are put forward in this project. Finally, based on the evaluation results, possible improvement and future research are proposed. / Robotics är ett tvärvetenskapligt område som integrerar datavetenskap, elektroteknik, maskinteknik, styrteknik och andra relaterade områden. Som den snabba utvecklingen av dessa fält har människor byggt mer komplexa robotar med mer avancerade kontrollstrategier för att lösa mer utmanande uppgifter. Dessutom är det alltid ett mål för forskare att uppnå autonom drift av robotar så att arbetskraften kan sparas och roboten kan arbeta i tuffa miljöer som på Mars. I det här projektet fokuserar jag på banplaneringsproblemet för en enhjulingsmodell som körs i 2D-miljö. Jag väljer Path Integral Policy Improvement (PI2) kontrollalgoritm i detta projekt som huvudstudieobjekt. Och Model Predictive Control (MPC) väljs som referens för att kunna jämföras med PI2 för att utvärdera prestandan för PI2. För att simulera de uppgifter som roboten behöver hantera i praktiken använder jag hinder för att representera den komplexa miljön och jag använder Signal Temporal Logic (STL) för att representera de komplexa uppgifterna. Dessutom införlivar jag också den djupa dynamikmodellen i projektet så att metoden som läggs fram i detta projekt kan hantera komplexa robotmodeller och komplexa arbetsmiljöer. För att utvärdera prestanda för PI2 och MPC presenteras fem kriterier i detta projekt. Slutligen, baserat på utvärderingsresultaten, föreslås möjliga förbättringar och framtida forskning.

Komplexe Systeme wie das Klima der Erde bestehen aus vielen Komponenten, die durch eine komplizierte Kopplungsstruktur miteinander verbunden sind. Für die Analyse solcher Systeme erscheint es daher naheliegend, Methoden aus der Netzwerktheorie, der Theorie dynamischer Systeme und dem maschinellen Lernen zusammenzubringen. Durch die Kombination verschiedener Konzepte aus diesen Bereichen werden in dieser Arbeit drei neuartige Ansätze zur Untersuchung komplexer Systeme betrachtet. Im ersten Teil wird eine Methode zur Konstruktion komplexer Netzwerke vorgestellt, die in der Lage ist, Windpfade des südamerikanischen Monsunsystems zu identifizieren. Diese Analyse weist u.a. auf den Einfluss der Rossby-Wellenzüge auf das Monsunsystem hin. Dies wird weiter untersucht, indem gezeigt wird, dass der Niederschlag mit den Rossby-Wellen phasenkohärent ist. So zeigt der erste Teil dieser Arbeit, wie komplexe Netzwerke verwendet werden können, um räumlich-zeitliche Variabilitätsmuster zu identifizieren, die dann mit Methoden der nichtlinearen Dynamik weiter analysiert werden können. Die meisten komplexen Systeme weisen eine große Anzahl von möglichen asymptotischen Zuständen auf. Um solche Zustände zu beschreiben, wird im zweiten Teil die Monte Carlo Basin Bifurcation Analyse (MCBB), eine neuartige numerische Methode, vorgestellt. Angesiedelt zwischen der klassischen Analyse mit Ordnungsparametern und einer gründlicheren, detaillierteren Bifurkationsanalyse, kombiniert MCBB Zufallsstichproben mit Clustering, um die verschiedenen Zustände und ihre Einzugsgebiete zu identifizieren. Bei von Vorhersagen von komplexen Systemen ist es nicht immer einfach, wie Vorwissen in datengetriebenen Methoden integriert werden kann. Eine Möglichkeit hierzu ist die Verwendung von Neuronalen Partiellen Differentialgleichungen. Hier wird im letzten Teil der Arbeit gezeigt, wie hochdimensionale räumlich-zeitlich chaotische Systeme mit einem solchen Ansatz modelliert und vorhergesagt werden können. / Complex systems such as the Earth's climate are comprised of many constituents that are interlinked through an intricate coupling structure. For the analysis of such systems it therefore seems natural to bring together methods from network theory, dynamical systems theory and machine learning. By combining different concepts from these fields three novel approaches for the study of complex systems are considered throughout this thesis. In the first part, a novel complex network construction method is introduced that is able to identify the most important wind paths of the South American Monsoon system. Aside from the importance of cross-equatorial flows, this analysis points to the impact Rossby Wave trains have both on the precipitation and low-level circulation. This connection is then further explored by showing that the precipitation is phase coherent to the Rossby Wave. As such, the first part of this thesis demonstrates how complex networks can be used to identify spatiotemporal variability patterns within large amounts of data, that are then further analysed with methods from nonlinear dynamics. Most complex systems exhibit a large number of possible asymptotic states. To investigate and track such states, Monte Carlo Basin Bifurcation analysis (MCBB), a novel numerical method is introduced in the second part. Situated between the classical analysis with macroscopic order parameters and a more thorough, detailed bifurcation analysis, MCBB combines random sampling with clustering methods to identify and characterise the different asymptotic states and their basins of attraction. Forecasts of complex system are the next logical step. When doing so, it is not always straightforward how prior knowledge in data-driven methods. One possibility to do is by using Neural Partial Differential Equations. Here, it is demonstrated how high-dimensional spatiotemporally chaotic systems can be modelled and predicted with such an approach in the last part of the thesis.

Die Aktivität des Hippocampus im Tiefschlaf ist geprägt durch sharp wave-ripple Komplexe (SPW-R): kurze (50–100 ms) Phasen mit erhöhter neuronaler Aktivität, moduliert durch eine schnelle “Ripple”-Oszillation (140–220 Hz). SPW-R werden mit Gedächtniskonsolidierung in Verbindung gebracht, aber ihr Ursprung ist unklar. Sowohl exzitatorische als auch inhibitorische Neuronpopulationen könnten die Oszillation generieren. Diese Arbeit analysiert Ripple-Oszillationen in inhibitorischen Netzwerkmodellen auf mikro-, meso- und makroskopischer Ebene und zeigt auf, wie die Ripple-Dynamik von exzitatorischem Input, inhibitorischer Kopplungsstärke und dem Rauschmodell abhängt. Zuerst wird ein stark getriebenes Interneuron-Netzwerk mit starker, verzögerter Kopplung analysiert. Es wird eine Theorie entwickelt, die die Drift-bedingte Feuerdynamik im Mean-field Grenzfall beschreibt. Die Ripple-Frequenz und die Dynamik der Membranpotentiale werden analytisch als Funktion des Inputs und der Netzwerkparameter angenähert. Die Theorie erklärt, warum die Ripple-Frequenz im Verlauf eines SPW-R-Ereignisses sinkt (intra-ripple frequency accommodation, IFA). Weiterhin zeigt eine numerische Analyse, dass ein alternatives Modell, basierend auf einem transienten Störungseffekt in einer schwach gekoppelten Interneuron-Population, unter biologisch plausiblen Annahmen keine IFA erzeugen kann. IFA kann somit zur Modellauswahl beitragen und deutet auf starke, verzögerte inhibitorische Kopplung als plausiblen Mechanismus hin. Schließlich wird die Anwendbarkeit eines kürzlich entwickelten mesoskopischen Ansatzes für die effiziente Simulation von Ripples in endlich großen Netzwerken geprüft. Dabei wird das Rauschen nicht im Input der Neurone beschrieben, sondern als stochastisches Feuern entsprechend einer Hazard-Rate. Es wird untersucht, wie die Wahl des Hazards die dynamische Suszeptibilität einzelner Neurone, und damit die Ripple-Dynamik in rekurrenten Interneuron-Netzwerken beeinflusst. / Hippocampal activity during sleep or rest is characterized by sharp wave-ripples (SPW-Rs): transient (50–100 ms) periods of elevated neuronal activity modulated by a fast oscillation — the ripple (140–220 Hz). SPW-Rs have been linked to memory consolidation, but their generation mechanism remains unclear. Multiple potential mechanisms have been proposed, relying on excitation and/or inhibition as the main pacemaker. This thesis analyzes ripple oscillations in inhibitory network models at micro-, meso-, and macroscopic scales and elucidates how the ripple dynamics depends on the excitatory drive, inhibitory coupling strength, and the noise model. First, an interneuron network under strong drive and strong coupling with delay is analyzed. A theory is developed that captures the drift-mediated spiking dynamics in the mean-field limit. The ripple frequency as well as the underlying dynamics of the membrane potential distribution are approximated analytically as a function of the external drive and network parameters. The theory explains why the ripple frequency decreases over the course of an event (intra-ripple frequency accommodation, IFA). Furthermore, numerical analysis shows that an alternative inhibitory ripple model, based on a transient ringing effect in a weakly coupled interneuron population, cannot account for IFA under biologically realistic assumptions. IFA can thus guide model selection and provides new support for strong, delayed inhibitory coupling as a mechanism for ripple generation. Finally, a recently proposed mesoscopic integration scheme is tested as a potential tool for the efficient numerical simulation of ripple dynamics in networks of finite size. This approach requires a switch of the noise model, from noisy input to stochastic output spiking mediated by a hazard function. It is demonstrated how the choice of a hazard function affects the linear response of single neurons and therefore the ripple dynamics in a recurrent interneuron network.