Missing data are ubiquitous in many domains such as healthcare. Depending on how they are missing, the (conditional) independence relations in the observed data may be different from those for the complete data generated by the underlying causal process (which are not fully observable) and, as a consequence, simply applying existing causal discovery methods to the observed data may give wrong conclusions. It is then essential to extend existing causal discovery approaches to find true underlying causal structure from such incomplete data. In this thesis, we aim at solving this problem for data that are missing completely at random (MCAR), missing at random (MAR), or missing not at random (MNAR). With missingness mechanisms represented by the Missingness Graph, we present conditions under which addition corrected to derive conditional independence/dependence relations in the complete data. Combined with the correction method that gives closed-form, consistent tests of conditional independence, the proposed causal discovery method, as an extension of the PC algorithm, is shown to give asymptotically correct results. Experiment results illustrate that with further reasonable assumptions, the proposed algorithm can correct the conditional independence for values MCAR, MAR and rather general cases of values MNAR. / Saknade data är allestädes närvarande på många områden, t.ex. sjukvård. Beroende på hur de saknas kan de (villkorliga) oberoende förhållandena i de observerade uppgifterna skilja sig från de för de fullständiga data som genereras av den underliggande orsaksprocessen (som inte är fullt observerbara) och som en följd av att helt enkelt tillämpa befintlig kausal upptäckt metoder för de observerade data kan ge felaktiga slutsatser. Det är då viktigt att förlänga befintliga metoder för kausala upptäckter för att hitta en sann underliggande kausalstruktur från sådana ofullständiga data. I denna avhandling strävar vi efter att lösa detta problem för data som saknas helt slumpmässigt (MCAR), saknas slumpmässigt (MAR) eller saknas inte slumpmässigt (MNAR). Med missmekanismer representerade av Missfallsgrafen presenterar vi förhållanden under vilka tillägg korrigerade för att härleda villkorliga oberoende/beroendeförhållanden i de fullständiga uppgifterna.Kombinerad med korrigeringsmetoden som ger sluten form, konsekventa test av villkorligt oberoende, visas att den föreslagnaorsaks-sökningsmetoden, som en förlängning av PC-algoritmen, ger asymptotiskt korrekta resultat. Experimentresultat illustrera att med ytterligare rimliga antaganden kan den föreslagna algoritmen korrigera det villkorliga oberoende för värdena MCAR, MAR och ganska generella fall av värden MNAR.

Automatic Root Cause Analysis (RCA) systems aim to streamline the process of identifying the underlying cause of software failures in complex cloud-native environments. These systems employ graph-like structures to represent causal relationships between different components of a software application. These relationships are typically learned through performance and resource utilization metrics of the microservices in the system. To accomplish this objective, numerous RCA systems utilize statistical algorithms, specifically those falling under the category of causal discovery. These algorithms have demonstrated their utility not only in RCA systems but also in a wide range of other domains and applications. Nonetheless, there exists a research gap in the exploration of the feasibility and efficacy of multivariate time series causal discovery algorithms for deriving causal graphs within a microservice framework. By harnessing metric time series data from Prometheus and applying these algorithms, we aim to shed light on their performance in a cloudnative environment. Furthermore, we have introduced an adaptation in the form of an ensemble causal discovery algorithm. Our experimentation with this ensemble approach, conducted on datasets with known causal relationships, unequivocally demonstrates its potential in enhancing the precision of detected causal connections. Notably, our ultimate objective was to ascertain reliable causal relationships within Ericsson’s cloud-native system ’X,’ where the ground truth is unavailable. The ensemble causal discovery approach triumphs over the limitations of employing individual causal discovery algorithms, significantly augmenting confidence in the unveiled causal relationships. As a practical illustration of the utility of the ensemble causal discovery techniques, we have delved into the domain of anomaly detection. By leveraging causal graphs within our study, we have successfully applied this technique to anomaly detection within the Ericsson system. / System för automatisk rotorsaksanalys (RCA) syftar till att effektivisera process för att identifiera den underliggande orsaken till programvarufel i komplexa molnbaserade miljöer. Dessa system använder grafliknande strukturer att representera orsakssamband mellan olika komponenter i en mjukvaruapplikation. Dessa relationer lär man sig vanligtvis genom prestanda och resursutnyttjande mätvärden för mikrotjänsterna i systemet. För att uppnå detta mål använder många RCAsystem statistiska algoritmer, särskilt de som faller under kategorin orsaksupptäckt. Dessa algoritmer har visat att de inte är användbara endast i RCA-system men även inom en lång rad andra domäner och applikationer. Icke desto mindre finns det en forskningslucka i utforskningen av genomförbarhet och effektivitet av orsaksupptäckt av multivariat tidsserie algoritmer för att härleda kausala grafer inom ett mikrotjänstramverk. Genom att utnyttja metriska tidsseriedata från Prometheus och tillämpa Dessa algoritmer strävar vi efter att belysa deras prestanda i ett moln- inhemsk miljö. Dessutom har vi infört en anpassning i formen av en ensemble kausal upptäcktsalgoritm. Vårt experiment med denna ensemblemetod, utförd på datauppsättningar med kända orsakssamband relationer, visar otvetydigt sin potential för att förbättra precisionen hos upptäckta orsakssamband. Särskilt vår ultimata Målet var att fastställa tillförlitliga orsakssamband inom Ericssons molnbaserade systemet ’X’, där grundsanningen inte är tillgänglig. De ensemble kausal discovery approach segrar över begränsningarna av att använda individuella kausala upptäcktsalgoritmer, avsevärt öka förtroendet för de avslöjade orsakssambanden. Som en praktisk illustration av nyttan av ensemblens kausal upptäcktstekniker har vi fördjupat oss i anomalidomänen upptäckt. Genom att utnyttja kausala grafer inom vår studie har vi framgångsrikt tillämpat denna teknik för att detektera anomali inom Ericsson system

DOCTORAL THESIS Nikola Jajcay Spatial and temporal scales of atmospheric dynamics Abstract Earth climate, in general, varies on many temporal and spatial scales. In particular, climate observables exhibit recurring patterns and quasi- oscillatory phenomena with different periods. Although these oscillations might be weak in amplitude, they might have a non-negligible influence on variability on shorter time-scales due to cross-scale interactions, recently observed by Paluš[1]. This thesis supplies an introductory material for inferring the cross-scale information transfer from observational data, where the time series of interest are obtained using wavelet transform, and possible information transfer is studied using the tools from information theory. Finally, cross- scale interactions are studied in two climate phenomena: air temperature variability in Europe, in which we study phase-amplitude coupling from a slower oscillatory mode with an 8-year period on faster variability and its effects, and El Niño/ Southern Oscillation where we observe a causal chain of phase-phase and phase-amplitude couplings among distinct oscillatory modes. [1] M. Paluš. Multiscale atmospheric dynamics: cross-frequency phase-amplitude coupling in the air temperature. Physical Review Letters, 112(7):078702, 2014.

Despite having a philosophical grounding from empiricism that spans some centuries, the algorithmization of causal discovery started only a few decades ago. This formalization of studying causal relationships relies on connections between graphs and probability distributions. In this setting, the task of causal discovery is to recover the graph that best describes the causal structure based on the available data. A particular class of causal discovery algorithms, called constraint-based methods rely on Directed Acyclic Graphs (DAGs) as an encoding of Conditional Independence (CI) relations that carry some level of causal information. However, a CI relation such as X and Y being independent conditioned on Z assumes the independence holds for all possible values Z can take, which can tend to be unrealistic in practice where causal relations are often context-specific. In this thesis we aim to develop constraint-based algorithms to learn causal structure from Context-Specific Independence (CSI) relations within the discrete setting, where the independence relations are of the form X and Y being independent given Z and C = a for some a. This is done by using Context-Specific trees, or CStrees for short, which can encode CSI relations. / Trots att ha en filosofisk grund från empirism som sträcker sig över några århundraden, algoritm isering av kausal upptäckt startade för bara några decennier sedan. Denna formalisering av att studera orsakssamband beror på samband mellan grafer och sannolikhetsfördelningar. I den här inställningen är kausal upptäckt att återställa grafen som bäst beskriver kausal strukturen baserat på tillgängliga data. En särskild klass av kausala upptäckts algoritmer, så kallade begränsnings baserade metoder, är beroende av Directed Acyclic Graphs (DAG) som en kodning av förhållanden med villkorlig självständighet (CI) som bär någon nivå av kausal information. En CI-relation som X och Y är oberoende förutsatt att Z förutsätter att oberoende gäller för alla möjliga värden som Z kan ta, vilket kan vara orealistiskt i praktiken där orsakssamband ofta är kontextspecifika. I denna avhandling strävar vi efter att utveckla begränsnings baserade algoritmer för att lära kausal struktur från Contex-Specific Independence (CSI) -relationer inom den diskreta miljön, där självständighet relationerna har formen X och Y är oberoende med tanke på Z och C = a för vissa a. Detta görs genom att använda sammanhang specifika träd, eller kortfattat CStrees, som kan koda CSI-relationer.

京都大学 / 新制・課程博士 / 博士(情報学) / 甲第24257号 / 情博第801号 / 新制||情||135(附属図書館) / 京都大学大学院情報学研究科知能情報学専攻 / (主査)教授 鹿島 久嗣, 教授 山本 章博, 教授 下平 英寿 / 学位規則第4条第1項該当 / Doctor of Informatics / Kyoto University / DFAM

Causal discovery is the problem of learning causal relationships between variables from a set of data. One interesting area of use for causal discovery is the health care domain, where application could help facilitate a better understanding of disease and treatment mechanisms. The health care domain has recently undergone a major digitization, making available a large amount of data for use in learning algorithms, available in formats such as medical images or electronic health records. This thesis aims to explore the application of causal discovery on electronic health record data. We provide an overview of the field of causal discovery and identify 3 contemporary methods for causal discovery on time-series data which we apply on a preprocessed version of the MIMIC-IV data set. Each causal discovery method is run on time-series comprising of electronic health record data related to hospital stays for patients with sepsis. We provide an empiric report of the overlap between the learned graphs from different hospital stays as a heuristic evaluation measure. We find that it is possible to identify common themes in the learned graphs between different causal discovery methods, indicating potential practical value of causal discovery on electronic health record data. We also identify important considerations for future application and evaluation, such as incorporating extensive domain knowledge, and provide suggestions for future work. / Kausal upptäckt är problemet med att lära sig orsakssamband mellan variabler från en uppsättning data. Ett intressant användningsområde för kausal upptäckt är hälso- och sjukvårdsdomänen, där tillämpning kan bidra till en bättre förståelse av sjukdomar och behandlingsmekanismer. Sjukvårdsdomänen har nyligen genomgått en stor digitalisering vilket gör en stor mängd data tillgänglig för användning i inlärningsalgoritmer, tillgänglig i format som medicinska bilder eller elektroniska patientjournaler. Denna avhandling syftar till att utforska tillämpningen av kausal upptäckt på elektroniska patientjournaler. Vi ger en översikt över området för kausal upptäckt och identifierar 3 samtida metoder för kausal upptäckt på tidsseriedata som vi tillämpar på en förbearbetad version av MIMIC-IV-datauppsättningen. Varje identifierad metod för kausal upptäckt körs på tidsserier som består av elektroniska patientjournaler relaterade till sjukhusvistelser för patienter med sepsis. Vi tillhandahåller en empirisk rapport över överlappningen mellan de inlärda graferna från olika sjukhusvistelser som ett heuristiskt utvärderingsmått. Vi finner att det är möjligt att identifiera gemensamma teman i de inlärda graferna mellan olika kausala upptäcktsmetoder, vilket indikerar potentiellt praktiskt värde av kausal upptäckt på elektroniska patientjournaler. Vi identifierar också viktiga överväganden för framtida tillämpning och utvärdering, såsom att integrera omfattande domänkunskap, och ger förslag för framtida arbete.

A partir de données d'observation classiques, il est rarement possible d'arriver à une structure de réseau bayésien qui soit complètement causale. Le point théorique auquel nous nous intéressons est l'apprentissage des réseaux bayésiens causaux, avec ou sans variables latentes. Nous nous sommes d'abord focalisés sur la découverte de relations causales lorsque toutes les variables sont connues (i.e. il n'y a pas de variables latentes) en proposant un algorithme d'apprentissage utilisant à la fois des données issues d'observations et d'expérimentations. Logiquement, nous nous sommes ensuite concentrés sur le même problème lorsque toutes les variables ne sont pas connues. Il faut donc découvrir à la fois des relations de causalité entre les variables et la présence éventuelle de variables latentes dans la structure du réseau bayésien. Pour cela, nous tentons d'unifier deux formalismes, les modèles causaux semi-markoviens (SMCM) et les graphes ancestraux maximaux (MAG), utilisés séparément auparavant, l'un pour l'inférence causale (SMCM), l'autre pour la découverte de causalité (MAG). Nous nous sommes aussi interessé à l'adaptation de réseaux bayésiens causaux pour des systèmes multi-agents, et sur l'apprentissage de ces modèles causaux multi-agents (MACM).

Performing causal reasoning in a scene is an inherent mechanism in human cognition; however, the majority of approaches in the causality literature aiming for this task still consider constrained scenarios, such as simple physical systems or stationary time-series data. In this work we aim for causal discovery in videos concerning realistic scenarios. We gather motivation for causal discovery by acknowledging this task to be core at human cognition. Moreover, we interpret the scene as a composition of time-series that interact along the sequence and aim for modeling the non-stationary behaviors in a scene. We propose State-dependent Causal Inference (SDCI) for causal discovery in conditional stationary time-series data. We formulate our problem of causal analysis by considering that the stationarity of the time-series is conditioned on a categorical variable, which we call state. Results show that the probabilistic implementation proposed achieves outstanding results in identifying causal relations on simulated data. When considering the state being independent from the dynamics, our method maintains decent accuracy levels of edge-type identification achieving 74.87% test accuracy when considering a total of 8 states. Furthermore, our method correctly handles regimes where the state variable undergoes complex transitions and is dependent on the dynamics of the scene, achieving 79.21% accuracy in identifying the causal interactions. We consider this work to be an important contribution towards causal discovery in videos. / Att utföra kausala resonemang i en scen är en medfödd mekanism i mänsklig kognition; dock betraktar fortfarande majoriteten av tillvägagångssätt i kausalitetslitteraturen, som syftar till denna uppgift, begränsade scenarier såsom enkla fysiska system eller stationära tidsseriedata. I detta arbete strävar vi efter kausal upptäckt i videor om realistiska scenarier. Vi samlar motivation för kausal upptäckt genom att erkänna att denna uppgift är kärnan i mänsklig kognition. Dessutom tolkar vi scenen som en komposition av tidsserier som interagerar längs sekvensen och syftar till att modellera det icke-stationära beteendet i en scen. Vi föreslår Tillståndsberoende kausal inferens (SDCI) för kausal upptäckt i villkorlig stationär tidsseriedata. Vi formulerar vårt problem med kausalanalys genom att anse att tidsseriens stationäritet är villkorad av en kategorisk variabel, som vi kallar tillstånd. Resultaten visar att det föreslagna probabilistiska genomförandet uppnår enastående resultat vid identifiering av orsakssambandet på simulerade data. När man överväger att tillståndet är oberoende av dynamiken, upprätthåller vår metod anständiga noggrannhetsnivåer av kanttypsidentifiering som uppnår 74, 87% testnoggrannhet när man överväger totalt 8 tillstånd. Dessutom hanterar vår metod korrekt regimer där tillståndsvariabeln genomgår komplexa övergångar och är beroende av dynamiken på scenen och uppnår 79, 21% noggrannhet för att identifiera kausala interaktioner. Vi anser att detta arbete är ett viktigt bidrag till kausal upptäckt i videor.