Phylogeny, the study of evolutionary relationships among species and other taxa, plays a crucial role in understanding the history of life. Bayesian analysis using Markov chain Monte Carlo (MCMC) is a widely used approach for inferring phylogenetic trees, but it suffers from slow convergence in higher dimensions and is slow to converge. This thesis focuses on exploring variational inference (VI), a methodology that is believed to lead to improved speed and accuracy of phylogenetic models. However, VI models are known to concentrate the density of the learned approximation in high-likelihood areas. This thesis evaluates the current state of Variational Inference Bayesian Phylogenetics (VBPI) and proposes a solution using a mixture of components to improve the VBPI method's performance on complex datasets and multimodal latent spaces. Additionally, we cover the basics of phylogenetics to provide a comprehensive understanding of the field. / Fylogeni, vilket är studien av evolutionära relationer mellan arter och andra taxonomiska grupper, spelar en viktig roll för att förstå livets historia. En ofta använd metod för att dra slutsatser om fylogenetiska träd är bayesiansk analys med Markov Chain Monte Carlo (MCMC), men den lider av långsam konvergens i högre dimensioner och kräver oändligt med tid. Denna uppsats fokuserar på att undersöka hur variationsinferens (VI) kan nyttjas inom fylogenetisk inferens med hög noggranhet. Vi fokuserar specifik på en modell kallad VBPI. Men VI-modeller är allmänt kända att att koncentrera sig på höga sannolikhetsområden i posteriorfördelningar. Vi utvärderar prestandan för Variatinal Inference Baysian Phylogenetics (VBPI) och föreslår en förbättring som använder mixturer av förslagsfördelningar för att förbättra VBPI-modellens förmåga att hantera mer komplexa datamängder och multimodala posteriorfördelningar. Utöver dettta går vi igenom grunderna i fylogenetik för att ge en omfattande förståelse av området.

Gene tree-species tree reconciliation is the problem of mapping each node in a gene tree to a position in a species tree. Several methods have been used to address this problem. Variational inference is a method for finding the best approximation to the true distribution in a family of distributions. In this project, we investigated whether variational inference is a useful method to address the gene tree-species tree reconciliation problem. The distribution of trees is modeled by a so-called Subsplit Bayesian Network (SBN), and the evolution process is modeled by a birth-death process with constant duplication- and loss rate. We implemented the method in Python and compared it with A Variational Approach to Bayesian Phylogenetic Inference [1] (VBPI) [1] using synthetic data. The result showed that our method outperformed VBPI in most test cases. / Genträd-artträdsförsoning är problemet med att kartlägga varje nod i ett genträd till en position i ett artträd. Flera metoder har använts för att lösa detta problem. Variationsinferens är en metod för att hitta den bästa approximationen till den sanna fördelningen i en familj av sannolikhetsfördelningar. I det här projektet undersökte vi om variationsinferens är en användbar metod för att lösa Genträd-artträdsförsoningproblemet. Fördelningen av träd modelleras av ett så kallat subsplit Bayesian-nätverk (SBN), och evolutionsprocessen är modellerad av en födelse-dödsprocess med konstant duplicering- och förlusthastighet. Vi implementerade metoden i Python och jämförde den med VBPI [1] med syntetisk data. Resultatet visade att vår metod överträffade VBPI i de flesta testfallen.