Many novel graph neural network models have reported an impressive performance on benchmark dataset, but the theory behind these networks is still being developed. In this thesis, we study the trajectory of Gradient descent (GD) and Stochastic gradient descent (SGD) in the loss landscape of Graph neural networks by replicating Xing et al. [1] study for feed-forward networks. Furthermore, we empirically examine if the training process could be accelerated by an optimization algorithm inspired from Stochastic gradient Langevin dynamics and what effect the topology of the graph has on the convergence of GD by perturbing its structure. We find that the loss landscape is relatively flat and that SGD does not encounter any significant obstacles during its propagation. The noise-induced gradient appears to aid SGD in finding a stationary point with desirable generalisation capabilities when the learning rate is poorly optimized. Additionally, we observe that the topological structure of the graph plays a part in the convergence of GD but further research is required to understand how. / Många nya grafneurala nätverk har visat imponerande resultat på existerande dataset, dock är teorin bakom dessa nätverk fortfarande under utveckling. I denna uppsats studerar vi banor av gradientmetoden (GD) och den stokastiska gradientmetoden (SGD) i lösningslandskapet till grafiska faltningsnätverk genom att replikera studien av feed-forward nätverk av Xing et al. [1]. Dessutom undersöker vi empiriskt om träningsprocessen kan accelereras genom en optimeringsalgoritm inspirerad av Stokastisk gradient Langevin dynamik, samt om grafens topologi har en inverkan på konvergensen av GD genom att ändra strukturen. Vi ser att lösningslandskapet är relativt plant och att bruset inducerat i gradienten verkar hjälpa SGD att finna stabila stationära punkter med önskvärda generaliseringsegenskaper när inlärningsparametern har blivit olämpligt optimerad. Dessutom observerar vi att den topologiska grafstrukturen påverkar konvergensen av GD, men det behövs mer forskning för att förstå hur.

Proteinadsorption ist in vielen biotechnologischen Anwendungen ubiquitär und ein zentrales Forschungsfeld in der Physik der weichen Materie. Das Verstehen der treibenden Kräfte hinter der Proteinadsorption würde zu einer besseren Kontrolle des Adsorptionsprozesses führen und die Entwicklung von Biosystemen mit beispielloser Funktionalität ermöglichen. In der vorliegenden Arbeit wird die Proteinadsorption an weichen polymerartigen Biomaterialien sowie deren physikalische Wechselwirkungen unter Verwendung von zwei unterschiedlichen neu entwickelten Ansätzen theoretisch untersucht. Im ersten Teil wird ein neues mehrkomponentiges kooperatives Bindungsmodell entwickelt, um die Gleichgewichts-Adsorption von Proteinen auf Mikrogelen zu beschreiben. Es war somit möglich, die wahre treibende Kraft der Proteinadsorption zu identifizieren, die hauptsächlich elektrostatischen Ursprungs ist. Eine Errungenschaft des kooperativen Bindungsmodells ist die Vorhersage der kompetitiven Proteinadsorption und -desorption auf das Mikrogel, die auf thermodynamischen Parametern der Adsorption von Proteinen einzelner Sorten basiert. Vergleiche zwischen Experimenten mit binären Proteinmischungen und theoretischen Berechnungen zeigten sehr gute Übereinstimmungen. Der zweite Teil fokussiert auf Protein-Wechselwirkungen mit Polyelektrolyten, um Adsorptionsprozesse auf mikroskopischer Ebene zu erklären. Dafür wurden geladene fleckige Partikel konstruiert und als Proteinmodelle verwendet, während ein einfaches Kugel-Feder-Modell für das Polyelektrolyt und Polyelektrolytbürste benutzt wurde. Ein zentraler Aspekt war die Bestimmung der freien Energie, das Potential der mittleren Kraft (PMF), für die Komplexbildung der beiden Bestandteile mit Vergleichen zur Modellentwicklungen. Die Simulationsergebnisse legen ein komplexes Wechselspiel von elektrostatischen Kräften und Ionenfreisetzungsmechanismen dar, die für die starken attraktiven Wechselwirkungen in den PMFs verantwortlich sind. / Protein adsorption is ubiquitous in many biotechnological applications and has become a central research field in soft matter. Understanding the driving forces behind protein adsorption would allow a better control of the adsorption process and the development of biosystems with unprecedented functionality. In this thesis, protein adsorption onto soft polymeric biomaterials and their physical interactions is studied theoretically by using two different and newly developed approaches. In the first part, a novel multi-component cooperative binding model is developed to describe the equilibrium adsorption of proteins onto microgels. It was thus possible to correctly identify the true driving force behind the protein adsorption which was found to be mainly of electrostatic origin. A key achievement by the cooperative binding model is the prediction of competitive protein adsorption and desorption onto the microgel that is based on thermodynamic parameters related to single-type protein adsorption without any variable parameters. Comparisons between experimental data of binary protein mixtures and theoretical calculations have shown excellent agreements. The second part is focused on protein interactions with polyelectrolyte materials to elucidate adsorption processes on a microscopic level. For this purpose, charged patchy particles are constructed and used as protein models while a simple bead-spring model is employed for the polyelectrolyte and polyelectrolyte brush. A central aspect was the determination of the associated free energy, the potential of mean force (PMF), on the complex formation between the two constituents with comparisons to theoretical model developments. The simulation results evidenced a complex interplay of electrostatic forces and ion release mechanisms to be responsible for the strong attractive interactions observed in the PMFs.