Neural network training algorithms have always suffered from the problem of local minima. The advent of natural gradient algorithms promised to overcome this shortcoming by finding better local minima. However, they require additional training parameters and computational overhead. By using a new formulation for the natural gradient, an algorithm is described that uses less memory and processing time than previous algorithms with comparable performance.

Applications in various research areas such as signal processing, quantum computing, and computer vision, can be described as constrained optimization tasks on certain subsets of tensor products of vector spaces. In this work, we make use of techniques from Riemannian geometry and analyze optimization tasks on subsets of so-called simple tensors which can be equipped with a differentiable structure. In particular, we introduce a generalized Rayleigh-quotient function on the tensor product of Grassmannians and on the tensor product of Lagrange- Grassmannians. Its optimization enables a unified approach to well-known tasks from different areas of numerical linear algebra, such as: best low-rank approximations of tensors (data compression), computing geometric measures of entanglement (quantum computing) and subspace clustering (image processing). We perform a thorough analysis on the critical points of the generalized Rayleigh-quotient and develop intrinsic numerical methods for its optimization. Explicitly, using the techniques from Riemannian optimization, we present two type of algorithms: a Newton-like and a conjugated gradient algorithm. Their performance is analysed and compared with established methods from the literature. / Viele Fragestellungen aus den unterschiedlichen mathematischen Disziplinen, wie z.B. Signalverarbeitung, Quanten-Computing und Computer-Vision, können als Optimierungsprobleme auf Teilmengen von Tensorprodukten von Vektorräumen beschrieben werden. In dieser Arbeit verwenden wir Techniken aus der Riemannschen Geometrie, um Optimierungsprobleme für Mengen von sogenannten einfachen Tensoren, welche mit einer differenzierbaren Struktur ausgestattet werden können, zu untersuchen. Insbesondere führen wir eine verallgemeinerte Rayleigh-Quotienten-Funktion auf dem Tensorprodukt von Graßmann-Mannigfaltigkeiten bzw. Lagrange-Graßmann-Mannigfaltigkeiten ein. Dies führt zu einem einheitlichen Zugang zu bekannten Problemen aus verschiedenen Bereichen der numerischen linearen Algebra, wie z.B. die Niedrig–Rang–Approximation von Tensoren (Datenkompression), die Beschreibung geometrischer Maße für Quantenverschränkung (Quanten-Computing) und Clustering (Bildverarbeitung). Wir führen eine gründliche Analyse der kritischen Punkte des verallgemeinerten Rayleigh-Quotienten durch und entwickeln intrinsische numerische Methoden für dessen Optimierung. Wir stellen zwei Arten von Algorithmen vor, die wir mit Hilfe von Techniken aus der Riemannsche Optimierung entwickeln: eine mit Gemeinsamkeiten zum Newton-Verfahren und eine zum CG-Verfahren ähnliche. Wir analysieren die Performance der Algorithmen und vergleichen sie mit gängigen Methoden aus der Literatur.

Bakgrund: Tidigare forskning har visat att den aeroba kapaciteten i delar av den svenska befolkningen har försämrats under en längre tid. Syfte: Syftet med uppsatsen är att undersöka ifall de mönstrande ungdomarna för åren 2001, 2008 och 2018 följer samma nedåtgående trend när det gäller aerob kapacitet som tidigare forskning har visat för andra delar av befolkningen. Samt undersöka om en liknande nedåtgående trend går att hitta för muskelstyrka. Metod: Data som samlades in var från Rekryteringsmyndighetens mönstringstester för åren 2001(män N=18 074, kvinnor N=487), 2008(män N=15709, kvinnor N=911) och 2018(män N=4453, kvinnor N=1346). Dessa data jämfördes emot varandra med ett t-test. Data som analyserades var muskelstyrka, aerob kapacitet och vikt. Resultat: Resultatet för kvinnor och män när det gäller aerob kapacitet minskade med 7 % för kvinnor respektive 8 % för män från året 2001. Resultatet gällande muskelstyrka ökade med 8 % för kvinnor och 11 % för män från året 2001. Slutsats: Den minskade aeroba kapacitet ligger i linje med den tidigare forskningen som visar en försämring hos både kvinnor och män. Trenden när det gäller muskelstyrka visar en förbättring hos både kvinnor och män. Detta öppnar frågan för vad dessa trender beror på?

Cette thèse porte sur la simulation numérique de modèles couplés pour l'écoulement et le transport dans les milieux poreux. Nous présentons une nouvelle méthode de couplage entre les réactions chimiques et le transport en utilisant une méthode de Newton-Krylov, et nous étudions également un modèle d'écoulement en milieu fracturé qui traite l'intersection des fractures par une méthode de décomposition de domaine. <br /> Ce travail est divisé en trois parties : la première partie contient une analyse de différents schémas numériques pour la discrétisation des problèmes d'advection-diffusion, notamment par une technique de séparation d'opérateurs, ainsi que leur mise en oeuvre informatique, dans un code industriel.<br /> La deuxième partie, qui est la contribution majeure de cette thèse, est consacrée à la modélisation et à l'implémentation d'une méthode de couplage globale pour le transport réactif. Le système couplé transport-chimie est décrit, après discrétisation en temps, par un système d'équations non linéaires. La taille du système sous-jacent, à savoir le nombre de points de grille multiplié par le nombre d'espèces chimiques, interdit la résolution du système linéaire par une méthode directe. Pour remédier à cette difficulté, nous utilisons une méthode de Newton-Krylov qui évite de former et de factoriser la matrice Jacobienne. <br /> Dans la dernière partie, nous présentons un modèle d'écoulement dans un milieu fracturé tridimensionnel, basé sur une méthode de décomposition de domaine, et qui traite l'intersection des fractures. Nous démontrons l'existence et l'unicité de la solution, et nous validons le modèle par des tests numériques.

.

.

La présente étude vise à vérifier la conjecture faite par B. Gross relative à l'existence de corps de nombres de groupe de Galois non résoluble et ramifiés en un unique premier p < 11.<br />À travers ce travail, nous nous intéressons au cas des corps de nombres de degré n ≤ 9. Après quelques rappels généraux sur les outils utilisés, on présente les méthodes pratiques permettant de vérifier cette conjecture.<br />Les travaux de J. Jones ont montré que les corps de nombres de degré 5 et 6 vérifiant ces types de ramification ont tous un groupe de Galois résoluble.<br />Dans le cas du degré 7, S. Brueggeman a abouti au même résultat que le travail sus cité.<br />Nos travaux dans le cas des degrés 8 et 9 montrent que sous GRH ou de façon inconditionnelle, la ramification en 5 n'est pas possible. À l'issue des recherches numériques, les seules tables obtenues sont celles de la ramification en p = 2 en degré 8 et celles de la ramification en p = 3 en degré 9. Les corps obtenus ont tous un groupe de Galois résoluble, montrant ainsi que cette conjecture de B. Gross n'est pas vérifiée pour les corps de nombres de degré n ≤ 9.

Soient k un corps algébriquement clos et V une variété algébrique sur k. Dans le but d'étudier la géométrie du lieu singulier de V, John Nash a introduit l'espace d'arcs et les espaces de m-jets, m>0, dans une prépublication de 1968 qui a été publiée en 1995. Il a aussi défini une application, actuellement connue sous le nom d'application de Nash, qui associe à chaque famille d'arcs passant par le lieu singulier de V (composante de Nash) un diviseur essentiel sur V. Nash a démontré que cette application est injective. Le problème de Nash consiste à étudier la surjectivité de l'application de Nash. Dans plusieurs cas de variétés V, la bijectivité de cette application a été prouvée. Or, un exemple d'une singularité isolée d'hypersurface de l'espace affine de dimension 5 avec deux diviseurs essentiels et une composante de Nash a été donné dans un article de 2003. À l'heure actuelle, déterminer l'image de l'application de Nash reste un problème difficile, mêmes dans le cas de singularités bien connues. Dans cette thèse, on démontre la bijectivité de l'application de Nash pour certaines familles de singularités isolées d'hypersurfaces des espaces affines de dimension 3 et 4.

Notre contribution concerne les trois domaines complémentaires suivants: la différentiation automatique de programmes, l'optimisation de formes pour de grands systèmes, l'adaptation de maillages. Dans le chapitre 1 de la partie 1, nous exposons une méthode de calcul de gradients par Différentiation Automatique pour un problème classique d'optimisation de formes. Nous expliquons comment déduire un gradient exact basé sur un état adjoint sans stocker explicitement le jacobien. Le mode adjoint de la DA que nous proposons utilise beaucoup moins d'espace mémoire. Dans le chapitre 2 de la partie 2, nous proposons une méthode de type SQP pour résoudre une classe de problèmes d'optimisation avec contraintes égalités. Le nouvel algorithme permet une résolution simultanée du système d'optimalité. Cette méthode one shot combine efficacité et robustesse. Dans le chapitre 3 de la partie 2, nous étudions une nouvelle stratégie de préconditionnement pour l'optimisation de formes. Nous construisons un préconditionnement multiniveau additif à partir du principe classique de Bramble-Pasciak-Xu et du principe d'agglomération. Nous spécifions aisément le gain en régularité de notre préconditionneur avec un seul paramètre réel. Dans le chapitre 1 de la partie 3, nous étudions le problème du meilleur maillage adapté pour de l'interpolation pure. La résolution du système d'optimalité donne une expression complètement explicite de la métrique optimale en fonction de la fonction à adapter. Dans le chapitre 2 de la partie 3, nous étendons la méthode du chapitre précédent au problème de l'adaptation de maillage pour EDP. Notre méthode repose sur une analyse a priori rigoureuse puis sur une modélisation.

<p>In comparison to other basic arithmetic operations, such as addition, subtraction and multiplication,division is far more complex and expensive. Many division algorithms, except for lookup tables, rely on recursion with usually complex operations in the loop. Even if the cost in terms of area and computational complexity sometimes can be made low, the latency is usually high anyway, due to the number of iterations required. Therefore, in order to find a faster method and a method that provides better precision, a non-recursive polynomial-based algorithm was developed by the Department of Electrical Engineering at Linköping University. </p><p>After having performed high-level modelling in Matlab, promising results were achieved for up to 32 bits of accuracy. However, since the cost model did not take in account other factors that are important when implementing in hardware, the question remained whether the division algorithm was also competitive in practice or not. Therefore, in order to investigate that, this thesis work was initiated. </p><p>This report describes the hardware implementation, the optimization and the evaluation of this division algorithm, regarding latency and hardware cost for numbers with different precisions. In addition to this algorithm, the common Newton-Raphson algorithm has also been implemented, to serve as a reference.</p>