Nous présentons différents résultats liés par les outils et les structures qu'ils font intervenir (intégrales itérées, produits de mélange). Dans la première partie, nous considérons le calcul de certaines intégrales de type Selberg et leurs limites lorsque le nombre de variables tend vers l'infini. Dans le cas général, on montre que le résultat s'exprime comme un produit dont le nombre de facteurs ne dépend pas du nombre de variables (sous certaines conditions). Si la puissance du déterminant de Vandermonde vaut 2, il est possible de calculer la limite de ces intégrales lorsque le nombre de variables tend vers l'infini à l'aide d'opérateurs liés à l'interpolation de Newton. Dans la seconde partie, nous étudions les propriétés de dépendance linéaire de familles de fonctions obtenues par intégrales itérées et donnons un critère qui permet d'assurer l'indépendance linéaire d'une famille infinie de fonctions à partir de l'étude des relations entre les fonctions obtenues par intégrales simples. Nous montrons comment construire effectivement les corps de germes de fonctions analytiques nécessaires et en donnons quelques exemples qui permettent d'étendre les résultats connus sur les hyperlogarithmes. Ensuite, nous étudions certaines bases de l'algèbre libre dans le but d'appliquer la factorisation de Schützenberger. Nous rappelons quelques résultats classiques, puis nous intéressons à la famille obtenue à partir des mots de Lyndon. Celle-ci ne permet pas d'écrire la factorisation qui nous intéresse mais nous précisons les caractéristiques de sa famille duale. Enfin, nous donnons un critère relatif à deux familles en dualité assurant que l'on peut écrire cette factorisation.

Ce mémoire est consacré à la théorie des invariants des hypermatrices. <br />L'origine de la théorie des invariants date du milieu du XIX ième siècle. Le problème général, tel qu'il fut énoncé par Cayley en 1843, consiste à trouver une description de l'algèbre des polynômes invariants dans le but d'automatiser le raisonnement géométrique. <br />Assez rapidement de fortes limitations dues à la taille des calculs se manifestèrent et cette discipline se trouva de moins en moins étudiées jusque dans les années 1950 lorsque fut développée la théorie géométrique des invariants. De nos jours, l'accroissement de la puissance de calcul permet de compléter d'anciens travaux qui n'avaient pu aboutir faute de moyen informatique ainsi que de traiter de nouveaux cas. L'intérêt de cette discipline s'est accru depuis peu grâce à la découverte d'un lien avec une notion issue de la mécanique quantique et qui est à la base de l'informatique quantique: l'intrication. Le phénomène d'intrication est apparu en 1937, sous la plume sceptique de trois physiciens, Einstein , Podolsky et Rozen qui voyaient en lui une preuve de la non consistance de la théorie quantique, et est connu depuis sous le nom de paradoxe EPR. Depuis, de nombreuses expériences, dont la célèbre expérience d'Alain Aspect, ont confirmé l'existence des états intriqués.<br />Ce mémoire se décompose en deux parties. Dans la première, nous exposons les techniques fondamentales de la théorie des invariants ainsi que le lien avec l'intrication tel qu'il a été proposé par A. Klyachko. Nous montrons que l'implémentation de l'algorithme de Gordan sur un système de calcul formel permet de calculer des ensembles fondamentaux d'invariants et de covariants de certaines formes multilinéaires. En particulier, nous illustrons ce type de calcul en donnant un système complet de générateurs de l'algèbre des covariants pour une forme quadrilinéaire (système de 4-qubits). Nous montrons aussi les limites de cette approche : en donnant des éléments de calcul de la forme quintilinéaire (système de 5-qubits), nous voyons que la complexités sur-exponentielle des algèbres d'invariants interdit la généralisation de cette méthode. Pire, même si la description de ces algèbres en terme de générateurs et relations pouvait être obtenue, celle-ci serait humainement inexploitable. Nous proposons alors des pistes consistant à ne considérer que certains invariants ayant des propriétés remarquables (par exemple en étudiant la structure de Cohen-Macaulay de ces algèbres). La seconde partie est consacrée à un invariant particulier, l'hyperdéterminant. Ce polynôme généralise le déterminant de la façon la plus simple possible : il s'agit d'une somme multi-alternée sur le produit de plusieurs groupes symétriques. Après avoir donné quelques propriétés générales, nous étudions certains cas particuliers comme les hyperdéterminants de Hankel, ou les hyperdéterminants de tenseurs dont les entrées ne dépendent que du pgcd des indices etc... De nombreux résultats de cette partie sont appliqués au calcul d'intégrales itérés. En particulier, nous donnons une généralisation du théorème de Heine, une preuve alternative de l'intégrale de Selberg et des généralisations des intégrales de de Bruijn.