Ce mémoire est consacré à la théorie des invariants des hypermatrices. <br />L'origine de la théorie des invariants date du milieu du XIX ième siècle. Le problème général, tel qu'il fut énoncé par Cayley en 1843, consiste à trouver une description de l'algèbre des polynômes invariants dans le but d'automatiser le raisonnement géométrique. <br />Assez rapidement de fortes limitations dues à la taille des calculs se manifestèrent et cette discipline se trouva de moins en moins étudiées jusque dans les années 1950 lorsque fut développée la théorie géométrique des invariants. De nos jours, l'accroissement de la puissance de calcul permet de compléter d'anciens travaux qui n'avaient pu aboutir faute de moyen informatique ainsi que de traiter de nouveaux cas. L'intérêt de cette discipline s'est accru depuis peu grâce à la découverte d'un lien avec une notion issue de la mécanique quantique et qui est à la base de l'informatique quantique: l'intrication. Le phénomène d'intrication est apparu en 1937, sous la plume sceptique de trois physiciens, Einstein , Podolsky et Rozen qui voyaient en lui une preuve de la non consistance de la théorie quantique, et est connu depuis sous le nom de paradoxe EPR. Depuis, de nombreuses expériences, dont la célèbre expérience d'Alain Aspect, ont confirmé l'existence des états intriqués.<br />Ce mémoire se décompose en deux parties. Dans la première, nous exposons les techniques fondamentales de la théorie des invariants ainsi que le lien avec l'intrication tel qu'il a été proposé par A. Klyachko. Nous montrons que l'implémentation de l'algorithme de Gordan sur un système de calcul formel permet de calculer des ensembles fondamentaux d'invariants et de covariants de certaines formes multilinéaires. En particulier, nous illustrons ce type de calcul en donnant un système complet de générateurs de l'algèbre des covariants pour une forme quadrilinéaire (système de 4-qubits). Nous montrons aussi les limites de cette approche : en donnant des éléments de calcul de la forme quintilinéaire (système de 5-qubits), nous voyons que la complexités sur-exponentielle des algèbres d'invariants interdit la généralisation de cette méthode. Pire, même si la description de ces algèbres en terme de générateurs et relations pouvait être obtenue, celle-ci serait humainement inexploitable. Nous proposons alors des pistes consistant à ne considérer que certains invariants ayant des propriétés remarquables (par exemple en étudiant la structure de Cohen-Macaulay de ces algèbres). La seconde partie est consacrée à un invariant particulier, l'hyperdéterminant. Ce polynôme généralise le déterminant de la façon la plus simple possible : il s'agit d'une somme multi-alternée sur le produit de plusieurs groupes symétriques. Après avoir donné quelques propriétés générales, nous étudions certains cas particuliers comme les hyperdéterminants de Hankel, ou les hyperdéterminants de tenseurs dont les entrées ne dépendent que du pgcd des indices etc... De nombreux résultats de cette partie sont appliqués au calcul d'intégrales itérés. En particulier, nous donnons une généralisation du théorème de Heine, une preuve alternative de l'intégrale de Selberg et des généralisations des intégrales de de Bruijn.