Les travaux de cette thèse s’inscrivent dans le cadre de la formalisation mathématique des lois de comportement de matériaux anisotropes permettant de modéliser les tissus organiques (ligaments, muscles, tendons, parois artérielles …), les caoutchoucs renforcés par des fibres ou encore les composites textiles utilisés en aéronautique ou en génie civil. A partir des années 1950, l’utilisation de la théorie des invariants a été intensivement étudiée dans le cadre de la mécanique des milieux continus et plusieurs familles d’invariants ont alors été proposées. Cependant, l’utilisation de ces invariants soulève plusieurs difficultés :• Il en existe une grande diversité, ce qui ne facilite pas leur choix dans le cadre d’une modélisation éléments finis,• Certains sont difficiles à interpréter physiquement,• Ils nécessitent souvent la superposition deux densités d’énergie : l’une pour la description du comportement isotrope et l’autre pour la description du comportement purement anisotrope.Pour surmonter ces difficultés, une méthode constructive a été récemment proposée par Thionnet et al. Elle permet de s'assurer de l'unicité (à une relation près) de l'écriture polynômiale des invariants. Nous avons adapté cette méthode au cas des matériaux hyperélastiques anisotropes dans les cas d’un matériau constitué de deux familles puis d’une seule famille de fibre de collagène. Dans le premier cas, le théorème de Noether et l’opérateur de Reynolds ont été employés. Le second cas est techniquement plus complexe à aborder car le groupe de symétrie matérielle n’est plus de cardinal fini. L’opérateur de Reynolds n’a alors plus de sens et le théorème de Noether n’est plus applicable. Pour pallier cette situation, nous avons introduit un opérateur de Reynolds généralisé et avons montré que les propriétés associées à ce nouvel opérateur constituaient une extension de l’opérateur classique. Dans les deux cas, nous avons réussi à exhiber une base d’intégrité constituée d’invariants qui, pour certains, se démarquent de ceux classiquement trouvés dans la littérature.En particulier, dans le cas d’une famille de fibre, nous avons pu établir, grâce au théorème de Kantorovich, que l’un de ces invariants était relié au maximum de l’angle de cisaillement entre la fibre et la matrice. / This thesis concerns a mathematical formulation of anisotropic behavior laws for the modeling of biological soft tissues (such as ligaments, muscle, tendons or arterial walls), fibers reinforced rubbers and textile composites used in aeronautical industry or for civil engineering applications. From the fifties, the theory of invariants was extensively developped in the framework of continuum mechanics and several families of invariants were proposed. However the use of these invariants meets some problems:• Because of a wide diversity, it is uneasy to well choose them in order to perform a finite element analysis.• It is difficult to give a physical meaning to some of them.• They often require the superposition of two strain energy densities: one for the description of the isotropic behavior of the material and one for the purely anisotropic behavior.To overcome these problems, a constructive method was recently proposed by Thionnet et al. It ensures the uniqueness (up to an algebraic relation) of the polynomial expression of the invariants. We have adapted this method to the case of anisotropic hyperelastic materials with two and with one single family of collagen fibers. In the first case, the Noether theorem and the Reynolds operator were used. The second case is more complex because the symmetry group is not of finite cardinal. Therefore, the Reynolds operator does not make sense anymore and the Noether theorem cannot be used. To overcome these technical difficulties, we have introduced a generalized Reynolds operator and we have shown that this operator is nothing but the extension of the classical one. In both cases of materials treated, we have succeeded to calculate an integrity basis made of invariants which are different (for some of them) from the classical ones found in the literature. In the case of the single family of fibers, we have demonstrated, thanks to the Kantorovich theorem, that one of those invariant was linked to the maximum value of the shear angle between the fiber and the matrix.