Cette thèse se compose de deux parties. Partie 1 étudie la décomposition des groupes de cohomologie pour une famille de courbes non hyperelliptiques de genre 3 avec une involution, et le bénéfice d'une telle décomposition dans le calcul de Frobenius utilisant l'algorithme de Kedlaya. L'involution d'une telle courbe C induit un morphisme de degré 2 vers une courbe elliptique E, ce qui donne une décomposition de Jac(C) en E et en une surface abélienne A, à partir desquelles le Frobenius sur C peut être récupérée. En E, le polynôme caractéristique du Frobenius peut être calculé en utilisant un algorithme efficace et rapide en pratique. En travaillant avec le sous-groupe V de $H^1_{MW}(C)$, on obtient une meilleure constante que l'application directe de la méthode de Kedlaya à C. À ma connaissance, ceci est la première utilisation de la décomposition de la cohomologie induite par une décomposition (à isogénie près) de la jacobienne en l'algorithme de Kedlaya. Dans partie 2, je propose une nouvelle approche aux distributions de Frobenius et aux groupes de Sato-Tate, qui utilise les relations d'orthogonalité des caractères irréductibles du groupe de Lie USp(2g) et ses sous-groupes. Dans ce but, je présente d'abord une méthode simple pour calculer les caractères irréductibles de USp(2g), et puis je développe un algorithme basé sur la formule de Brauer-Klimyk. Les avantages de cette nouvelle approche sont examinés en détail. J'utilise aussi la famille de courbes dans partie 1 comme une étude de cas. Les analyses et les comparaisons montrent que l'approche par la théorie des caractères est un outil plus intrinsèque et très prometteur pour l'étude des groupes de Sato-Tate. / This thesis consists of two parts. Part 1 studies the decomposition of cohomology groups induced by automorphisms for a family of non-hyperelliptic genus 3 curves with involution, and I investigate the benefit of such decomposition in the computation of Frobenius using Kedlaya's algorithm. The involution of a curve C in this family induces a degree 2 map to an elliptic curve E, which gives a decomposition of the Jacobian of C into E and an abelian surface A, from which the Frobenius on C can be recovered. On E, the characteristic polynomial of the Frobenius can be computed using an efficient and fast algorithm. By working with the cohomology subgroup V of $H^1_{MW}(C)$, we get a constant speed-up over a straightforward application of Kedlaya's method to C. To my knowledge, this is the first use of decomposition of the cohomology induced by an isogeny decomposition of the Jacobian in Kedlaya's algorithm. In Part 2, I propose a new approach to Frobenius distributions and Sato-Tate groups, which uses the orthogonality relations of the irreducible characters of the compact Lie group USp(2g) and its subgroups. To this purpose, I first present a simple method to compute the irreducible characters of USp(2g), then I develop an algorithm based on the Brauer-Klimyk formula. The advantages of this new approach to Sato-Tate groups are examined in detail. The results show that the error grows slowly. I also use the family of genus 3 curves studied in Part 1 as a case study. The analyses and comparisons show that the character theory approach is a more intrinsic and very promising tool for studying Sato-Tate groups.