L'orbite gravitationnelle d'une comète est affectée par la sublimation de la glace d'eau, un des principaux composants du noyau, lorsqu'elle s'approche du Soleil. Ce dégazage anisotrope produit une force dite non-gravitationnelle qui modifie de façon significative l'orbite de la comète. L'amplitude des perturbations dépend de plusieurs paramètres qui peuvent être contraints par différents types d'observations telles que les observations astrométriques et photométriques ou encore les taux de production d'eau observés en radio astronomie. Jusqu'à maintenant, la modélisation de ces effets est essentiellement fondée sur un modèle empirique défini dans les années 70 par Marsden et al. (1973) utilisant un dégazage isotrope. Dans cette thèse, j'ai développé une nouvelle approche de la physique du problème des forces non-gravitationnelles faisant intervenir différents paramètres physiques tels que les position et vitesse initiales de la comète, son activité, la direction de l'axe de rotation, la masse du noyau et donc sa densité si son volume est connu, paramètre essentiel pour la compréhension de la formation des comètes. J'ai ainsi pu déduire leur valeur par ajustement d'orbite et de données photométriques. Ce travail a été appliqué à deux comètes : 19P/Borrelly pour le développement et la validation ma méthode, et 67P/Churyumov-Gerasimenko la cible de la mission spatiale européenne Rosetta dont la connaissance de la masse est primordiale.