Les travaux réalisés dans le cadre de cette thèse ont consisté en la réalisation d'un système de détection non destructif assisté par cavité d'atomes piégés sur réseau optique pour l'amélioration de la stabilité d'une horloge optique au strontium. La caractérisation de ce système dans son fonctionnement en régime classique, dans lequel les atomes piégés diffusent suffisamment peu de photons pour ne pas être expulsés du piège durant la détection, a mis en évidence des améliorations significatives en termes de rapport signal à bruit avec un gain d'un facteur cent en comparaison avec le système précédent de détection par fluorescence. Les gains en termes de stabilité par réduction de l'effet Dick restent cependant à concrétiser.Pour la réalisation du régime quantique, dans lequel moins d'un photon est diffusé par atome durant la détection, des idées nouvelles et des changements significatifs ont du être opérés sur le système et un travail théorique conséquent a été entrepris afin de déterminer la stratégie permettant une amélioration de la stabilité par réduction du bruit de projection quantique par mesure sans démolition de la cohérence de l'état interne atomique.J'y ai également aborder l'étude des effets des collisions chaudes des atomes de strontium piégés avec les particules du fond de vide résiduel, permettant une amélioration de l'exactitude de l'horloge. Cette thèse rapporte en particulier la première mesure expérimentale du déplacement de la fréquence de transition d'horloge due à ces collisions ainsi que son étude théorique. / The work achieved in the frame of this PhD training consisted in the implementation of a cavity enhanced non destructive detection system of atoms trapped in an optical lattice aiming at improving the stability of an optical strontium clock.The characterization of the system in its classical regime, for which a sufficiently low number of photons are scattered per atom to avoid expelling them off the trap, highlighted significant improvements in term of signal to noise ratio, with gain factor around 100 compared with the previously used fluorescence scheme. Yet, gains in terms of stability via Dick effect reduction still have to be demonstrated.Regarding the quantum regime, for which less than one photon is scattered per atom over the detection, new ideas and significant changes have been carried out on the system and a theoretical study was has been undertaken to determine the strategy for the improvement of the clock stability by quantum projection noise reduction via quantum non demolition measurement.It was as well the opportunity to study the effect of the hot collisions between the trapped strontium atoms and the residual vacuum background gas particles, allowing for the improvement of the clock uncertainty. This work reports in particular on the first measurement of strontium clock hot collisions shifts as well as its theoretical study.