La photométrie des transits est une méthode puissante pour la détection et la caractérisation des exoplanètes. Le Dôme C, en Antarctique, est un site extrêmement prometteur pour les observations photométriques, grâce à une nuit continue de 3 mois durant l'hiver austral et des conditions atmosphériques très favorables. Le projet ASTEP (Antarctic Search for Transiting ExoPlanets) vise à détecter et caractériser des planètes en transit, ainsi qu'à déterminer les limites de la photométrie dans le visible depuis la station Concordia, au Dôme C. Il se divise en deux phases : ASTEP Sud, un instrument fixe de 10 cm, et ASTEP 400, un télescope pointable de 40 cm. Le travail présenté dans cette thèse est dédié au développement et à l'exploitation du projet ASTEP. Un simulateur photométrique est élaboré, et permet d'identifier les sources de bruit affectant la photométrie, telles que les variations de seeing ou de la forme des PSF (Point Spread Function). Des simulations aboutissent au choix des caméras CCD d'ASTEP. Ces caméras sont alors testées et caractérisées. On présente ensuite ASTEP Sud, un instrument fixe composé d'une lunette de 10 cm et d'une caméra CCD dans une enceinte chauffée, qui pointe en permanence un champ de 3.88°x3.88° centré sur le pôle sud céleste. La stratégie d'observation est validée, et les différents éléments de l'instrument sont choisis. Les paramètres d'observation sont définis à partir d'une étude de la contamination et des tests sur le ciel. ASTEP Sud a fonctionné quasiment en continu durant les hivers 2008, 2009 et 2010. L'analyse préliminaire des données permet de qualifier le Dôme C pour la photométrie : la fraction de temps excellent pour les observations photométriques est comprise entre 56.3 et 68.4 % pour l'hiver 2008 et entre 59.4 et 72.7 % pour l'hiver 2009, ce qui est meilleur que dans les grands observatoires des régions tempérées. Les courbes de lumière des 8000 étoiles du champ sont extraites. Le traitement est en cours d'amélioration pour atteindre une précision permettant d'identifier la signature de transits d'exoplanètes. Le coeur du projet, ASTEP 400, est un télescope de 40 cm entièrement conçu et développé dans le but d'effectuer des observations photométriques de qualité dans les conditions extrêmes de l'hiver antarctique. On présente les différentes études menées par les membres de l'équipe ASTEP (études optiques, mécaniques, thermiques, développement logiciel) ; en particulier, on détaille les simulations photométriques et l'étude du guidage. Après des observations de test à l'Observatoire de Nice, ASTEP 400 est installé à Concordia durant la campagne d'été 2010. Le fonctionnement du télescope est nominal dès le début des observations. La précision photométrique obtenue est équivalente à celle de télescopes de 1.5 à 2 m situés dans des sites tempérés. De plus, l'observation continue pendant 1 mois de planètes à transits connues permet d'atteindre une précision de 200 ppm, inégalée pour des observations photométriques dans le visible depuis le sol. On obtient ainsi une limite supérieure sur la profondeur du transit secondaire, et donc sur la température de brillance de ces planètes dans le visible. En parallèle, le suivi d'alertes microlentilles avec ASTEP 400 permet de compléter les données d'autres télescopes, et de participer à la détection d'objets de type naine brune ou planétaire. Le fonctionnement nominal d'ASTEP 400 durant tout l'hiver 2010 et la qualité des données obtenues confirment le potentiel du Dôme C pour la recherche et la caractérisation de planètes en transits, et pour la photométrie dans le visible en général.