L'interférométrie optique en astronomie est une technique permettant de sonder les objets observés à une résolution spatiale impossible à atteindre avec un télescope unique. Ce domaine d'instrumentation entre dans une nouvelle phase avec l'arrivée de nouveaux instruments combinant de très grands télescopes sur des bases allant jusqu'à 200m. AMBER (Astronomical Multi BEam Recombiner) est l'instrument recombineur à trois télescopes du VLTI (Very Large Telescope Interferometer) qui apporte à la fois de la résolution spectrale et des capacités d'imagerie sur cette infrastructure à la pointe de la recherche astrophysique. Je présente dans cette thèse mon apport au traitement du signal de l'instrument AMBER afin d'obtenir les observables nécessaires à l'exploitation scientifique des données. J'y présente l'approche dans le plan image qui a été utilisée et validée sur le ciel avec cet instrument, insi que les observables différentielles chromatiques que j'ai développées spécifiquement. Les observables différentielles chromatiques consistent à comparer la mesure de franges enregistrées simultanément entre deux longueurs d'ondes proches. Cela permet de reconstruire une fraction très substancielle de l'information de phase de l'objet, perdue par les estimateurs classiques jusque là utilisés en interférométrie. Je développe aussi le potentiel de ces observables ainsi que leur application pratique sur l'étude de divers objets astrophysiques dont les étoiles à enveloppe et les objets binaires.

Récemment, nombres d'alternatives à la traditionnelle modulation d'intensité ont été proposées dans le contexte des télécommunications optiques. Les systèmes dits cohérents, utilisant la phase de l'onde optique, présentent de nombreux avantages : meilleure sensibilité, resistance à divers effets non-linéaires. Ils montrent néanmoins un comportement différent vis à vis du bruit accumulé lors de la propagation. L'effet Kerr dans la fibre induit un bruit de phase non-linéaire qui limite les performances de ces systèmes.<br />Dans une première partie, l'estimation rapide, analytique ou semi-analytique, de ces fluctuations est proposée dans deux contextes différents. Les résultats alors obtenus par application de la méthode des moments et de la théorie des perturbations sont validés par des simulations numériques de la propagation. Nous menons également une étude expérimentale de l'influence de la carte de dispersion sur le bruit de phase.<br />Dans une deuxième partie, nous proposons et étudions un format de modulation basé sur la modulation de phase différentielle continue, dans le but d'améliorer l'efficacité spectrale. Ce format est obtenu en modulant la phase optique par un signal à trois niveaux de type duobinaire. Ses performances sont comparées à celles des formats standards au débit de 10 Gbit/s lors d'une expérience utilisant une boucle à recirculation.