Le mélange à quatre ondes est un effet non linéaire sensible à la phase qui suscite de nombreux intérêts dans le domaine de la génération de peignes de fréquences et du traitement tout optique du signal par exemple. Un peigne de fréquences peut en effet s'obtenir par effet de mélange à quatre ondes 1en cascade. Dans ce cas, un nombre N d'ondes interagissent entre elles via l'effet Kerr et la modélisation d'un tel processus doit tenir compte de tous les couplages possibles entre les ondes. Au cours de mes travaux de thèse, je me suis intéressé, dans un premier temps, à la modélisation du mélange à quatre ondes dit multiple pour lequel un nombre quelconque N d'ondes interagissent entre elles. J'ai proposé une formulation générale permettant d'identifier simplement tous les termes de mélange à quatre ondes issus de toutes les combinaisons possibles de couplage entre les ondes et leur désaccord de phase associé. J'ai validé cette approche en proposant une étude théorique et expérimentale d'un processus de mélange à quatre ondes multiple dans une fibre optique non linéaire. Dans une deuxième partie, j'ai proposé, grâce au modèle élaboré précédemment, une étude théorique du phénomène de conversion de fréquence sensible à la phase, permettant la décomposition des composantes en quadrature d'un signal optique. Dans la littérature, cette expérience fut démontrée initialement avec quatre ondes pompes et dans plusieurs types de composants non linéaires. J'ai pu démontrer, au cours de mes travaux, que trois pompes étaient suffisantes pour réaliser l'expérience et j'ai déterminé des relations analytiques simples permettant de choisir les paramètres expérimentaux (notamment l'amplitude et la phase des pompes) rendant possible la décomposition des composantes en quadrature d'un signal. J'ai validé cette étude par la démonstration expérimentale d'un convertisseur de fréquence sensible à la phase avec uniquement trois pompes et j'ai étudié théoriquement les effets de la dispersion chromatique sur les performances du convertisseur de fréquence. Enfin, dans une dernière partie, j'ai caractérisé des fibres optiques microstructurées en verre de chalcogénure fabriquées dans le cadre d'une collaboration avec Perfos, l'Institut des Sciences Chimiques de Rennes et SelenOptics. Dans ce cadre, j'ai mis en place un banc de mesure de la dispersion chromatique et du coefficient non linéaire des fibres optiques basé sur le mélange à quatre ondes. / Four-wave mixing is a phase-sensitive nonlinear effect that arouses interest, particularly in the fields of frequency comb generation and all-optical signal processing. As an example, frequency combs can be produced thanks to a cascaded four-wave mixing process. In this case, N waves can interact with each other through the optical Kerr effect, and one has to take into account all the possible interactions to be able to adequately model the process. During my PhD thesis, I was interested in modeling the so-called multiple four-wave mixing process, in which any number N of waves can interact with each other. I proposed a general formulation that allows to easily identify all the four-wave mixing terms originating from all the possible combinations of wave coupling and their associated phase-mismatch terms. I validated this approach through the theoretical and experimental study of a multiple four-wave mixing process in a nonlinear optical fiber. Thanks to the developed model, I then proposed a theoretical study of the phase-sensitive frequency conversion process, which permits to demultiplex the quadrature components of an optical signal. In the literature, this process was first experimentally demonstrated in several nonlinear devices using four pump waves. I demonstrated that only three pump waves were required to successfully perform the experiment, and I determined the simple analytical relations from which the adequate experimental parameters (namely, the amplitudes and phases of the pump waves) could be deduced. I finally validated this study by experimentally demonstrating a phase-sensitive frequency conversion process with only three pump waves, and I theoretically studied the influence of chromatic dispersion on the performance of this frequency converter. Finally, I characterized some chalcogenide microstructured optical fibers that were fabricated in the framework of a collaboration with Perfos, the Institut des Sciences Chimiques de Rennes, and SelenOptics. I set up a test bench based on the four-wave mixing process in order to measure the chromatic dispersion and nonlinear coefficient of some optical fibers.