Dans cette thèse nous étudions les propriétés d'ondes stationnaires dans des structures composées d'une couche diélectrique nonlinéaire de type Kerr et des couches métalliques et diélectriques linéaires. Nous élaborons différents modèles pour étudier les propriétées de plasmons-solitons dans deux types de structures : (i) une région diélectrique nonlinéaire semi-infinie, des couches de métal et de diélectrique linéaires et (ii) une couche de diélectrique nonlinéaire d'épaisseur finie entre deux régions métalliques (guide d'onde métallique à coeur nonlinéaire). Pour le premier type de structures, nous montrons qu'en utilisant une structure à quatre couches, il est possible d'obtenir des plasmons-solitons de basses puissance. Pour des guides d'onde métalliques à coeur nonlinéaire, nous trouvons de modes d'ordres supérieurs. Pour certains des modes symétriques, nous observons une bifurcation par brisure de symétrie donnant naissance à des modes asymétriques dans une structure symétrique. / In this PhD thesis, we study the properties of stationary transverse magnetic polarized waves in structures composed of a Kerr-type nonlinear dielectric layer, metal and linear dielectric layers. We develop several models to study the properties of plasmon-soliton waves in two types of structures: a semi-infinite nonlinear dielectric in contact with metal and linear dielectric layers and a finite-size nonlinear dielectric layer sandwiched between two metal regions (nonlinear slot waveguide). Our models allow us to compute the nonlinear dispersion relations and the corresponding field profiles. For the first type of structure, we prove that using the four-layer structures that we propose, it is possible to obtain plasmon-soliton waves at the power levels. For nonlinear slot waveguide structures, we discover the existence of new, higher order modes. For some of the symmetric modes, we observe a symmetry breaking bifurcation giving birth to asymmetric modes in symmetric structure.

Les cristaux liquides ont été tout le long un terrain fertile pour la recherche scientifique, des mathématiques à la science des matériaux, à l'optique. Leur utilisation ne se limite pas seulement à l'optique d'afficheurs mais s'étend à l'optique non linéaire, par exemple, à la commutation et au routage de faisceaux optiques. En raison de leur extrême sensibilité aux champs électriques, et ce sur une plage de fréquences allant du continu aux fréquences optiques, ils sont aussi utilises comme milieu non linéaires aptes à générer des faisceaux optiques auto-confinés, appelés solitons spatiaux optiques, à de très faibles puissances. Ces faisceaux ont la propriété de se propager sans diffraction, du fait que cette dernière est compensée par l’auto-focalisation non linéaire du milieu, avec formation de guides d'onde auto-induites. Dans les cristaux liquides nématiques, ces guides d'ondes peuvent à leur tours confiner et guider d’autres signaux optiques et peuvent être reconfigurés, soit optiquement, soit électriquement, du fait que la trajectoire des solitons peut être contrôlée par d'autres champs, ouvrant ainsi la voie à la manipulation tout-optique. Récemment, les cristaux liquides nématiques ont été également utilisés avec succès dans l'optique dite singulière, dans laquelle le paramètre clef est la singularité topologique portée par la phase de l'onde électromagnétique. Dans cette thèse, je rendrai compte de mon travail sur les solitons optiques spatiaux et les singularités optiques dans les cristaux liquides nématiques. / Liquid crystals have been all along a fertile background for scientific research, from mathematics to material science and optics; their use is not limited to displays but extends to nonlinear optics, for instance, to switching and routing of optical beams. Due to their extreme sensitivity to electric fields, and this at frequencies ranging from continuous to optical ones, they are also nonlinear media supporting the generation and propagation of self confined beams, called spatial optical solitons, at very low powers. Spatial optical solitons have the property to propagate without diffraction, since this is compensated by nonlinear self-focusing in the medium, resulting in self-induced waveguides. In nematic liquid crystals, these waveguides can in turn confine and route other optical signals and can be reconfigured, either optically or electrically, as soliton trajectories can be controlled by other fields, paving the way to all-optical manipulation. Nematic liquid crystals have also been recently employed with success in the so-called singular optics, in which the key parameter is the topologic singularity carried by the phase of an electromagnetic wave. In this thesis I will report on my work on spatial optical solitons and optical singularities in nematic liquid crystals.