Ces travaux de thèse présentent l’étude des différentes classes d’effets linéaires et non-linéaires en optiquequi génèrent des événements extrêmes dont les propriétés sont analogues à celles des « vagues scélérates » destructrices qui apparaissent à la surface des océans. La thèse commence avec un bref aperçu de l’analogie physique entre la localisation d’onde dans les systèmes hydrodynamique et les systèmes optique, pour lesquels nous décrivons les mécanismes de génération de vagues scélérates linéaire et non-linéaire. Nous présentons ensuite quelques résultats numérique et expérimentaux de la génération de vagues scélérates dans un système optique linéaire dans le cas d’une propagation spatiale d’un champ optique qui présenteune phase aléatoire, où nous interprétons les résultats obtenus en terme de caustiques optiques localisées.Nous considérons ensuite les vagues scélérates obtenues dans des systèmes non-linéaires qui présentent une instabilité de modulation décrite par l’équation de Schrödinger non-linéaire (ESNL). Nous présentons une étude numérique détaillée comparant les caractéristiques spatio-temporelles des structures localisées obtenues dans les simulation numérique avec les différentes solutions analytiques obtenues à partir de l’ESNL.Deux études expérimentales d’instabilités de modulation sont ensuite effectuées. Dans la première, nous présentons des résultats expérimentaux qui étudient les propriétés d’instabilité de modulation en utilisant un système d’agrandissement temporel par lentille temporelle; dans la deuxième, nous rapportons des résultats expérimentaux sur les propriétés des instabilités de modulation dans le domaine fréquentiel en utilisant une technique de mesure spectrale en temps-réel. Cette dernière étude examine l’effet sur la bande spectrale et surla stabilité d’un faible champ perturbateur. Tous les résultats expérimentaux sont comparés avec la simulation d’ESNL et abordés en termes des propriétés qualitatives d’instabilité de modulation. Dans toutes ces études,différentes propriétés statistiques sont analysées en rapport avec l’apparition des vagues scélérates. / This thesis describes the study of several different classes of linear and nonlinear effects in optics that generatelarge amplitude extreme events with properties analogous to the destructive “rogue waves” on the surface of theocean. The thesis begins with a brief overview of the analogous physics of wave localisation in hydrodynamicand optical systems, where we describe linear and nonlinear rogue wave generating mechanisms in bothcases. We then present numerical and experimental results for rogue wave generation in a linear opticalsystem consisting of free space propagation of a spatial optical field with random phase. Computed statisticsbetween experiment and modelling are in good agreement, and we interpret the results obtained in termsof the properties of localised optical caustics. We then consider rogue waves in the nonlinear system ofmodulation instability described by the Nonlinear Schrodinger Equation (NLSE), and a detailed numericalstudy is presented comparing the spatio-temporal characteristics of localised structures seen from numericalsimulations with different known analytic solutions to the NLSE. Two experimental studies of modulationinstability are then reported. In the first, we present experimental results studying the properties of modulationinstability using a time-lens magnifier system; in the second, we report experimental results studying thefrequency-domain properties of modulation instability using real-time spectral measurements. The latter studyexamines the effect of a weak seed field on spectral bandwidth and stability. All experimental results arecompared with the NLSE simulations and discussed in terms of the qualitative properties of modulationinstability, in order to gain new insights into the complex dynamics associated with nonlinear pulse propagation.In all of these studies, different statistical properties are analised in relation to the emergence of rogue waves.