Dans les systèmes parcourus par un flux d'énergie ou de matière, des phénomènes d'auto-organisation sont possibles. Le système quitte son état d'équilibre thermodynamique, ses composants s'organisent en " structures dissipatives ", aussi appelées des " patterns ". En optique, on observe de tels " patterns " dans les dimensions transverses des faisceaux laser lors de leur propagation dans certains matériaux nonlinéaires.Nous étudions ici les patterns observés dans un système photoréfractif à simple rétroaction optique. Le faisceau incident et le faisceau réfléchi par le miroir interfèrent dans le cristal photoréfractif et modifient ses propriétés électro-optiques. Cette modification influence en retour la propagation des faisceaux. Si le faisceau incident est suffisamment intense, le système dépasse le seuil dit d' " instabilité de modulation " : l'observation du faisceau retour montre que l'intensité lumineuse s'est auto-organisée en structures géométriques remarquables, en patterns.Deux axes de recherche sont approfondis. Premièrement, nous étudions l'influence d'un moment angulaire orbital du faisceau incident (appelé alors un faisceau " vortex ") sur le pattern. Cette propriété du faisceau influe sur le phénomène d'auto-organisation et sur la dynamique des structures transverses obtenues. Un modèle numérique du mélange d'onde donne des résultats cohérents avec l'expérience. Deuxièmement, nous étudions le régime très fortement non linéaire, c'est-à-dire dans le cas d'un pompage gaussien classique mais très intense. Nous montrons par une analyse statistique que l'état turbulent observé loin du seuil est parcouru par des événements intenses, des ondes scélérates.

Dans les systèmes parcourus par un flux d’énergie ou de matière, des phénomènes d’auto-organisation sont possibles. Le système quitte son état d’équilibre thermodynamique, ses composants s’organisent en « structures dissipatives », aussi appelées des « patterns ». En optique, on observe de tels « patterns » dans les dimensions transverses des faisceaux laser lors de leur propagation dans certains matériaux nonlinéaires.Nous étudions ici les patterns observés dans un système photoréfractif à simple rétroaction optique. Le faisceau incident et le faisceau réfléchi par le miroir interfèrent dans le cristal photoréfractif et modifient ses propriétés électro-optiques. Cette modification influence en retour la propagation des faisceaux. Si le faisceau incident est suffisamment intense, le système dépasse le seuil dit d’ « instabilité de modulation » : l’observation du faisceau retour montre que l’intensité lumineuse s’est auto-organisée en structures géométriques remarquables, en patterns.Deux axes de recherche sont approfondis. Premièrement, nous étudions l’influence d’un moment angulaire orbital du faisceau incident (appelé alors un faisceau « vortex ») sur le pattern. Cette propriété du faisceau influe sur le phénomène d’auto-organisation et sur la dynamique des structures transverses obtenues. Un modèle numérique du mélange d’onde donne des résultats cohérents avec l’expérience. Deuxièmement, nous étudions le régime très fortement non linéaire, c’est-à-dire dans le cas d’un pompage gaussien classique mais très intense. Nous montrons par une analyse statistique que l’état turbulent observé loin du seuil est parcouru par des événements intenses, des ondes scélérates. / In systems through which flows of energy or matter propagate, it is possible to observe self-organization phenomena. The system can leave its thermodynamical equilibrium state. Its components self-organize themselves in « dissipative structures », also called « patterns ». In optics, we observe such patterns in the transverse dimensions of laser beams during their propagation in certain nonlinear materials.This thesis aims to study the patterns observed in a photorefractive single feedback system. The forward beam and the beam reflected by the mirror interfere in the photorefractive crystal and modify its electro-optical properties. This modification influences in return the propagation of the beams. If the incident beam is sufficiently powerful, the system reaches the « modulation instability » threshold : the observation of the backward beam reveals that the intensity has self-organized in patterns.Particularly, we deal in depth with two axes of research. Firstly, we study the influence of an orbital angular momentum of the input beam (therefore called a « vortex » beam) on the pattern formation process. This property influences the self-organization phenomenon and the dynamics of the transverse structures. Moreover the results provided by a numerical model of the wave mixing process are in a good accordance with the experimental observations. Secondly, we study the highly nonlinear regime obtained with a classical gaussian pump but very powerful. We show by a statistical analysis that the turbulent state far from the instability threshold contains some extreme events, also called « rogue waves ».