Le terme « chaos ondulatoire » désigne l'étude du comportement des ondes dans des sys- tèmes fermés dont la limite géométrique des rayons exhibe une dynamique chaotique. Cette dernière est révélée notamment par l'extrême instabilité de trajectoires que sont les orbites pé- riodiques. Comment les ondes se comportent-elles dans un système dont la limite géométrique suit une dynamique chaotique ? Dans certaines conditions particulières, elles peuvent figer le développement de la dynamique chaotique et concentrer leur énergie le long d'orbites pério- diques instables, donnant lieu à l'existence de modes singuliers, les « Scars », présentant des surintensités localisées le long de ces trajectoires. Le travail présenté dans cette thèse résulte d'une volonté de contrôler activement les modes d'un système chaotique, dans le but de faire émerger expérimentalement les modes scar. Nous introduisons un milieu à gain dans une fibre optique multimode à section transverse chaotique, système privilégié pour l'étude du chaos ondulatoire. La localisation spatiale de ce gain nous permet de contrôler l'émergence d'une fa- mille de « scars » en les amplifiant sélectivement. Nous présentons des simulations numériques validant le processus physique d'amplification, suivies d'une étude expérimentale démontrant l'amplification sélective de modes « scar » dans une fibre optique multimode.

La bande II est la région spectrale du moyen infrarouge correspondant à la fenêtre de transmission atmosphérique s'étendant de 3 à 5 µm. Ce domaine spectral présente de nombreux champs d'applications dans le domaine militaire (radars laser, contre-mesures) ainsi que pour l'analyse de gaz (contrôle de la pollution atmosphérique). <br /><br />Ce travail de thèse s'inscrit dans la thématique « élaboration de sources lumineuses pour le moyen infrarouge ». Il présente une approche originale puisqu'il allie élaboration des matériaux, caractérisation spectroscopique et modélisation du milieu amplificateur laser. Cette étude, à l'interface entre la chimie des matériaux vitreux et l'optique, s'intéresse à la faisabilité de sources laser fibrées en verres de chalcogénures dopés terres rares pour l'émission entre 3 et 5 µm.<br /><br />L'objectif de ce travail est d'évaluer le potentiel amplificateur des fibres de verre Ge20Ga5Sb10S65 dopées erbium ou dysprosium entre 4 et 5 µm. Pour ceci, une étude spectroscopique a été effectuée sur le matériau massif. Puis, des fibres optiques à saut d'indice et monoindices ont été réalisées et caractérisées optiquement. Enfin, les paramètres obtenus ont été utilisés pour construire un modèle et simuler le fonctionnement d'un amplificateur laser à fibre Ge20Ga5Sb10S65 dopé Er3+ pompé par diode à 807 nm et opérant à 4,6 µm.

Ce travail de thèse s'inscrit dans la recherche et le développement de capteurs chimiques. Il est motivé par un besoin toujours croissant d'outils de détection dans des domaines aussi variés que la santé, la sécurité et l'environnement. Nous présentons l'étude de capteurs basés sur le principe de résonance plasmons de surface - SPR. L'intérêt de ce type de capteurs est principalement lié à leur grande sensibilité, leur réponse rapide en temps réel et leur grande précision sans l'utilisation de marqueurs. L'originalité de notre approche est l'utilisation de fibres optiques. Celles-ci offrent de nouveaux attraits tels la simplification de l'instrumentation et sa miniaturisation. <br />Dans une première partie, nous présentons une revue théorique sur les plasmons de surface à l'interface métal – diélectrique. Nous présentons ensuite une étude expérimentale en deux parties : la première décrit la réalisation et la caractérisation des capteurs SPR à fibre optique, la seconde présente l'analyse de la réponse SPR des transducteurs ainsi réalisés. En particulier nous avons caractérisé par des études systématiques l'influence de paramètres physiques importants liés au métal, à la fibre optique et au traitement de surface de la partie sensible par le greffage d'une couche de thiols.<br />Enfin, nous proposons une étude numérique simulant la réponse du capteur en fonction de différents stimuli. Ce modèle, basée sur le calcul de la réflectance de la lumière à l'interface d'un ensemble multicouches nous a permis de valider l'étude expérimentale et d'étendre les recherches en prenant en compte différent type de molécules cibles. En particulier, nous présentons des résultats sur des molécules absorbants ou non absorbants, greffées ou non à la surface du transducteur. Une comparaison entre résultats expérimentaux et simulations numériques valide l'ensemble du travail et nous permet finalement de proposer une configuration optimisée du capteur, en fonction de la nature de la couche métallique et de la fibre optique, ainsi que des molécules cibles à détecter.

Les fibres optiques sont très utilisées en télécommunication. L'étude du procédé de fabrication de ces fibres de verre est très importante compte tenu des qualités de transmission que l'on veut obtenir. Cette étude présente la modélisation du procédé de fabrication des fibres de verre. Un premier modèle 1D est le support d'une analyse de stabilité linéaire. Celle-ci permet de prédire l'apparition d'instabilités hydrodynamiques au cours du fibrage. Nous montrerons l'influence des conditions de fabrication sur la stabilité du procédé. Un second modèle, 3D celui-ci, permet de faire de la simulation directe grâce au logiciel Rem3D développé au CEMEF. Du fait des forts taux d'étirage imposés à la fibre, les variations de diamètre sont très importantes donc l'utilisation de l'adaptation de maillage est indispensable à l'obtention de résultats exploitables. Nous présentons dans cette thèse la méthode d'adaptation de maillage utilisée dans le code et les avantages de son utilisation. Les difficultés de la simulation sont d'une part que le matériau est multicouche ce qui a été pris en compte dans ce travail. D'autre part, les propriétés thermiques du verre font intervenir des termes de rayonnement dans l'enceinte de four qui sont particulièrement difficiles à modéliser. Les résultats présentés prennent en compte un coefficient d'échange thermique équivalent basé sur des relevés expérimentaux.

Dans le contexte de l'expansion de la téléphonie mobile et de l'Internet de l'année 2000, la conception de systèmes de transmission numériques sur fibre optique atteignant des capacités de l'ordre du terabit/s est envisagée par les équipementiers. Ce travail de thèse contribue à répondre à ce défi technologique, dans le cadre des systèmes terrestres utilisant la technique du multiplexage en longueur d'onde (WDM). Les solutions explorées consistent, premièrement en l'évolution du débit par canal de 10 Gbit/s à 40 Gbit/s puis en l'augmentation de la capacité d'information transmise par unité de bande passante optique jusqu'à 1.28 bit.s-1Hz-1. Les adaptations des systèmes sont préalablement analysées par simulations numériques offrant des règles d'ingénierie et des idées nouvelles puis les résultats de ces analyses sont concrétisés par des expériences de transmission démonstratives allant jusqu'à un multiplexage de 256 canaux à 40 Gbit/s soit une capacité totale de 10 Tbit/s.

De nombreuses études ont été réalisées autour du problème du routage et de l'affectation de longueur d'onde dans les réseaux WDM transparents. La majorité de ces études néglige les effets physiques liés à la transmission sur fibre. En effet, le signal optique subit le long de son trajet plusieurs dégradations, à savoir les effets linéaires et les effets non-linéaires. Dans les réseaux WDM opaques, la qualité du signal optique est considérée comme toujours satisfaisante car le signal est régénéré à chaque nœud du réseau. Cependant, cette faculté de régénération coûte très cher à l'opérateur et rigidifie totalement la capacité du réseau. Les réseaux WDM translucides présentent une nouvelle alternative. Ils offrent la possibilité de régénérer le signal à un nœud intermédiaire dès que la qualité de celui-ci devient inadmissible par rapport aux contraintes imposées par l'opérateur. Dans cette thèse, on s'intéresse au problème de la planification des réseaux WDM translucides de façon à garantir une certaine qualité de transmission. Nous proposons un nouvel outil de dimensionnement, LERP (Lightpath Establishment and Regenerator Placement), dont l'objectif est de fournir une solution permettant d'optimiser à la fois l'utilisation des ressources du réseau et la qualité de transmission sur l'ensemble de connexions établies. Le facteur Q permettant d'évaluer la qualité du signal est calculé au moyen d'un outil que nous avons également développé : BER-Predictor. Cet outil tient compte de quatre dégradations liées à la transmission sur fibre, à savoir la dispersion chromatique, la dispersion modale de polarisation, la phase non-linéaire et l'émission spontanée amplifiée.

Les travaux de recherche présentés dans cette thèse s'intéressent à l'application de techniques de modulation et de traitement du signal numérique aux communications optiques. Ils se concentrent sur la conception d'un système de communication optique sur courte distance à 40Gb/s. Pour une longueur d'onde optique donnée, l'accroissement du débit binaire s'obtient généralement en repoussant les limites technologiques afin d'augmenter la vitesse des modulations simples du type "on-off keying". Cette méthode ne satisfait cependant pas les exigences économiques des applications à haut débit sur courte distance. La combinaison du multiplexage de porteuses électriques et d'une modulation à plusieurs niveaux permet de réduire le support fréquentiel et la vitesse de modulation du signal porteur d'information. Des composants typiques des systèmes de transmission à 10Gb/s peuvent ainsi être utilisés pour transmettre 40Gb/s. La technologie de circuits CMOS est également exploitable pour l'intégration économe de fonctions de traitement du signal élaborées. Les structures de traitement du signal adaptatives présentées permettent de réduire les exigences techniques dans la conception des fonctions analogiques. Elles permettent également de compenser les distorsions linéaires dues au canal de transmission et aux variations résultant d'une production industrielle. Des modèles théoriques et numériques validés par l'expérimentation permettent l'analyse du système. Les résultats de simulations numériques montrent qu'un système de communication à 40Gb/s à bas coût et d'une portée dépassant 10km est possible. Nous présentons également un prototype utilisant un circuit intégré test en technologie CMOS réalisant les fonctions de modulation/démodulation pour le canal RF le plus difficile à implémenter, et transmettant des données dans une fibre monomode s'étendant sur plus de 30km.

Ce travail de thèse examine la possibilité d'utiliser de nouvelles fibres optiques fortement non-linéaires pour des applications de régénération tout-optique à 40 Gbit/s. Les fibres optiques étudiées sont des fibres optiques microstructurées en verre de silice et en verre de chalcogénure fabriquées dans le cadre d'une collaboration avec la Plate-forme d'Etudes et de Recherche sur les Fibres Optiques Spéciales (PERFOS, Lannion) et l'Equipe Verres et Céramiques (EVC) de l'UMR Sciences Chimiques de Rennes. Le régénérateur optique étudié est le régénérateur proposé par P.V. Mamyshev, basé sur le phénomène d'automodulation de phase dans une fibre optique non-linéaire. Les résultats originaux obtenus lors de ce travail de thèse se situent sur les trois plans suivants : la modélisation de la propagation non-linéaire dans les fibres optiques, la caractérisation de fibres optiques non linéaires et l'étude d'un régénérateur tout-optique à 40 Gbit/s. <br />En ce qui concerne la modélisation de la propagation non-linéaire, ce travail passe en revue plusieurs méthodes de résolution de l'équation non-linéaire de Schrödinger (ENLS) connues sous le nom de méthodes split-step Fourier. Pour trois de ces méthodes, une modification astucieuse de l'algorithme de résolution numérique de l'ENLS permettant d'augmenter l'efficacité de la méthode est proposée. Ce travail présente également une nouvelle méthode split-step Fourier permettant de résoudre l'ENLS avec une précision choisie.<br />Pour la partie concernant la caractérisation de fibres optiques non-linéaires, ce travail présente, pour la première fois, les caractérisations optiques de fibres optiques microstructurées en verre de chalcogénure et démontre leur fort potentiel pour des applications non-linéaires. Des caractérisations non-linéaires de fibres optiques microstructurées en verre de silice présentant une faible atténuation et un gain Raman record sont également présentées. Une nouvelle méthode pour mesurer simultanément la dispersion chromatique et le coefficient non-linéaire de fibres optiques, basée sur l'effet de compression soliton, est proposée.<br />Concernant l'étude du régénérateur de Mamyshev, ce travail propose une étude théorique conduisant à l'élaboration d'un abaque pour le dimensionnement du régénérateur et permettant d'étudier le rôle du pré-filtrage et le mécanisme de gigue temporelle introduite par le régénérateur. L'étude expérimentale du régénérateur met en évidence le rôle néfaste de l'effet Brillouin et du mélange à quatre ondes sur les performances d'un régénérateur à 40 Gbit/s. Une nouvelle architecture de régénérateur, basée sur l'utilisation d'un compresseur d'impulsions, est proposée afin d'éliminer ces effets indésirables. Son efficacité est démontrée au cours d'une expérience de régénération en boucle à recirculation.

La physique quantique fut introduite au début du 20e siècle. Elle apporte une nouvelle description du monde qui nous entoure et en particulier de ce qu'on appelle le monde de l'infiniment petit. Cette nouvelle théorie permet une description adéquate notamment de l'effet photoélectrique, des niveaux énergétiques des atomes, des réactions nucléaires, ... Elle apporte également une réponse à de nombreuses problématiques telles que la catastrophe ultraviolette. Néanmoins aussi séduisante que soit cette théorie, les prédictions pour le moins contre-intuitives qu'elle apporte, amène rapidement la controverse. Par exemple, en 1935, A. Einstein, B. Podolski et N. Rosen en arrivent à mettre en doute la physique quantique à cause d'une particularité que l'on y rencontre, à savoir l'enchevêtrement. Il s'en suit le célèbre débat avec N. Bohr et l'école de Copenhagen. Parmi les autres aspects propres au monde quantique on peut encore citer la superposition des états, le postulat de la mesure, le principe d'incertitude d'Heisenberg, la dualité onde-corpuscule, le théorème de non clonage, ... Toutes ces spécificités font de la physique quantique un monde passionnant dans lequel, à l'instar du pays des merveilles d'Alice, l'intuition est souvent dépassée. Cette thèse est le fruit de quatre années de travail au cours desquelles nous avons tenté d'observer et d'étudier certains des effets intrigants que nous propose la physique quantique. Plus précisément nous avons utilisé des états particuliers de la lumière afin d'explorer une partie de ce qu'on appelle l'optique quantique. Dans un premier temps nous nous sommes intéressés aux possibilités offertes par l'utilisation d'états cohérents de la lumière. En utilisant ces états particuliers nous nous sommes penchés sur l'étude ainsi que sur la réalisation expérimentale d'une tâche qui se révèle impossible classiquement sans hypothèse computationelle. Cette tâche consiste à réaliser un pile ou face entre deux joueurs éloignés l'un de l'autre, par exemple deux joueurs communiquant par téléphone. En effet, classiquement, un des deux joueurs pourra toujours tricher de manière à avoir 100% de chance de gagner le pile ou face. Au contraire, si on utilise les ressources offertes par la communication quantique, il est possible de construire des protocoles ne permettant plus à aucun des deux joueurs de tricher parfaitement et ce, sans aucune hypothèse supplémentaire. Même si aucun protocole quantique ne peut empêcher totalement toute tricherie, leur démonstration constitue une preuve de principe quant aux possibilités offertes par la physique quantique dans la réalisation de tâches classiquement impossibles. Lors de notre étude du problème, nous avons développé un protocole de pile ou face quantique et étudié ses performances. Nous avons montré que les tentatives de tricherie des deux joueurs avaient une probabilité de succès limitée à 99,7%<100% (biais inférieur à 0,497). L'originalité de cette étude se situe dans le fait que les imperfections expérimentales (efficacité des détecteurs, pertes de transmission, visibilité réduite, ...) furent prises en compte, ce qui à notre connaissance n'avait jamais été réalisé. En outre nous avons réalisé une implémentation en optique fibrée de notre protocole et démontré la réalisation d'un pile ou face unique au cours duquel aucun des deux joueurs ne pouvait influencer parfaitement le résultat, ce qui à notre connaissance n'avait également jamais été démontré. L'emploi d'états cohérents de la lumière fortement atténués nous a donc permis de concevoir un protocole de pile ou face quantique et de réaliser une démonstration expérimentale en optique fibrée, d'une tâche impossible à réaliser classiquement. Après avoir travaillé avec des états cohérents fortement atténués, nous nous sommes intéressés à un autre état quantique de la lumière, à savoir les paires de photons. Ces états constituent non seulement une ressource essentielle pour sonder les effets quantiques de la lumière mais également une ressource incontournable pour l'information et la communication quantique. Nous nous sommes donc attelés à la réalisation d'une source produisant ces paires de photons. Les premières sources de paires de photons furent basées sur l'utilisation de cristaux dans lesquels il existe une interaction non linéaire entre la lumière et le matériau du cristal. Malheureusement le désavantage majeur de ces sources est la difficulté à collecter les paires de photons générées. Nous avons donc étudié la possibilité de générer des paires de photons directement dans une fibre optique, la collection des paires y étant réalisée de facto. La première solution que nous avons envisagée consiste à utiliser la non-linéarité du troisième ordre de la silice composant les fibres optiques. Plus précisément le phénomène utilisé est appelé l'instabilité de modulation. Ce phénomène permet de détruire deux photons de pompe afin de générer une paire de photons vérifiant les conservations de l'énergie et de l'impulsion. En outre nous avons choisi d'utiliser une fibre optique microstructurée. Ces fibres permettent en effet un plus grand confinement de la lumière que les fibres standards. Il en résulte une interaction non linéaire plus importante, permettant ainsi de générer des paires de photons de manière plus efficace. La fibre utilisée est en outre biréfringente, ce qui permet d'avoir accès à deux types particuliers d'instabilité de modulation: l'instabilité scalaire et l'instabilité vectorielle. Dans un premier temps, nous avons observé le processus d'instabilité de modulation dans un régime classique. Les paramètres particuliers de notre fibre microstructurée - forte dispersion anormale et biréfringence modérée - nous ont permis d'observer un régime d'instabilité dans lequel l'instabilité de modulation vectorielle se produit à des fréquences proches de la fréquence de pompe ($Omegasim 1$THz). Il en résulte que les bandes de gain liées à l'instabilité de modulation vectorielle sont très proches des bandes de gain liées à l'instabilité de modulation scalaire. Nous avons observé que dans ce régime particulier, les densités d'énergie générées par instabilité de modulation vectorielle sont supérieures à celles générées par instabilité de modulation scalaire. A notre connaissance, il s'agit de la première observation expérimentale permettant de mettre en évidence un gain vectoriel supérieur au gain scalaire. La génération de paires de photons grâce à ce processus nécessite de diminuer la puissance de pompe envoyée dans la fibre. Malheureusement nous avons mesuré que dans ce régime de faible puissance (régime quantique), la qualité des paires de photons générées était fortement dégradée par la présence de photons parasites générés par diffusion Raman spontanée. Nous avons estimé que lorsque la puissance de pompe est abaissée suffisamment pour générer en moyenne 0,1~photons dans la bande de gain d'instabilité de modulation vectorielle ($sim$1543 nm), environ 75% des photons détectés auront été générés par diffusion Raman spontanée. Afin de mettre en oeuvre des expériences d'optique quantique utilisant des paires de photons, des solutions doivent donc être appliquées à notre source afin de réduire le nombre de photons générés par diffusion Raman spontanée. Parmi ces solutions nous pouvons citer la discrimination en polarisation des photons générés ainsi que le refroidissement de la fibre grâce à de l'azote liquide. Ces solutions permettraient de réduire le nombre de photons Raman anti-Stokes d'un facteur 18 et le nombre de photons Raman Stokes d'un facteur 4. Malheureusement la tenue de la fibre microstructurée à de très basses températures reste incertaine et l'implémentation de ces solutions rendrait la source difficilement utilisable. Notre première tentative pour générer des paires de photons dans une fibre optique nous a montré que les paires de photons générées grâce à un processus d'interaction non linéaire du troisième ordre étaient polluées par des photons générés par diffusion Raman spontanée. Une source de paires de photons efficace ne pouvait donc pas être obtenue sans l'aide de solutions technologiques assez lourdes à mettre en oeuvre. Nous avons donc investigué une deuxième solution afin de réaliser une source produisant des paires de photons dans une fibre optique. Puisque les non-linéarités du troisième ordre semblent être peu adaptées pour la génération de paires de photons, nous sommes revenus à une non-linéarité du second ordre. Dans ces processus c'est un photon de pompe qui est détruit afin de générer une paire de photons, tout en respectant les conservations de l'énergie et de l'impulsion. Malheureusement les fibres optiques ne permettent pas l'apparition de non-linéarités du second ordre et ce, à cause de la centrosymétrie macroscopique du verre de silice qui compose ces fibres. Afin d'induire une non-linéarité du second ordre dans une fibre optique nous avons travaillé en collaboration avec l'équipe du Prof. P. G. Kazansky de l'université de Southampton. En utilisant les techniques de poling thermique et d'effacement par illumination UV, ils réalisèrent une fibre optique twin-hole périodiquement polée dans laquelle les non-linéarités du second ordre furent possibles. Grâce à cette fibre nous avons réalisé une source de paires de photons combinant les avantages des effets non linéaires du second ordre, i.e. la puissance de pompe nécessaire est moindre que dans le cas d'une non-linéarité du troisième ordre, la diffusion Raman spontanée n'influence aucunement les paires de photons générées, et les avantages de la fibre optique, i.e. la collection des paires de photons y est réalisée de facto, le mode spatial transverse des paires de photons est bien défini. La mesure du pic de coïncidences de notre source fournit un rapport entre le sommet du pic et le niveau des coïncidences accidentelles de 7,5. Une efficacité conversion $P_s/P_p=1,2,10^{-11}$ fut obtenue en utilisant 43~mW de puissance de pompe. En outre les paires de photons générées possèdent une longueur d'onde de 1556~nm se trouvant ainsi dans la bande C des télécommunications optiques (1530-1565~nm). Elles sont donc bien adaptées à une éventuelle application en communication quantique, dans les réseaux de fibres optiques actuellement utilisés pour les télécommunications optiques. Enfin nous avons utilisé ces paires de photons afin de réaliser l'expérience de Hong-Ou-Mandel permettant de mettre en évidence un effet propre à la physique quantique, à savoir le photon bunching. Une visibilité nette de 40% fut obtenue pour le Mandel dip dans une configuration où la visibilité maximale vaut 50%. En outre cette expérience nous a permis de développer une expertise dans la réalisation d'interféromètres fibrés, stabilisés et contrôlés en température. La source de paires de photons que nous avons réalisée constitue une démonstration de principe quant à la faisabilité d'une telle source. A l'époque de ce travail, la fibre dont nous disposions était l'une des premières fibres twin-hole périodiquement polées. Aujourd'hui de nombreux paramètres de la fibre ont été améliorés et permettent la réalisation d'une source de paires de photons tout à fait compétitive avec les autres sources existantes. Ainsi l'équipe du Prof. Kazansky est capable de réaliser des fibres périodiquement polées de 20 cm de long possédant une efficacité de conversion normalisée de seconde harmonique de $eta_{SH}=8;10^{-2}$\%/W. Si l'on suppose toujours une puissance de pompe de 43 mW, cela mène à une efficacité de conversion de $1,0;10^{-9}$ pour le processus de fluorescence paramétrique, soit une amélioration de deux ordres de grandeurs par rapport à notre démonstration. La réalisation d'une source de paires de photons dans une fibre optique périodiquement polée qui serait non seulement utilisable dans des expériences de physique fondamentale mais également dans des applications en communication quantique, est donc tout à fait envisageable dans un futur proche. Pour résumer, nous avons, au cours de cette thèse, réalisé, dans un premier temps, la tâche classiquement impossible qui consiste à jouer à pile ou face à distance. Ensuite dans l'optique de générer des paires de photons, nous avons étudié le processus d'instabilité de modulation dans une fibre microstructurée. Nous avons ainsi observé un régime particulier dans lequel l'instabilité de modulation vectorielle possède un gain supérieur à celui de l'instabilité de modulation scalaire. Enfin toujours en quête d'une source de paires de photons, nous avons réalisé une source produisant des paires de photons par fluorescence paramétrique dégénérée au sein d'une fibre optique twin-hole périodiquement polée. Les trois principaux sujets abordés au cours de cette thèse ont donc en commun l'utilisation de l'optique fibrée pour la manipulation ou la génération d'états quantiques de la lumière. Il en a résulté l'obtention de trois résultats originaux qui nous ont ainsi permis d'explorer une partie du monde intrigant et fascinant de l'optique quantique. / Quantum physics was introduced early in the 20th century. It brings a whole new description of our world, mostly at the microscopic level. Since then, this new theory has allowed one to explain and describe lots of physical features like the photoelectric effect, the energy levels of atoms, nuclear reactions, ... It also brought an answer to lots of remaining unanswered questions like the so-called ultraviolet catastrophe. Though, as attractive as this new theory was at that time, some of its counter-intuitive predictions quickly gave rise to controversy. For instance, in 1935, due to one quantum physics feature called entanglement, A. Einstein, B. Podolski and N. Rosen asked the question: "Can quantum-mechanical description of physical reality be considered complete?". This led to the famous debate with N. Bohr and his Copenhagen interpretation. Amongst other particular features of quantum physics one can cite: the superposition principle, the wave function collapse, the Heisenberg uncertainty principle, the wave-particle duality, the no-cloning theorem, ... As in Alice in wonderland, all those features actually make quantum physics a fascinating world where intuition is most of the time useless. In this thesis we tried to observe and study some of the intriguing features of quantum physics. More precisely we tried to use specific light states to explore part of what is called quantum optics. First we studied the use of coherent states of light to perform tasks you can not perform using classical physics. For instance in 1984, Ch. Bennett and G. Brassard proposed the first quantum cryptography protocol which has an absolute security while classical protocol security still relies on some computational assumptions (the assumption is that today computers computational power is not sufficient to threaten the security of classical protocols. Though this means that classical protocols are not intrinsically secure). Since then quantum physics has been proven useful to perform lots of classically impossible tasks like bit commitment, quantum computation, random number generation, ... In this work we were interested in the problem of coin tossing by telephone introduced by M. Blum in 1981. In this problem two untrustful and distant players try to perform a coin flip. Classically one can show that, if no computational assumptions are made, one of the players can always force the outcome of the coin flip. On the opposite if one uses quantum communication resources, a protocol in which none of the players can cheat perfectly can be built, i.e. none of the players have 100\% chance of winning the protocol even by using the best possible cheating strategy. Moreover this is possible without any other assumption than the validity of the laws of physics. Though a quantum protocol for coin tossing can not completely prevent from cheating, the demonstration of such a protocol would be a proof of principle of the potential of quantum communication to implement classically impossible tasks. In our work, we have developed a quantum coin tossing protocol and studied its performances. We have shown that the success cheating probability of the players is bounded by 99,7%<100%, which is better than what is achieved in any classical protocol. One of the originalities of our work is that, for the first time to our knowledge, experimental imperfections (detectors efficiency, losses, limited interference visibility, ...) have been taken into account in the theoretical analysis. Moreover, using coherent states of light, we have demonstrated a fiber optic experimental implementation of our protocol and performed a single coin flip where none of the two players could perfectly influence the outcome. This is to our knowledge the first experimental demonstration of single quantum coin tossing. After coherent states of light, we wanted to work with a more complex quantum state: photon pairs. Not only those states are useful for fundamental physics tests but they also are an important resource for quantum communication. For those reasons our first objective was to build a source that would generate those photon pairs. First photon pairs sources were based on bulk nonlinear crystals. Unfortunately the main drawback of those sources is the low collection efficiency of the generated photon pairs. That's why we investigated the possibility of generating the photon pairs directly in a waveguiding structure where they would be readily collected. The first solution that we envisaged was to use the natural third order nonlinearity of silica fibers. More precisely the phenomenon we wanted to used is called modulation instability. In this process, two pump photons are destroyed and a photon pair is created with energy and momentum conservations. Moreover we decided to use this process in a photonic crystal fiber. The high confinement of light in this kind of fiber allows a higher nonlinearity and thus a more efficient generation of photon pairs. Finally the fiber we used was birefringent which enables both vectorial and scalar modulation instability to occur. As a first experiment, we decided to observe modulation instability in a classical regime where a lot of photons are created. The specific parameters of our photonic crystal fiber - high anomalous dispersion and moderate birefringence - allowed us to observe a regime where the vectorial instability gain band has a similar detuning from the pump as the scalar instability gain band. In this regime we also observed an enhancement of the vectorial gain above the scalar gain which has been confirmed theoretically. To our knowledge this was the first experimental observation of this particular regime of instability. To generate photon pairs with this instability process we need to lower down the pump power. Unfortunately we measured that, when pump power was sufficiently lowered to generate ~0,1 photon pairs per pump pulse sent in the fiber, about 75% of generated photons were created by spontaneous Raman scattering and not modulation instability. In order to build an efficient photon pair source, some technological solutions have to be found to reduce the number of photons generated by spontaneous Raman scattering. Amongst those solutions, one can cite polarization discrimination of the generated photons and cooling of the fiber with liquid nitrogen. Using those solutions one could hope to reduce anti-Stokes Raman photon and Stokes Raman photon by respectively a factor 18 and 4. Unfortunately the main concern is how the photonic crystal fiber will react to very low temperatures. So even if technological solutions exist to build a photon pair source based on modulation instability in photonic crystal fiber, those seem to be really hard to implement. Moreover such a photon pair source would be very inconvenient to use in any quantum applications. So our first attempt to build a fiber photon pair source showed that photon pairs generated by a third order nonlinearity were polluted by photons generated by spontaneous Raman scattering. Such an efficient source couldn't be realized without heavy technological solutions. We have thus investigated another solution to generate photon pairs in an optical fiber. As third order nonlinearities don't seem to be suitable, we decided to go back to a second order nonlinearity. In this process one photon from the pump is destroyed to create a photon pair with energy and momentum conservations. Unfortunately the macroscopic centro-symetry of silica glass prevents those second order nonlinearities to occur in optical fibers. In order to enable second order nonlinearities in silica optical fiber, we worked with the team of Prof. P. G. Kazansky from the Optoelectronics Research Center of the university of Southampton. By using thermal poling and UV erasure technics, they were able to induce a second order nonlinearity in a twin-hole optical fiber. Thanks to 8 cm of periodically poled twin-hole fiber, were able to build a fiber photon pair source combining advantages of a second order nonlinearity (less pump power needed than for a third order nonlinearity, no influence of Raman photons) and of the fiber waveguiding structure (photon pairs readily collected, transverse spatial mode of the photon pairs well defined). A coincidence measurement was performed resulting in a coincidence peak with a 7,5 ratio between the peak and the accidental coincidences level. A conversion efficiency $P_s/P_p=1,2,10^{-11}$ was obtained using 43 mW of pump power. Moreover photon pairs were generated around 1556~nm in the optical communications C-band, which makes them suitable for quantum communication applications using installed fiber optic networks. Finally using the generated photon pairs we performed the Hong-Ou-Mandel experiment highlighting the bosonic nature of photons. We obtained a Mandel dip with a net visibility of 40% in a configuration where the maximum visibility is 50%. The photon pair source that we realized is a proof of principle of the high potential of poled fibers in quantum applications. Indeed today, Prof. P. G. Kazansky's team is able to make a 20 cm poled fiber with a nonlinearity $eta_{SH}=8;10^{-2}$\%/W. If we still suppose 43~mW of pump power, this leads to a $1,0;10^{-9}$ conversion efficiency for parametric fluorescence, improving our result by two orders of magnitude. The realization of an efficient photon pair source based on parametric fluorescence in periodically poled twin-hole fiber suitable for quantum applications is thus absolutely possible in a very near future.

La prochaine génération d'infrastructures de communication par fibre optique comprendra des systèmes de transmission longue distance avec du multiplexage en longueur d'onde (WDM) à 40 et 100 Gb / s, et sera très probablement basée sur la détection cohérente. Le travail de thèse décrit dans ce manuscrit étudie ces systèmes. Nous démontrons d'abord leur tolérance inégalée à des effets physiques linéaires de propagation, grâce au traitement numérique du signal réalisé dans le récepteur. Néanmoins, les systèmes optiques peuvent être limités aussi par des effets non-linéaires de propagation. Cette thèse explore le comportement non-linéaire des signaux détectés avec un récepteur cohérent, spécialement quand ils sont multiplexés en polarisation. Nous avons particulièrement étudié l'évolution de l'impact des non-linéarités quand le débit augmente de 40 à 100 Gb/s, en démontrant que l'augmentation du débit accroît la tolérance à certaines non-linéarités. Cette thèse examine également l'interaction entre la dispersion modale de polarisation (PMD) et les non-linéarités. Contrairement aux systèmes existants, nous avons prouvé que, lorsque la PDM est distribuée, elle s'avère souvent être bénéfique en réduisant les pénalités causées par les non-linéarités. Au contraire, quand la PMD est localisée, elle peut augmenter la dégradation causée par lesdites non-linéarités. Finalement, comme une preuve de l'intérêt porté par les opérateurs aux technologies à 100 Gb/s, ce manuscrit présente les résultats d'un essai de terrain que nous avons mené récemment sur le réseau de Telefónica en Espagne montrant le potentiel des technologies cohérente pour moderniser les réseaux existants.