La microscopie par diffusion Raman Coh´erente Anti-Stokes (CARS) est une<br />m´ethode r´ecente d'imagerie dont le contraste provient de l'excitation r´eso-<br />nante s´elective de vibrations mol´eculaires intrins`eques d'une liaison ou d'un<br />ensemble de liaisons chimiques. Cette technique pr´esente l'avantage de s'af-<br />franchir de tout marqueur fluorescent qui peut ˆetre toxique pour un orga-<br />nisme biologique vivant. Elle permet aussi d'avoir une tr`es grande sensibilit´e<br />et une forte r´esolution spatiale, comparable `a celle de la microscopie confo-<br />cale. Le travail de cette th`ese concerne la r´ealisation d'un microscope CARS,<br />et sa mise en application `a diff´erents domaine de l'imagerie bio-m´edicale. Des<br />´etudes ont ´et´e men´ees d´emontrant les potentialit´es de cet outil, ainsi que sa<br />caract´erisation dans le domaine spatiale et spectral.

One of the greatest challenges in nonlinear optics microscopy is the search for new contrast mechanisms. This is one of the reasons of the increasing interest in polarimetric nonlinear optics in the last couple of decades. In this work we have explored the potential of four-wave mixing in probing vibrational and structural symmetries in molecular media. In particular, we have been concerned with coherent Raman scattering (CRS), either at resonance or not. We have developed a theoretical model allowing to determine the structures of the susceptibility tensors from symmetry considerations, involving both the spatial structure of the medium and the vibration of specific molecular modes. Experimental results on isotropic sample, crystals and biomolecular assemblies were successfully achieved. Polarimetric measurements at resonance provide information on the symmetry of the addressed vibrational modes and on departure from Kleinman symmetry conditions. Nonresonant polarimetric measurements are able to reveal departure from isotropy in cubic crystals and the symmetry order and orientation of molecular distribution in biomolecular assemblies, such as collagen fibers. In particular, we have shown that higher-order molecular symmetries can only be probed by high-order nonlinear optical processes. Finally, this work has demonstrated the great potential of polarimetric four-wave mixing as a powerful contrast mechanism, providing structural selectivity in microscopy imaging. When it is further associated with a resonant process (such as CRS), it provides also chemical selectivity, allowing a complete description of the sample, involving both structural and vibrational symmetries.

La peau est un organe qui enveloppe le corps, elle est une barrière naturelle importante et efficace contre différents envahisseurs. Pour le traitement des maladies dermatologiques ainsi que dans l'industrie cosmétique, les applications topiques sur la peau sont largement utilisées. Ainsi beaucoup d'efforts ont été investis dans la recherche sur la peau visant à comprendre l'absorption moléculaire et les mécanismes rendant efficace la pénétration. Cependant, il reste difficile d'obtenir une visualisation 3D de haute résolution combinée à une information chimique- ment spécifique et quantitative dans la recherche sur la peau. La spectroscopie et la microscopie non-linéaire, incluant la fluorescence excitée à 2-photon (TPEF), la diffusion Raman spontanée, la diffusion Raman cohérente anti-Stokes (CARS) et la diffusion Raman stimulée (SRS), sont introduits dans ce travail pour l'identification sans ambiguïté de la morphologique de la peau et la détection de molécules appliquées de façon topique. Plusieurs méthodes quantitatives basées sur la spectroscopie et la microscopie non-linéaire sont proposées pour l'analyse chimique en3D sur la peau artificielle, ex vivo et in vivo sur la peau humaine. De plus, afin de s'adapter aux applications cliniques à venir, un design endoscopique est étudié pour permettre l'imagerie non-linéaires dans les endoscopes flexibles. / Skin is an organ that envelops the entire body, acts as a pivotal, efficient natural barrier to- wards various invaders. For the treatment of major dermatological diseases and in the cosmetic industry, topical applications on skin are widely used, thus many efforts in skin research have been aimed at understanding detailed molecular absorption and efficient penetration mechanisms. However, it remains difficult to obtain high-resolution visualization in 3D together with chemical selectivity and quantification in skin research. Nonlinear spectroscopy and microscopy, including two-photon excited fluorescence (TPEF), spontaneous Raman scattering, coherent anti-Stokes Raman scattering (CARS) and stimulated Raman scattering (SRS), are introduced in this work for unambiguous skin morphological identification and topical applied molecules detection. Sev- eral quantitative methods based on nonlinear spectroscopy and microscopy are designed for 3D chemical analysis in reconstructed skin, ex vivo and in vivo on human skin. Furthermore, to adapt to forthcoming clinical applications, an endoscopic design is investigated to bring nonlin- ear imaging in flexible endoscopes.

Ce mémoire présente les travaux effectués sur le développement d'une source optique servant à des applications d'imagerie biomédicale en général et de diffusion Raman cohérente en particulier. En effet la diffusion de ces dernières est freinée par le verrou technologique que constitue la nécessité de deux impulsions synchronisées et décalées en longueur d’onde. La praticité et les possibilités de conversions de fréquences offertes par l’optique non-linéaire fibrée sont ainsi utilisées pour adresser ce verrou technologique. Tout d’abord, une source simplement réglable en longueur d’onde est générée par l’effet d’auto-décalage en fréquence optique d'un soliton par effet Raman. Une étude des principaux paramètres de fibre aboutit à des décalages de 320 à plus de 500 nm, permettant une imagerie des résonances d’intérêt (≈ 1000-4000 cm-1). Deux applications de ce décalage sont présentées. Ensuite, l’autre impulsion voit sa largeur spectrale réduite de 70 à 10 cm-1 par compression spectrale, qui consiste en un "regroupement non-linéaire de fréquences sans pertes", afin de bénéficier de la résolution spectrale nécessaire. Enfin, la source développée est validée par l’acquisition de spectres CARS de différents échantillons de référence, pour différentes résonances (850 à 1750 cm-1). Une extension de la source à d'autres types d'imagerie est proposée, ainsi qu'une architecture de source quasiment entièrement fibrée exploitant les principes développés au cours de cette thèse / This manuscript presents the work done concerning the development of a light source used for biomedical imaging and more particularly for coherent Raman scattering imaging. In fact an efficient broadcasting of these ones is hampered by the need of two synchronized and wavelength shifted pulses. As so, the handiness and frequency conversion capabilities of nonlinear fiber optics are used to circumvent this technological lock. First of all, an easy wavelength tunable source is set by the use of the self-shifting in optical frequency of a soliton. A study of the main fiber parameters lead to shifts of 320 to more than 500 nm which allows interesting molecular resonances imaging (≈ 1000-4000 cm-1). Two applications of this shift are also reported. Then, the second pulse sees its spectral width reduced from 70 to 10 cm-1 by spectral compression, which consists in a "loss-less frequency regrouping", in order to obtain a proper spectral resolution. Finally, the developed source is validated by acquiring CARS spectra of different reference solvents and for different resonances (850 to 1750 cm-1). An evolution of this source to allow other imaging techniques is proposed, as well as a quasi-all-fibered source exploiting the principles addressed during this thesis work

Nous avons développé une méthodologie basée sur phénomène de mélange à quatre ondre polarimétrique « Four wave Mixing FWM » et son équivalen résonant la diffusion Raman cohérente anti-Stokes (CARS, Coherent Anti-Stokes Raman Scattering) polarimétrique et réalisé des mesures sur des systèmes cristallins, simili biologiques : les membranes cellulaires connues sous le nom de « Multilamellar Vesicles MLV » et des échantillons de biologiques : la myeline, et ce, en variant les polarisations des lasers excitateurs, Pompe et Stokes. Le signal anti-Stokes émis est ensuite analysé afin d’en extraire les ordres 2 et 4 de la fonction de distribution angulaire des molécules actives constituant l’échantillon. Pour cela, plusieurs approches sont explorées telles que des algorithmes d’optimisation ou par décomposition en série de fourrier du signal polarimétrique. Ces multiples approches en traitement du signal permettent d’obtenir de manière rapide les coefficients des fonctions de distribution angulaire recherchées, et ainsi d’avoir des informations sur la symétrie des échantillons imagés, allant jusqu’à l’observation d’une symétrie d’ordre 4. La capacité de la microscopie non linéaire résolue en polarisation à sonder des ordres moléculaires est clairement démontrée et ainsi son intérêt dans l’étude de la relation entre la structure et la fonction de systèmes biologiques. / The capacity to quantify molecular orientational order in tissues is of a great interest since pathologies (skin lesion, neurodegenerative diseases, etc) can induce strong modifications in proteins’ organization. While numerous studies have been undertaken using polarization resolved second order nonlinear optical microscopy which is only specific to non-centrosymmetric organizations, higher order effects have been less explored. Four-wave mixing (FWM) microscopy and its resonant counterpart coherent anti-Stokes Raman scattering (CARS) can be of a great utility as label free diagnosis tools benefiting from less constraining symmetry rules. In this work, we implement incident polarizations tuning in FWM and CARS microscopy to probe molecular order, using a generic method to read-out symmetry information.Fourier analysis of the polarization-resolved FWM/CARS signal processed with an analytical model provides a fast and direct determination of the symmetry orders of the distribution function of the probed molecules. This method does not require a priori knowledge of the organization structure and provides quantitatively its second and fourth order symmetries. We applied this technique on different systems, from crystalline to less organized (multilamellar vesicles and proteins aggregates). We show that this new approach brings additional and more refined information on supra-molecular structures in complex media.

Ce mémoire présente les travaux effectués sur le développement d'une source optique servant à des applications d'imagerie biomédicale en général et de diffusion Raman cohérente en particulier. En effet la diffusion de ces dernières est freinée par le verrou technologique que constitue la nécessité de deux impulsions synchronisées et décalées en longueur d'onde. La praticité et les possibilités de conversions de fréquences offertes par l'optique non-linéaire fibrée sont ainsi utilisées pour adresser ce verrou technologique. Tout d'abord, une source simplement réglable en longueur d'onde est générée par l'effet d'auto-décalage en fréquence optique d'un soliton par effet Raman. Une étude des principaux paramètres de fibre aboutit à des décalages de 320 à plus de 500 nm, permettant une imagerie des résonances d'intérêt (≈ 1000-4000 cm-1). Deux applications de ce décalage sont présentées. Ensuite, l'autre impulsion voit sa largeur spectrale réduite de 70 à 10 cm-1 par compression spectrale, qui consiste en un "regroupement non-linéaire de fréquences sans pertes", afin de bénéficier de la résolution spectrale nécessaire. Enfin, la source développée est validée par l'acquisition de spectres CARS de différents échantillons de référence, pour différentes résonances (850 à 1750 cm-1). Une extension de la source à d'autres types d'imagerie est proposée, ainsi qu'une architecture de source quasiment entièrement fibrée exploitant les principes développés au cours de cette thèse

Dans cette thèse, nous proposons l'utilisation d'un nouveau type de fibre à cristal photonique, la fibre Kagomé à coeur creux, pour la livraison d'impulsions ultra-courtes en endoscopie non linéaire. Ces fibres permettent la livraison d'impulsions sans distorsion sur une large bande spectrale, avec un faible bruit de fond, grâce à la propagation dans le cœur creux. Nous avons résolu le problème de la résolution spatiale, à l'aide d'une microbille en silice, insérée dans le cœur de la fibre Kagomé. Nous avons développé un système d'imagerie compacte, qui utilise un tube piézo-électrique pour le balayage du faisceau, un système achromatiques de microlentilles et une fibre Kagomé double gaine, spécialement conçue pour l'endoscopie. Avec ce système, nous avons réussi à imager des tissus biologiques, à l'extrémité distale de la fibre (endoscopie), en utilisant des différentes techniques tels que TPEF, SHG et CARS, un résultat qui ne trouve pas d'égal dans la littérature actuelle. L'intégration dans une sonde portable (4,2 mm de diamètre) montre le potentiel de ce système pour de futures applications en endoscopie multimodale in-vivo. / In this thesis, we propose the use of a novel type of photonic crystal fiber, the Kagomé lattice hollow core fiber, for the delivery of ultra-short pulses in nonlinear endoscopy. These fibers allow undistorted pulse delivery, over a broad transmission window, with minimum background signal generated in the fiber, thanks to the propagation in a hollow-core. We solved the problem of spatial resolution, by means of a silica micro-bead inserted in the Kagomé fiber large core. We have developed a miniature imaging system, based on a piezo-electric tube scanner, an achromatic micro-lenses assembly and a specifically designed Kagomé double-clad fiber. With this system we were able to image biological tissues, in endoscope modality, activating different contrasts such as TPEF, SHG and CARS, at the distal end of the fiber, a result which finds no equal in current literature. The integration in a portable probe (4.2 mm in diameter) shows the potential of this system for future in-vivo multimodal endoscopy.