Au cours de ce travail, la génération de second harmonique optique des molécules biologiques a été étudiée. Cette technique optique non linéaire possède un caractère cohérent qui permet d’accéder aux propriétés de symétrie des molécules dont la taille est très inférieure aux longueurs d’onde optiques visibles utilisées et l’hyperpolarisabilité quadratique des acides aminés aromatiques a été mesurée en solution par diffusion non linéaire. L’hyperpolarisabilité des acides aminés non aromatiques a été obtenue de manière indirecte grâce à des mesures effectuées sur le collagène, une protéine ne contenant pas d’acide aminé aromatique. Le collagène possède en fait une très forte réponse non linéaire et fait l’objet d’études intenses en microscopie optique non linéaire. Par un modèle de sommation cohérente des champs harmoniques réémis, l’origine de la très forte efficacité non linéaire de cette protéine, liée à sa grande rigidité et à son organisation spatiale en triple hélice, a pu être obtenue. En parallèle, l’étude de plusieurs petits peptides synthétiques possédant de un à quatre tryptophanes a permis de comprendre la construction de la réponse optique non linéaire de ces objets à partir de motifs répétés. Par ailleurs, pour apporter des informations supplémentaires sur les nano systèmes, un nouveau montage expérimental a été développé. La grande sensibilité du montage a permis notamment d’atteindre la sensibilité d’une seule particule dans le volume sondé et de mettre en place un système de cartographie en trois dimensions par diffusion Hyper Rayleigh. La démonstration a été réalisée pour des nanoparticules métalliques uniques d’argent piégées dans une matrice de gélatine / This thesis presents an experimental study of second-harmonic generation of biological molecules. The coherent nature of this process allows obtaining the symmetries of molecules whose size is less than the wavelengths used. The hyperpolarizabilities of aromatic amino acids were measured in solution and the hyperpolarizability of non-aromatic amino acids was measured indirectly through measurements on the collagen molecule. Thus, all the building blocks of proteins are characterized. Among the biological molecules, collagen has a very strong non-linear response despite the absence of harmonophore. A model of coherent summation of the fields reissued to understand the origin of the very high non-linear efficiency from the rigidity and the spatial arrangement of amino acids in triple helix. In the same way, the study of several peptides with one to four tryptophans has enabled us to quantify the importance of conformation and the ionic environment of proteins in the nonlinear response. To provide additional information on nano systems, a new setup has been developed, combining two beams of excitation. Thus, the dipole and quadrupole radiation are differentiated to obtain the symmetry of molecular arrangements. Finally, the great sensitivity of the setup allows mapping in three dimensions, with the Hyper Rayleigh scattering, singles metal nanoparticles catch in a gelatin matrix.

La technique de la génération de second harmonique (SHG) a été employée pour étudier la réponse non linéaire des assemblées de nano particules métalliques aux interfaces liquides. Les nanoparticules ont d’abord été caractérisées en utilisant la génération de second harmonique incohérente, également nommée diffusion hyper Rayleigh. L’étude de particules d’or et d’argent, nanosphères et des nanobâtonnets, ont permis de mettre en évidence l’influence de la couche protectrice de surfactants sur l’hyperpolarisabilité quadratique de ces particules. Ces particules ont ensuite été placées à l’interface air/eau dans une cuve de Langmuir afin d’étudier le rôle des interactions entre les particules sur la réponse optique linéaire et non linéaire. Celle-ci a révélé dans ces films formés à l’interface la présence de couplages forts entre les particules lors de la compression de la surface. Cela conduit à une transition dans le film une fois que la distance entre les particules passe en dessous d’une distance critique. Ces études ont été complétées par des expériences réalisées à l'interface liquide/liquide et sur une électrode de carbone vitreux pour examiner plus en détail le rôle de la rugosité à l’échelle nanométrique dans l’exaltation de la réponse non linéaire SHG / In this work, the nonlinear optical response of assembled metallic nanoparticles at interfaces was studied using Second Harmonic Generation. First, the nanoparticles were characterised using incoherent second harmonic generation, a technique also called Hyper Rayleigh Scattering. Thioalkane-capped silver and gold nanoparticles, both nanospheres and nanorods, were investigated and the role of this capping layer on the quadratic hyperpolarisability of these particles was underlined. The particles were then deposited at the air/liquid interface in a Langmuir trough to investigate the role of the interparticles interactions in large assemblies. Both the linear and the nonlinear optical response of these metallic films formed at the surface of the trough provided evidence of a strong coupling between adjacent particles upon compression leading to a phase transition of the film once the interparticle distance is less than a critical value. These studies were complemented with experiments performed at the liquid/liquid interface and at the glassy carbon/electrolyte interface to examine in greater details the role of roughness at the nanoscale on the enhancement of the SHG response