Après une introduction au domaine des fibres optiques, nous avons mis à profit l'effet d'instabilité modulationnelle couplé à l'effet d'auto-décalage Raman pour créer un peigne de fréquences de largeur supérieure à 100 nm, dont la longueur d'onde centrale est accordable vers les hautes longueurs d'onde. Ensuite, la réalisation d'une cavité laser en anneau, mettant en oeuvre l'effet Raman et la rotation non linéaire de polarisation nous a permis de générer un régime impulsionnel à la longueur d'onde de la première Stokes. Les résultats expérimentaux montrent la richesse des comportements dynamiques non-linéaires qui se rapportent à ce laser. Une seconde partie de ce manuscrit porte sur l'étude de la génération de supercontinuum dans les fibres optiques à cristaux photoniques. Nous avons montré que sous certaines conditions, l'élargissement spectral inhérent à la génération de supercontinuum peut être interprété, grâce à la théorie cinétique de la turbulence faible, comme un processus de thermalisation, i.e. résultant du processus irréversible d'évolution naturelle du champ optique vers son état d'équilibre thermodynamique. Cette interprétation originale du phénomène supercontinuum a été confirmée expérimentalement.

Ce travail a porté sur l'étude de la dynamique électronique et vibrationnelle de nano-objets métalliques en fonction de leur taille, forme et composition, ainsi que sur celle des modes de vibration dans les verres, par des techniques optiques résolues en temps à l'échelle femtoseconde. Dans des agrégats mono-métalliques de cuivre, nous avons confirmé l'accélération des échanges d'énergie électrons-réseau pour des tailles inférieures à 10 nm. Nous avons abordé le régime des faibles tailles, inférieures à 2 nm, et mis en évidence les limites d'une modélisation de type solide confiné. Dans les agrégats bi-métalliques nous avons montré que la cinétique des échanges d'énergie reflète la composition pour les composés or-argent mais est plus complexe pour des nanoparticules ségrégées nickel-argent. L'impact de la forme, de la structure et de l'environnement de nano-objets métalliques sur leurs modes de vibration acoustiques a été étudié dans différentes configurations. Les mesures réalisées sur un ensemble et des paires de nano-prismes ont permis de mettre en évidence les fluctuations locales de leur couplage avec le substrat. L'effet de la nano-structuration a été mis en évidence dans des nanocolonnes et dans des composés ségrégés. Par ailleurs, nous avons étudié par spectroscopie Raman impulsionnelle femtoseconde les modes vibrationnels associés à une structuration locale dans les verres. Nous avons ainsi caractérisé les « modes de défaut » dus aux vibrations de structures en anneau dans la silice, et leur évolution en fonction de sa densité. Dans l'oxyde de germanium, nous avons démontré l'existence et caractérisé un mode de vibration dû à la présence d'une structure en anneau.