Quand un liquide est refroidi suffisamment rapidement en dessous de sa température de solidification, il peut se former à la place du cristal un solide désordonné et hors équilibre appelé verre, après un ralentissement brutal de la dynamique du liquide. Cette transition vitreuse est très largement répandue, mais la cause du ralentissement reste pour une grande part mal comprise. Les suspensions colloïdales présentent une telle transition quand la fraction volumique en particules croît. Dans cette thèse, la dynamique de suspensions colloïdales de microgels thermosensibles est étudiée expérimentalement à l'approche de la transition vitreuse et au delà. Le diamètre de ces sphères molles dépend de la température du bain, ce qui permet de moduler de façon réversible la fraction volumique et d'étudier ainsi la transition vitreuse continument sur un seul et même échantillon. Dans un premier temps les hétérogénéités de la dynamique qui se développent simultanément au ralentissement de la dynamique, et jouent un rôle théorique majeur dans les tentatives d'explication de la transition vitreuse, sont étudiées en vidéo-microscopie. Sur des temps courts, une hétérogénéité purement spatiale de la dynamique est mise en évidence. Des zones lentes et rapides de dynamique homogène coexistent dans l'échantillon, l'amplitude des variations entre zones croissant à l'approche de la transition et restent grandes dans le verre. Dans un second temps, l'extension spatiale de ces zones homogènes est mesurée en corrélation d'image, et trouvée croissante à l'approche de la transition. Enfin, une méthode de mesure du mouvement brownien rotationnel en trois dimensions d'aiguilles micrométriques est développée et appliquée à la mesure des propriétés microrhéologiques de fluides complexes puis à la comparaison entre fluctuations et fonction de dissipation, mesurée grâce à la réponse des aiguilles superparamagnétiques à des champs magnétiques oscillants, dans des fluides modèles puis dans des suspensions vitreuses.

Dans la course aux materiaux pour l'optique non-lineaire, les matrices dopees, solides et transparentes obtenues, a temperature ambiante, par procede sol-gel, prennent une importance toujours croissante. Ainsi, en soumettant un gel de silice, dope par des molecules organiques, aux impulsions breves, polarisees rectilignement, issues d'un laser a colorant, on induit une birefringence locale, de relaxation extremement lente. Ce phenomene, qui presente une dependance quadratique par rapport au champ electrique optique, peut s'expliquer par la conjonction d'un alignement moleculaire par effet kerr optique et de l'etablissement de liaisons hydrogene entre le gel et ses dopants. La nature et la structure des especes dopantes, de leur matrice hote ou encore des impulsions lumineuses jouent ici chacune un role essentiel. Les molecules dopantes doivent ainsi presenter une forte polarisabilite, et offrir un nombre important de sites d'ancrage par liaison hydrogene. Il en est de meme pour les pores de la matrice hote. La composition du gel affecte grandement le nombre de ces sites. Une maniere, toutefois, de favoriser l'alignement remanent des dopants consiste a les greffer, des la synthese, aux pores du gel, via des liaisons covalentes. La structure temporelle des impulsions est egalement cruciale. On y distingue deux composantes. L'une, d'une duree d'une centaine de femtosecondes, brise les liaisons hydrogene et libere les dopants. L'autre, plus longue (une dizaine de nanosecondes), les aligne. Mathematiquement descriptibles par une equation de diffusion rotationnelle modifiee, ces mecanismes ont donne lieu a quelques premieres applications experimentales (inscription d'une image et d'un reseau de diffraction). Le choix, enfin, de nanoparticules magnetiques comme dopants, permet de les orienter et non plus seulement de les aligner sous champ magnetique statique des la formation du gel. Les materiaux ainsi obtenus presentent une birefringence uniforme, mais aussi une non-centrosymetrie propice aux non-linearites optiques du second ordre.