Cette thèse traite de composés magnétiques géométriquement frustrés, cristallisant dans la structure pyrochlore, c'est-à-dire un arrangement tri-dimensionnel de tétraèdres reliés entre eux par leurs sommets. Tout d'abord, on montre que le liquide de spins Tb2Ti2O7 pose un certain nombre de difficultés quant à sa fabrication, certaines propriétés physiques mesurées étant très dépendantes des conditions de croissance. Cependant, deux températures caractéristiques, indépendantes des échantillons, à 2 et 50 K, ont pu être mises en évidence par différentes techniques expérimentales, et ce, sur différents échantillons. Ensuite, l'étude de la dynamique de spins dans Tb2Sn2O7, une glace de spins ordonnée, suggère l'existence d'un mécanisme complexe, caractérisé par plusieurs temps de fluctuations, dont l'un est de l'ordre de 10^{-10} s. Pour ces deux composés, il est montré, par des mesures microscopiques mais également macroscopiques, que les niveaux de champ cristallin de plus basse énergie sont deux singulets, séparés d'environ 2 K, et non un doublet comme généralement admis. Concernant l'étude du composé antiferromagnétique Er2Ti2O7 de symétrie XY, certaines mesures suggèrent une dynamique de spins à basse température, conséquence d'excitations. Enfin, l'analyse des résultats obtenus pour le composé antiferromagnétique Heisenberg Gd2Sn2O7 met en évidence des contradictions concernant l'existence ou non d'une dynamique de spins à basse température.

Depuis la fin du 20ième siècle, l'étude de matériaux manométriques a permis la découverte de nouvelles propriétés liées à la taille. Ces "effets de taille" sont controversés car ils dépendent fortement de la méthode d'élaboration, de l'état de surface et structural du nano-système. Dans ce travail de thèse, nous étudions l'influence de l'environnement sur les propriétés structurales et diélectriques de nano-couche de Gd2O3:Eu3+ élaborées par deux techniques différentes.<br /><br /> Dans une première partie, nous analysons le comportement d'agrégats de Gd2O3:Eu3+ élaborés par la technique d'évaporation laser assistée par un jet d'hélium, au contact de matrices sol-gel de Gd2O3 et de TiO2. On observe après traitements thermiques, la diffusion des agrégats dans leurs environnements. Dans une matrice de TiO2, il y a formation du composé cristallisé Gd2Ti2O7:Eu3+ de structure pyrochlore. Nous avons alors comparé deux méthodes d'élaboration de ce composé, sous forme de film mince, basées sur l'interdiffusion de couches manométriques d'oxydes: une couche sol-gel ou d'agrégats de Gd2O3:Eu3+ piégée entre deux couches de TiO2. Le composé ternaire cristallise à plus basse température dans le premier cas mais le film est mieux cristallisé dans le second. Les propriétés des nano-systèmes dépendent donc fortement des méthodes d'élaboration.<br /><br /> Dans une seconde partie, nous nous intéressons à la relation reliant la durée de vie d'émission d'un émetteur à l'indice de réfraction de son environnement. Pour la première fois, nous avons mesuré la distance limite d'influence de cet effet en enregistrant les durées de vie d'émission d'une nano-couche de Gd2O3:Eu3+ en fonction du nombre de couche de TiO2 recouvrant la couche luminescente. Lorsque l'épaisseur de TiO2 augmente, la durée de vie radiative diminue jusqu'à saturation. Le rayon de la sphère d'influence de l'indice de réfraction est alors estimé à 150 nm, soit un quart de la longueur d'onde d'émission. Cette distance correspond à la dimension critique où la définition de l'indice de réfraction à l'échelle macroscopique doit être considérée à l'échelle manométrique.