Ce manuscrit présente une étude des composés multiferroïques RMnO$_3$ hexagonaux (R=Ho, Y, Yb, In, Sc). L'accent est mis sur les corrélations spin/spin statiques et dynamiques et sur le couplage entre degrés de liberté de spin et de réseau. Cette étude s'appuie sur de nombreux résultats de diffusion de neutrons aussi bien sur poudres que sur monocristaux. La diffraction permet de déterminer précisément les positions atomiques et la structure magnétique. Nous avons pu développer un modèle rendant compte de la très grande variété de comportements observés dans ces systèmes en nous basant sur la frustration des interactions d'échange interplans. La frustration des interactions magnétiques n'est pas simplement due au réseau triangulaire de Mn mais aussi aux interactions entre Mn de plans adjacents. Cette frustration est directement controlée par la position du Mn par rapport à une valeur seuil $x=1/3$ dans la maille élémentaire. Les mesures de diffusion inélastiques ont permis de valider ce modèle en vérifiant certaines prédictions à partir de mesures de dispersion d'onde de spins et d'un calcul numérique solide (signe de la constante d'échange interplan, transitions de réorientation). Elles ont également confirmé le rôle primordial des interactions RMn sur la dynamique de spin des Mn. Enfin des mesures complexes de diffusion inélastique de neutrons polarisés ont mis en évidence une hybridation entre excitations de réseau et de spin. Un modèle basé sur l'interaction de Dzyaloshiinski-Moriya est proposé pour rendre compte des observations expérimentales. Ce mode hybride est a rapprocher de l'électromagnon observé dans de nombreux systèmes, et semble être une composante inhérente à l'existence de la multiferroïcité.