L'objectif de cette thèse était l'élaboration par croissance auto-assemblée et l'étude des processus de retournement d'aimantation de particules magnétiques modèles de Fer épitaxiées sur une surface (110) de Molybdène. Une étude systématique de la croissance de Fe sur Mo(110)/Al2O3(11-20) sous ultra-vide par Dépôt Laser Pulsé est présentée. Cette étude a permis d'affiner les connaissances de la littérature concernant la croissance de couches continues grâce à des observations STM in-situ, et d'étudier en détail les différentes méthodes permettant d'auto-assembler des nanostructures (plots, bandes). A haute température (Ts>600K), la croissance de Fe sur Mo(110) conduit à la formation d'îlots 3D compacts auto-assemblés qui, comme démontré par un calcul énergétique, présentent la forme facettée et les rapports d'aspect de cristaux de Fe à l'équilibre thermodynamique. A température modérée (300K< Ts< 600k), la croissance de Fe sur Mo(110)est affectée par des limitations cinétiques. Un dépôt à 500K, ou le recuit d'une couche continue déposée à 300K ou à 400K, conduit à la formation de bandes nanométriques de Fe auto-organisées le long des marches de la surface faiblement vicinale de Mo(110). Dans le cadre de cette thèse, nous avons étudié particulièrement les propriétés magnétiques d'îlots 3D compacts de taille sub-micronique. En combinant des mesures macroscopiques, des mesures sur des particules individuelles, et des simulations micromagnétiques, nous arrivons à décrire de façon détaillée la configuration en domaines et les processus de retournement d'une particule individuelle en fonction de ses caractéristiques morphologiques et structurales. Par ailleurs, les propriétés magnétiques de particules qui présentent une rémanence non nulle (petits îlots compacts, bandes auto-organisées de Fer) ont été étudiées à partir des cycles d'hystérésis macroscopiques à l'aide d'une méthode de séparation des contributions réversible et irréversible à la variation d'aimantation.