Cette thèse est consacrée à l'étude approfondie de formes exotiques de matériaux nano-structurés qui pourraient conduire à une avancée significative dans les nano-composants. Deux thèmes distincts ont été ainsi abordés. Le premier concerne les nano-clusters aromatiques de silicium synthétisés par plasma (SiNCs), tandis que le second est dédié aux structures silicium et germanium bi-dimensionnelles. Grâce à des simulations de type dynamique moléculaire et des calculs ab initio, ainsi que sur des recherches expérimentales, nous nous proposons d’explorer les propriétés intrigantes, mais à fort potentiel, de ces matériaux exotiques.Dans la première partie, nous commençons par des études théoriques et montrons qu'il est possible d'obtenir un comportement aromatique pour des SiNCs hydrogénés ayant une taille de ~1nm. Nous démontrons que les plasmas silane/hydrogène à basse température, proches de la formation de particules de poussière, présentent l'environnement idéal pour exploiter la tendance naturelle du silicium à la sur-coordination et donc pour la synthèse de structures à liaisons déficitaires en électrons. Ces nano-clusters qui se forment spontanément par auto-assemblage dans le plasma, ne possèdent pas de structure tétraédrique, sont plus stables que tous les autres SiNCs connus de cette taille et ont de fortes propriétés aromatiques dues à leur forte délocalisation électronique. Nous montrons également que les SiNCs non tétraédriques, présentent des modes de liaison à caractère métallique qui ressemblent fortement à celui d'un gaz d'électrons homogène dans des nano-clusters de métaux. Les SiNCs tétraédriques standards de cette taille ne peuvent absorber que dans l'ultraviolet, alors que nos calculs ont montré que des SiNCs purs, mais sur-coordonnés, absorbent dans la région spectrale ultraviolette, mais aussi dans le visible et l’infrarouge. Nous présentons ensuite une première preuve expérimentale pour nos prédictions théoriques. Nous avons mesuré in situ, dans un réacteur plasma l'absorption de la lumière visible des SiNCs. De plus, nos mesures réalisées en présence d'un champ électrique ont prouvées clairement que les SiNCs aromatiques possèdent un moment dipolaire permanent, que nous avons estimé entre 2 et 2,5 Debye, en excellent accord avec les calculs ab initio. Enfin, nos images de microscopie électronique à transmission des SiNCs, déposés dans des conditions de plasma optimisées, ont révélé la présence d'une autre forme exotique de silicium à structure hexagonale. Une telle structure se forme habituellement à des pressions extrêmement élevées appliquées sur des structures cubiques (diamant) de silicium. Nous souhaitons affirmer que c’est grâce à la «chimie au marteau» que ces conditions ont été atteintes.Dans la seconde partie, nous avons entrepris des études théoriques et expérimentales approfondies sur la croissance d'une nouvelle forme allotropique de silicium et de germanium: le silicène et le germanène, à savoir, une mono-couche d'atomes intégrée dans un réseau hexagonal qui ressemble fortement au graphène. Afin d'exclure tout mélange entre les atomes de silicium ou de germanium avec le substrat et de conserver leurs caractéristiques prometteuses comme de nouveaux matériaux de Dirac, nous avons effectué nos dépôts, sur un substrat de graphite chimiquement inerte. Une de nos découvertes cruciales est que les mono-couches de silicène ou de germanène interagissent avec le substrat de graphite uniquement via des forces de van der Waals. Cette interaction est suffisamment forte pour stabiliser les mono-couches, déposées même au-dessus de la température ambiante, mais suffisamment faible pour empêcher toute hybridation ou alliage entre le silicium ou le germanium et les atomes de carbone du substrat. Par conséquent, les propriétés électroniques exceptionnelles du silicène et du germanène, tels que les cônes de Dirac et les électrons sans masse, sont préservées même après leur dépôt sur les surfaces de graphite. / This thesis is devoted to the study of advanced, exotic forms of nanostructured materials that could lead to the next big advance for nanodevices. Two distinct topics have been considered. The first one is related to plasma-born aromatic silicon nanoclusters (SiNCs), while the second is dedicated to two-dimensional silicon and germanium materials. Based on molecular dynamics simulations and ab initio calculations, as well as, on experimental investigations, we explore a variety of intriguing properties of those exotic materials that are expected to be far superior to those of their conventional counterparts.In the first part of the thesis, we begin with theoretical studies and show that it is possible to obtain aromatic behavior in simple hydrogenated SiNCs with size of ~1nm. We demonstrate that low-temperature silane/hydrogen plasmas close to dust formation present the ideal environment to exploit the natural tendency of silicon to over-coordination for the construction of structures with electron-deficient bonds. Those nanoclusters form spontaneously by self-assembly in plasmas, do not possess tetrahedral structures, are more stable than any other known SiNCs of this size, and have strong aromatic-like properties due to their high electron delocalization. We demonstrate that non-tetrahedral SiNCs exhibit metallic-like bonding schemes that strongly resemble the one of a homogeneous electron gas in small metal clusters. Standard tetrahedral SiNCs of this size can absorb light only in the ultraviolet, while our calculations have shown that pure, but over-coordinated SiNCs absorb light in the ultraviolet, visible, and infrared spectral region. In this thesis, we present first experimental evidence that supports our theoretical predictions. Using incoherent broadband cavity enhanced absorption spectroscopy, we have measured the absorption of SiNCs, in situ, in a plasma reactor and found that they do absorb light in the visible region. In addition, our absorption measurements in the presence of an applied electric field have provided clear evidence that aromatic SiNCs possess a permanent dipole moment, and we have measured it to be between 2 and 2.5 Debye, in excellent agreement to prior ab initio calculations. Finally, our transmission electron microscopy images of such SiNCs, after their deposition under optimized plasma conditions, have revealed the presence of another exotic form of silicon with a primitive hexagonal structure. Such a structure usually forms after exposing diamond-cubic silicon to extremely high pressures. We tentatively claim that those conditions were, actually, achieved in our experiments due to the “chemistry with a hammer”.In the second part of the thesis, we have undertaken in-depth theoretical and experimental studies on the growth of a new allotropic form of silicon and germanium: a single layer of silicon or germanium atoms, only one atom thick and packed in a hexagonal lattice that closely resembles the lattice of graphene, namely silicene and germanene. In order to rule out any intermixing between silicon or germanium atoms and the underneath substrate atoms, as it was the case for metallic substrates, and to maintain their promising features to be new Dirac materials, we have performed our depositions on a chemically inert graphite substrate. One of our crucial findings is that the silicene or germanene monolayers interact with the graphite substrate via van der Waals forces only. The van der Waals interaction is strong enough to stabilize the deposited monolayers even above room temperature, but weak enough to prevent any hybridization or alloying between silicon or germanium and carbon atoms. Consequently, the outstanding electronic properties of free-standing silicene and germanene, such as Dirac cones and massless electrons, are preserved even after their deposition on graphite surfaces.