Dans cette thèse de doctorat nous présentons une étude théorique de deux types d'instabilitésferroélectriques: celles apparaissant dans des géométries confinés et celles induites par le magnétismedans dans composés massifs de structure perovskite. Dans une première partie nous abordons leproblème des instabilités ferroélectriques apparaissant dans des nanotubes et des nanocoquillesoù nous développons un modèle théorique phénoménologique approprié à ces structures. Nousétudions comment l'émergence de la polarisation est affectée par (i) l'épaisseur des nanostructures,(ii) par la réponse diélectrique des matériaux environant la couche ferroélectrique et (iii) les conditionsaux interfaces. Nous observons un effet de taille finie topologique qui peut promouvoirune compétition inhabituelle entre deux types de distribution de la polarization, irrotationel eten vortex, dans la limite des très petites épaisseurs. Dans une deuxième partie nous utilisons descalculs ab-initio à base de la théorie de la fonctionnelle de la densité pour étudier les instabilitésferroélectriques des perovskites manganites à base de terres rares (RMnO3). A partir de ces calculsnous prédisons qu'il est possible d'induire une transition de phase sous pression dans EuMnO3 lefaisant transiter d'un ordre antiferromagnétique de type A isolant vers un ordre ferromagnétiquemétallique sous pression. Ce type de transition n'avait jamais été reporté précédemment dans lesmatériaux RMnO3. Nous étendons ensuite cette analyse à l'étude des effets de strain épitaxial dansles films minces de TbMnO3 et EuMnO3. Nos résultats montrent que le diagramme de phase souscontrainte d'épitaxie est bien plus riche que celui sous pression hydrostatique. Nous trouvons queles types antiferromagnétiques E-AFM et E*-AFM sont stabilisés dans le cas de TbMnO3, où letype E*-AFM est une phase métallique polaire. Dans le cas de EuMnO3, nous trouvons une phaseantiferromagnétique de type E qui n'a pas été observée sous pression hydrostatique. / In this thesis, we present a theoretical study of two types of ferroic instabilities: the ferroelectric instability in novel confined geometries and magnetic instabilities controlled by the distortion of the underlying crystal lattice. On the one hand, we consider in detail the ferroelectric instability, specifically, in the nanotubes and the spherical nanoshells and develop a phenomenological theory for describing such an instability. We determine how the emergence of polarization is affected bythe thickness of the nanoparticle, the dielectric properties of the surrounding media and the interfacial boundary conditions. We finnd an intriguing topological finite-size effect that can promote an unexpected competition between two different types of distribution of polarization - irrotational and vortex-like - in the ultra-thin limit. One the other hand, we employ a different formalism to investigate the structural, electronic and magnetic properties of the rare-earth manganites. Specifically,we conduct a theoretical investigation from first-principles calculations. First, we predict a pressure-induced A-AFM insulator to FM metal transition on EuMnO3 under hydrostatic pressure, that is unprecedented in the multiferroic rare-earth manganites RMnO3. This investigation is extended to the study to the epitaxial strain effects on both EuMnO3 and TbMnO3 thin films. We show that epitaxial strain generates a much richer phase diagram compared to hydrostatic pressure. We predict novel magnetically-induced insulator { metal and polar { non-polar transitions. More specifically, we find that both the multiferroic E-AFM order and the polar metallic E*-AFM state are stabilized in TbMnO3 by means of epitaxial strain. In the contrast, we find a novel epitaxial-strain-induced multiferroic E-AFM state in EuMnO3 that cannot be obtained by means of just hydrostatic pressure.