La nano-optique est un vaste domaine permettant d'étudier et d'exalter l'interaction lumière-matière à l'échelle nanométrique. Ce domaine couvre notamment la plasmonique, mais depuis quelques années, un effort est porté sur les nanostructures diélectriques à fort indice de réfraction (typiquement des semiconducteurs comme le silicium). Des effets similaires aux nanoparticules plasmoniques peuvent être obtenus, tels un comportement d'antenne et l'exaltation de phénomènes non linéaires (génération d'harmoniques), avec l'avantage de faibles pertes. Dans cette thèse, une analyse des propriétés optiques linéaires et non linéaires de nanostructures individuelles. Une première partie est dédiée aux nanofils de silicium qui supportent de fortes résonances optiques dont le nombre et la gamme spectrale, du proche UV au proche IR, sont fonction de leur diamètre. Dans ces conditions, l'exaltation du champ proche optique et un rapport surface sur volume élevé favorisent l'apparition de processus non linéaires. Ainsi la génération de seconde harmonique (SHG) par rapport au silicium massif est augmentée de deux ordres de grandeur. En outre, différentes contributions à l'origine de la SHG peuvent être adressées individuellement en fonction de la polarisation du laser d'excitation et de la taille des nanofils. Les résultats expérimentaux sont confrontés à des simulations numériques (méthode dyadique de Green, GDM), qui permettent d'identifier les différentes contributions. Dans une seconde partie, la méthode dyadique de Green est couplée à des algorithme évolutionnistes (EO) pour la conception et l'optimisation de propriétés optiques choisies de nanostructures semiconductrices ou métalliques, par exemple diffusion résonnante de différentes longueurs d'ondes pour différentes polarisations.Des échantillons de nanostructures de silicium, réalisés à partir des résultats de l'EO, vérifient avec succès les prédictions de l'algorithme d'optimisation, démontrant l'énorme potentiel de l'EO pour de nombreuses applications en nanophotonique requérant une optimisation simultanée de différents paramètres. / Nano-photonic structures offer a highly interesting platform to enhance light-matter interaction on a nanometer scale. Recently, high-index dielectric structures have gained increasing attention as possible low-loss alternatives to plasmonic nano-antennas made from noble metals. Furthermore, since non-linear effects offer many unique functionalities like the coherent up-conversion of photons, including the generation of harmonics, many efforts are being made to exploit such phenomena in nano-photonics. In this thesis, an analysis is presented on nonlinear optical effects in individual dielectric structures, specifically in silicon nanowires (SiNWs). Nanowires develop strong optical resonances in the visible and infrared spectral range. In this context, strong enhancement of the optical near-field together with a large surface to volume ratio support the appearance of nonlinear effects. We show that, compared to bulk Si, a two orders of magnitude increase in second harmonic generation (SHG) is feasible and furthermore unravel different polarization and size-dependent contributions at the origin of the SHG. Numerical simulations are carried out to reaffirm these experimental findings for which a numerical technique is presented to describe nonlinear effects on the basis of the Green Dyadic Method (GDM). In the last part of the thesis, the GDM is used together with evolutionary optimization (EO) algorithms to tailor and optimize optical properties of photonic nano-structures. We eventually fabricate samples, based on EO design, and successfully verify the predictions of the optimization algorithm. It turns out that EO is an extremely versatile tool and has a tremendous potential for many kinds of further applications in nano-optics.