Cette thèse a pour objectif l’étude des propriétés optiques non linéaires (ONL) de second ordre de molécules de référence et de composés organiques photochromes, via des calculs de chimie quantique et des expériences de diffusion Hyper-Rayleigh (HRS). L’étude des réponses optiques de second harmonique d’une série de solvants organiques met tout d’abord en évidence la nécessité d’utiliser des méthodes théoriques intégrant les effets de la corrélation électronique, les effets d’environnement, ainsi que des bases très étendues pour évaluer quantitativement les premières hyperpolarisabilités moléculaires. La décomposition du tenseur de première hyperpolarisabilité en contributions dipolaires et octupolaires via le formalisme des harmoniques sphériques permet également d’illustrer l’effet de la symétrie des composés sur leurs réponses ONL. La seconde étude porte sur la caractérisation des effets de solvant sur les propriétés ONL d’un dérivé anil présentant un équilibre entre une forme énol et une forme cétone. Il est démontré que l’équilibre énol/cétone peut être déplacé vers la forme cétone en augmentant la proportion d’éthanol dans le mélange binaire de solvants éthanol/cyclohexane, conduisant à une augmentation de l’intensité HRS du mélange. La dernière partie de la thèse propose une étude théorique systématique des effets de substitution sur les propriétés ONL de sels de flavylium, dans le but d’optimiser le contraste des réponses ONL entre les différentes formes des composés. Il est démontré qu’une combinaison optimale de substituants permet d’obtenir de forts contrastes, démontrant le potentiel de ces composés comme systèmes multi-états pour des applications ONL. / This PhD addresses the nonlinear optical (NLO) properties of the reference organic molecules and molecular switches, by means of quantum chemical calculations and Hyper-Rayleigh Scattering (HRS) measurements. The thorough investigation of the NLO responses of a series of organic solvents first evidences the need of using theoretical methods including environment and electron correlation effects, as well as highly extended basis sets to quantitatively evaluate the molecular first hyperpolarizabilities. Decomposing the first hyperpolarizability tensor into dipolar and octupolar contributions via the spherical harmonics formalism also highlights the impact of the molecular symmetry on the NLO responses. The second part addresses the solvent effects on the NLO properties of an anil derivative, which exhibits an equilibrium between a enol and a keto form. It is shown that the enol/keto equilibrium is shifted towards the keto form when increasing the ethanol ratio in ethanol/cyclohexane solvent mixtures, leading to an increase of the HRS intensity. The last part addresses the effects of the chemical substituents on the NLO properties of flavylium salts, with the aim of optimizing the NLO contrasts between the various forms of the compounds. It is found that optimal combinations of chemical substituents lead to high NLO contrats, which demonstrates the potential of these compounds as multi-states systems for NLO applications