Ce memoire est consacre a l'etude de certaines proprietes optiques non lineaires de nouvelles molecules organiques piegees dans des matrices solides xerogels et polymeres. Ces travaux concernent divers processus non lineaires presents dans ces materiaux solides dans le but de preserver les detecteurs photoniques tels que l'il ou les capteurs ccd contre l'agression laser. Ces materiaux fonctionnent comme des limiteurs optiques passifs : ils reagissent a la presence d'un rayonnement laser impulsionnel suffisamment intense en affaiblissant la luminance transmise. Parmi les differents mecanismes non lineaires, nous avons etudie les processus : d'absorption saturable inverse (asi) avec des chromophores de la famille des phtalocyanines et des porphyrines, de refraction non lineaire (rnl) et d'absorption a deux photons (adp). L'utilisation de lasers impulsionnels de duree nanoseconde, picoseconde et sub-picoseconde nous a permis d'evaluer la contribution des differents processus mis en jeu grace a un grand nombre d'experiences. Nous avons mis en evidence par des experiences de z-scan que des matrices solides dopees avec des chromophores asi presentent egalement de la rnl. Des molecules organiques du type quadripolaire exhibant le mecanisme adp semblent posseder une forte absorption des etats excites, comme pour les asi. Enfin, nous avons aborde l'etude du processus de diffusion induite dans un milieu inhomogene compose d'une matrice xerogel poreuse adaptee en indice avec un melange de solvants aux proprietes non lineaires. Afin d'expliquer de maniere satisfaisante la plupart des mesures experimentales, nous proposons des simulations numeriques basees sur la technique de la bpm. L'exploitation d'un seul mecanisme n'est pas toujours suffisante pour assurer une protection ideale. On peut alors envisager utiliser une combinaison de plusieurs mecanismes pour accroitre l'efficacite du systeme limiteur optique et pour beneficier d'une protection large bande spectrale.