Le travail de thèse est composé de trois thèmes principaux : le premier étudie l'existence et l'unicité pour des équations différentielles stochastiques (EDS) progressives-rétrogrades fortement couplées avec des opérateurs sous-différentiels dans les deux équations, dans l’équation progressive ainsi que l’équation rétrograde, et il discute également un nouveau type des inégalités variationnelles partielles paraboliques associées, avec deux opérateurs sous-différentiels, l’un agissant sur le domaine de l’état, l’autre sur le co-domaine. Le second thème est celui des EDS rétrogrades sans ainsi qu’avec opérateurs sous-différentiels, régies par un mouvement brownien fractionnaire avec paramètre de Hurst H> ½. Il étend de manière rigoureuse les résultats de Hu et Peng (SICON, 2009) aux inégalités variationnelles stochastiques rétrogrades. Enfin, le troisième thème met l’accent sur la caractérisation déterministe de la viabilité pour les EDS régies par un mouvement brownien fractionnaire. Ces trois thèmes de recherche mentionnés ci-dessus ont en commun d’étudier des EDS avec contraintes sur le processus d’état. Chacun des trois sujets est basé sur une publication et des manuscrits soumis pour publication, respectivement. / This PhD thesis is composed of three main topics: The first one studies the existence and the uniqueness for fully coupled forward-backward stochastic differential equations (SDEs) with subdifferential operators in both the forward and the backward equations, and it discusses also a new type of associated parabolic partial variational inequalities with two subdifferential operators, one acting over the state domain and the other over the co-domain. The second topic concerns the investigation of backward SDEs without as well as with subdifferential operator, both driven by a fractional Brownian motion with Hurst parameter H> 1/2. It extends in a rigorous manner the results of Hu and Peng (SICON, 2009) to backward stochastic variational inequalities. Finally, the third topic focuses on a deterministic characterisation of the viability for SDEs driven by a fractional Brownian motion. The three research topics mentioned above have in common to study SDEs with state constraints. The discussion of each of the three topics is based on a publication and on submitted manuscripts, respectively.