Les travaux présentés dans cette thèse concernent les nouvelles techniques d'optimisation pour la résolution de certains problèmes importants issus de finance. Il s'agit des problèmes d'optimisation non convexe de grande dimension pour lesquels la recherche des bonnes méthodes de résolution est toujours d'actualité. Notre travail s'appuie principalement sur la programmation DC (Différence de fonctions Convexes) et DCA (DC Algorithmes). Cette démarche est motivée par la robustesse et la performance de la programmation DC et DCA comparée aux autres méthodes. La thèse est divisée en deux parties et est composée de sept chapitres. Dans la première partie intitulée ¡Méthodologie¡ nous présentons des outils théoriques et algorithmiques servant des références aux autres. Le premier chapitre concerne la programmation DC et DCA tandis que le deuxième porte sur les algorithmes par séparation et évaluation. Dans la deuxième partie nous développons la programmation DC et DCA pour la résolution des problèmes en finance. Nous commençons par une introduction à la gestion de portefeuille (le Chapitre 3). Le Chapitre 4 est dédié aux généralisations du modèle moyenne-variance (MV) de Markowitz, où nous étudions le modèle MV sous les contraintes de seuil d'achat, de seuil et de cardinalité. Le Chapitre 5 est consacré à la mesure de risque de baisse et les contraintes de cardinalité. Le Chapitre 6 porte sur le problème de choix de portefeuille avec les fonctions des coûts de transaction en escalier. L'investissement robuste en gestion de portefeuille sous les contraintes de cardinalité est développé dans le dernier chapitre. / The topics presented in this thesis are related to new optimization techniques for solving some challenging problems resulting from finance. They are large-scale non convex optimization problems for which finding efficient solving methods is currently the topic of numerous researches. Our work is based mainly on DC (Difference of Convex functions) programming and DCA (DC Algorithm). This approach is motivated by the robustness and efficiency of DC programming and DCA approaches in comparison to the other methods. The thesis is divided into two parts and consists of seven chapters. In the first part entitled Methodology ; we present theoretical tools and algorithms that we are going to use in the thesis. The first chapter is about DC programming and DCA and the second focuses on branch and bound algorithms. In the second part we develop DC programming and DCA for solving some problems in finance. We begin with an introduction to the modern portfolio theory (The Chapter 3). The Chapter 4 is dedicated to the generalizations of the mean variance (MV) model of Markowitz, where we study the MV model under the buy-in threshold constraints, threshold constraints, and cardinality constraints. The Chapter 5 is devoted to the portfolio selection problem under downside risk measure and cardinality constraints. The Chapter 6 deals with the portfolio optimization under step increasing transaction costs functions. Finally, the robust investment strategies with discrete asset choice constraints are developed in the last chapter.

Dans ce travail de thèse, nous nous intéressons à plusieurs problèmes de théorie des graphes. Dans un premier temps, nous étudions différents problèmes de coupes et de multicoupes puis, dans un second temps, nous nous focalisons sur des problèmes de recherche de sous-graphes induits. Néanmoins, ces deux parties suivent la même ligne directrice : donner une vue d'ensemble de la complexité des problèmes en établissant leur NP-complétude ou en déterminant un algorithme polynomial de moindre complexité. Dans la première partie de la thèse, nous abordons les problèmes de coupes et de multicoupes. Tout d'abord, nous étudions la conséquence de l'ajout d'une contrainte de cardinalité à ces deux types de problèmes et démontrons leur NP- complétude dans le cas général. Puis, nous déterminons leur complexité dans plusieurs classes de graphes particuliers telles que les étoiles orientées et les chaînes en élaborant, pour les cas polynomiaux, différents algorithmes reposant principalement sur la programmation dynamique et l'utilisation de relaxations lagrangiennes. Nous généralisons ensuite cette approche en considérant les versions multicritères des problèmes de coupes et de multicoupes. Nous prouvons que ces derniers sont NP-complets même dans des topologies très simples comme les chaînes ou les cycles. Dans la seconde partie de ce mémoire, nous abordons des problèmes de recherche de sous-graphes induits. Nous nous intéressons principalement à la recherche d'arbres, de chaînes et de cycles induits couvrant un ensemble T de sommets donnés. Après avoir prouvé la NP-complétude des cas généraux, nous nous focalisons davantage sur les cas où la cardinalité de T est fixée. Nous donnons également plusieurs résultats structurels pour les graphes de maille suffisamment large.