In order to improve the design of mechanical or mechatronic systems, mathematical optimization techniques have become an efficient and attractive tool with the increasing development of computer resources. However, the application of such optimization methods to multibody systems (MBS) remains a challenge when the MBS analysis requires the solving of assembly constraints. Hence, this PhD research focuses on the optimization of such closed-loop MBS, particularly when the objective function is of geometrical or kinematic nature. For kinematic optimization of MBS, we propose two penalty strategies to deal with assembly constraints during optimization. Both strategies are compared and illustrated via applications such as the isotropy maximization of parallel manipulators: the 3-dof Delta robot and the 6-dof Hunt platform. Following the same strategies, geometrical optimization of MBS is then investigated. However, due to a higher complexity, we propose to relax the problem, combining two modeling approaches: rigid-body and extensible-link formulations. This leads to a two-step strategy which is then successfully applied to synthesize mechanisms for path-following or function-generation problems. Through these applications, the existence of multiple local optima is highlighted. Therefore, instead of focusing on the unique global optimum solution, we have developed original methods to search and propose several local solutions for the design problem. This approach is called morphological optimization. This enables the designer to choose finally the best solution among several local optima using additional design criteria. Such morphological optimization techniques open the doors for the topology optimization of MBS which remains a challenging problem for future research / Afin d'améliorer la conception de systèmes mécaniques ou mécatroniques, les techniques d'optimisation mathématique sont devenues un outil efficace et attrayant étant donné le développement croissant des ressources informatiques. Cependant, l'application de telles méthodes d'optimisation sur les systèmes multicorps demeure un défi quand l'analyse du système nécessite la résolution de contraintes d'assemblage. C'est pourquoi cette recherche doctorale se concentre sur l'optimisation de tels systèmes multicorps, particulièrement lorsque la fonction objectif est de nature géométrique ou cinématique. Pour l'optimisation cinématique des systèmes multicorps, nous proposons deux stratégies de pénalité pour traiter les contraintes d'assemblage en cours d'optimisation. Ces deux stratégies sont comparées et illustrées par des applications telles que la maximisation d'isotropie de manipulateurs parallèles. Suivant les mêmes stratégies, l'optimisation géométrique des systèmes multicorps est alors étudiée. Cependant, vu la plus grande complexité, nous proposons de relaxer le problème en combinant deux approches de modélisation : une formulation en termes de corps rigides et une autre en termes de liens extensibles. Ceci nous mène à une stratégie en deux étapes qui est alors appliquée avec succès pour la synthèse de mécanismes. A travers ces applications, on a mis en évidence l'existence d'optimums locaux multiples. Dès lors, plutôt que de se focaliser sur l'unique optimum global, nous avons développé des méthodes originales afin de rechercher et proposer plusieurs solutions locales pour le problème de conception. Cette approche est baptisée "optimisation morphologique". Elle permet au concepteur de choisir finalement la meilleure solution parmi plusieurs optimums locaux en utilisant des critères supplémentaires de conception. De telles techniques d'optimisation morphologique ouvrent les portes pour l'optimisation topologique des systèmes multicorps qui demeure un challenge motivant pour des recherches futures.