Titre de l'écran-titre (visionné le 28 juin 2023) / La lyophilisation est devenue un sujet essentiel de développement dans l'industrie pharmaceutique. Il s'agit d'une technique de séchage reposant sur le principe de la sublimation qui est utilisée pour stabiliser et conserver des matériaux qui ne peuvent pas être séchés par des techniques conventionnelles. La lyophilisation comporte trois étapes : la congélation, le séchage primaire et le séchage secondaire. L'efficacité globale du procédé dépend principalement de la performance du séchage primaire, qui représente l'étape la plus longue et la plus énergivore et détermine en grande partie la qualité du produit final. La pratique courante consiste à opérer le procédé sous des profils pré-calculés avec des marges de sécurité, ce qui conduit à des cycles conservateurs et sous-performants. La commande automatique est donc une voie prometteuse pour réduire la durée de séchage, mais elle se limite généralement à des applications en flacon unique négligeant l'hétérogénéité spatiale affectant la dynamique de séchage intra-lot. D'autres défis sont liés à l'inaccessibilité des variables clés du processus ou à l'utilisation d'instruments intrusifs pour leur mesure. Ce projet de recherche étudie la commande et l'optimisation du séchage primaire de la lyophilisation en flacons, en abordant trois aspects principaux : la modélisation, l'estimation et la commande. La conception des stratégies d'estimation et de contrôle exige d'abord une représentation fiable du procédé. Le modèle proposé intègre les équations fondamentales du séchage primaire dans un modèle linéaire à paramètres variables, fournissant un compromis approprié entre la précision du modèle et le coût de calcul. Cette étude explore également la conception d'estimateurs en ligne de variables clés du procédé à l'aide d'instruments non invasifs, applicables à des équipements pilotes et industriels. La mesure globale est convertie pour tenir compte des contributions des flacons individuels, et cette mesure locale est utilisée dans la conception des estimateurs en ligne de la température du produit. Trois estimateurs sont formulés à l'aide des algorithmes suivants : filtre de Kalman étendu, l'estimation à fenêtre glissante et l'estimation non linéaire par moindres carrés. Des résultats satisfaisants ouvrent la voie à la possibilité de concevoir des estimateurs multi-flacons avec la mesure globale de la vapeur d'eau et englobant l'hétérogénéité spatiale du séchage. Le principe de commande initial a été développé et évalué en simulation pour un cas à flacon unique. Il a considéré deux algorithmes : une commande proportionnelle-intégrale et la commande prédictive. Le schéma de contrôle a été étendu à un problème à multiples flacons et validé dans une unité à l'échelle pilote. Les résultats ont été concluants, la commande automatique a conduit à des réductions significatives du temps de séchage par rapport aux conditions de fonctionnement typiques, et l'approche multi-flacons a permis d'obtenir un cycle très fiable. / Lyophilization, or freeze-drying, has become an essential subject of ongoing development in the pharmaceutical industry. It is a drying technique relying on the sublimation principle and is used to stabilize and preserve materials that cannot be dried by conventional techniques. Lyophilization involves three stages: freezing, primary drying, and secondary drying. The global efficiency of the process relies mainly on the performance of primary drying, as it represents the most time and energy-consuming stage and largely determines the quality of the final product. The common practice runs the process under pre-calculated profiles with safety margins, leading to conservative and underperforming cycles. Process control is thus a promising avenue to decrease drying duration, but it is generally confined to single-vial applications neglecting the spatial heterogeneity affecting the drying dynamics intra-lot. Additional challenges are related to the inaccessibility of key process variables or the use of intrusive instrumentation for their measurement. This research project investigates the control and optimization of the primary drying of lyophilization in vials, addressing three main aspects: modeling, estimation, and control. The conception of estimation and control strategies first requires a reliable process representation. The proposed model accommodates the fundamental equations of primary drying into a linear parameter-varying model, providing a suitable compromise between model accuracy and computational cost. This study also explores the design of in-line estimators of key process variables using non-invasive instrumentation, with applicability to pilot and industrial scale equipment. The global reading is converted to account for the contributions of individual vials, and this local measurement is used in the design of in-line estimators of the product temperature. Three estimators are formulated using the following algorithms: extended Kalman filter, moving horizon estimation, and nonlinear least square estimation. Satisfactory results open the door to the possibility of designing multi-vial estimators with the global reading of water vapor and encompassing the spatial heterogeneity of drying. The initial control framework was developed and benchmarked in simulation for a single-vial case. It considered two algorithms: a standard proportional integral control and a model predictive control. The control scheme was extended to a multi-vial problem and validated in a pilot-scale unit. Results were conclusive, process control led to significant drying time reductions compared to typical operating conditions, and the multi-vial approach yielded a highly dependable cycle.

Titre de l'écran-titre (visionné le 26 juin 2023) / Ce travail porte sur le problème d'optimisation de forme dans le cadre de la mécanique des solides en petites déformations, et plus spécialement sur les différentes méthodes numériques utilisées pour résoudre le problème. Une présentation de la théorie de la mécanique des milieux continus, axée sur la mécanique des solides, sera présentée. L'équation de l'équilibre dynamique, qui sera utilisée comme équation d'état dans le reste du mémoire, y sera dérivée. Par la suite, un bref rappel de la théorie de l'optimisation dans les espaces de Hilbert sera fait, particulièrement sur les conditions d'optimalité pour des problèmes avec ou sans contrainte. On étudiera également les différents modèles qui existent pour représenter mathématiquement l'espace des formes admissibles, ainsi que les difficultés théoriques qui se cachent derrière le problème d'optimisation de forme. Puis, on s'intéressera aux méthodes numériques utiles à la résolution de ce problème : en premier, des paradigmes de discrétisation pour résoudre l'équation d'état en mécanique seront présentés, notamment la méthode des éléments finis (MEF). Deuxièmement, une revue des différentes techniques d'optimisation numérique sera faite, pour donner une vue d'ensemble des algorithmes qui peuvent être utilisés sur le problème d'optimisation de forme. Finalement, quelques unes de ces méthodes seront implémentées dans le logiciel d'éléments finis MEF++ et testées sur des cas classiques d'optimisation topologique dans le paradigme SIMP, principalement dans le but de faire une analyse de leur comportement sur des instances de dimension élevée, en parallèle, sur une grappe de calcul. / This work is dedicated to shape optimization problems applied to linear elasticity, focusing mostly on the numerical methods used to solve these problems. An overview of continuum mechanics is first presented. The linear dynamic equilibrium equation is derived, as it is the classical state equation for most shape optimization problems in solid mechanics. Subsequently, the theory of optimization in general Hilbert spaces is presented, with emphasis on the existence and uniqueness conditions for optimality, for both constrained and unconstrained problems. Different models for representing shapes mathematically and their known theoretical limitations are also described. Then, numerical methods for the solution of the mechanical state equation are explored, in particular, the finite element method (FEM). A review of different algorithms to solve the discretized optimization problem is done afterwards, to give an overview of the wide array of available methods. Finally, some of those algorithms are implemented in the finite element software MEF++ and are tested on classical topology optimization problems with the SIMP model, mainly to study their performance on high-dimensional instances solved on a parallel computer cluster.

Les mécanismes parallèles entraînés par câbles sont une classe spéciale de mécanismes parallèles pours lesquels les liaisons rigides sont remplacées par des câbles. Ces mécanismes comprennent une plateforme mobile et une base fixe, qui sont reliées par plusieurs câbles. Le contrôle des longueurs des câbles produit le mouvement désiré de la plateforme mobile. Ces mécanismes ont le potentiel de fournir des espaces de travail à grande échelle comparativement aux mécanismes parallèles conventionnels car les câbles peuvent être enroulés sur des bobines sur de grandes longueurs. Cependant, cette caractéristique est limitée par la nature des câbles, qui doivent demeurer en tension afin de produire un mouvement désiré de la plateforme principale. L'objectif principal de cette thèse est de concevoir des méthodes efficaces pour la synthèse dimensionelle optimale des mécanismes parallèles entraînés par câbles surcontraints, c'est-à-dire, des mécanismes pour lesquels le nombre de câbles excède le nombre de degrés de liberté. Plus précisément, nous souhaitons obtenir la géométrie des mécanismes parallèles entraînés par câbles dont l'espace des poses polyvalente (EPP) comprend des espaces de travail prescrits. L'espace des poses polyvalentes d'un mécanisme parallèle entraîné par câbles est l'ensemble des poses (les positions et les orientations) de l'organe terminal pour lesquelles tous les torseurs appliqués sont réalisables. Un torseur appliqué est dit réalisable, s'il peut être produit par un ensemble de câbles dont les tensions sont non-négatives. Une fois le problème de la synthèse dimensionnelle résolu, nous pouvons appliquer la solution à plusieurs reprises pour différents nombres de câbles afin d'effectuer la synthèse de la structure. Cette thèse est divisée en trois parties principales. Tout d'abord, l'espace des poses polyvalentes des mécanismes parallèles plans entraînés par câbles et les caractéristiques de leurs frontières sont étudiés. Cette étude révèle les relations jusqu'ici inconnues entre l'EPP à orientation constante (EPPOC) et les aires orientées. Un algorithme graphique est proposé afin de déterminer les types de sections coniques formant les frontières de l'EPPOC . Puis, sur la base des expressions mathématiques obtenues, une méthodologie est proposée pour résoudre le problème de la synthèse dimensionnelle des mécanismes parallèles plans entraînés par câbles pour les orientations discrètes c'est-àdire, les translations. L'algorithme est basé sur des techniques de relaxation convexe qui nous amènent à formuler la synthèse dimensionnelle comme un programme non linéaire. L'idée est de maximiser la taille de plusieurs boîtes qui représentent une approximation d'un espace de travail prescrit, tout en essayant de les garder à l'intérieur de l'EPP du mécanisme parallèle plan entraîné par câbles pendant la procédure d' optimisation. Une telle approximation de l'espace de travail prescrit est obtenue via la méthode d'analyse par intervalles. L'algorithme obtenu est étendu au cas de l'orientation en continu pour un intervalle donné d'angles d'orientation. En fait, nous introduisons un programme non linéaire permettant de varier la géométrie du mécanisme parallèle plan entraîné par câbles et maximiser le facteur d'échelle de l'ensemble prescrit de boîtes. Lorsque le facteur d'échelle optimal est supérieur ou égal à un, l'EPP du mécanismes parallèle plan entraîné par câbles résultant contient l'ensemble des boîtes prescrit. Sinon, l'EPP obtenu offre généralement une bonne couverture des boîtes prescrites. Enfin, sur la base des résultats obtenus pour des mécanismes parallèles plans entraînés par câbles, un algorithme est proposé pour résoudre la synthèse dimensionelle de mécanismes parallèles spatiaux entraînés par câbles. Comme pour le cas plan, nous proposons un programme non linéaire à grande échelle dont les solutions optimales peuvent fournir des geometries de mécanismes parallèles spatiaux entraînés par câbles pour un espace de travail prescrit dans une plage donnée des angles d'orientation. L'efficacité de ces méthodes est émontrée par plusieurs exemples en utilisant un logiciel développé. En outre, cette thèse fournit un outil efficace pour les concepteurs de robots parallèles entraînés par câbles

La programmation linéaire permet d’effectuer l’optimisation de la gestion des réseaux de création de valeur. Dans la pratique, la taille de ces problèmes demande l’utilisation d’un ordinateur pour effectuer les calculs nécessaires, et l’algorithme du simplexe, entre autres, permet d’accomplir cette tâche. Ces solutions sont cependant construites sur des modèles approximatifs et l’humain est généralement méfiant envers les solutions sorties de « boîtes noires ». Les systèmes à initiative partagée permettent une synergie entre, d’une part, l’intuition et l’expérience d’un décideur humain et, d’autre part, la puissance de calcul de l’ordinateur. Des travaux précédents au sein du FORAC ont permis l’application de cette approche à la planification tactique des opérations des réseaux de création de valeur. L’approche permettrait l’obtention de solutions mieux acceptées. Elle a cependant une interface utilisateur limitée et contraint les solutions obtenues à un sous-espace de l’ensemble des solutions strictement optimales. Dans le cadre de ce mémoire, les principes de conception d’interface humain-machine sont appliqués pour concevoir une interface graphique plus adaptée à l’utilisateur type du système. Une interface basée sur le modèle de présentation de données de l’outil Logilab, à laquelle sont intégrées les interactivités proposées par Hamel et al. est présentée. Ensuite, afin de permettre à l’expérience et à l’intuition du décideur humain de compenser les approximations faites lors de la modélisation du réseau de création de valeur sous forme de problème linéaire, une tolérance quant à l’optimalité des solutions est introduite pour la recherche interactive de solutions alternatives. On trouvera un nouvel algorithme d’indexation des solutions à combiner et une nouvelle heuristique de combinaison convexe pour permettre cette flexibilité. Afin d‘augmenter la couverture de l’espace solutions accessible au décideur humain, un algorithme de recherche interactive de solution basé sur le simplexe est introduit. Cet algorithme présente une stabilité similaire à la méthode de Hamel et al., mais ses performances en temps de calcul sont trop basses pour offrir une interactivité en temps réel sur de vrais cas industriels avec les ordinateurs présentement disponibles.Une seconde approche d’indexation complète de l’espace solutions est proposée afin de réduire les temps de calcul. Les nouveaux algorithmes « Linear Redundancyless Recursive Research » (Recherche linéaire récursive sans redondance, LRRR) pour la cartographie et l’indexation de l’espace solutions et « N-Dimension Navigation Direction » (direction de navigation à n-dimensions, NDND) pour l’exploration interactive de celui-ci sont présentés. Ces algorithmes sont justes et rapides, mais ont cependant un coût mémoire au-delà de la capacité des ordinateurs contemporains. Finalement, d’autres pistes d’exploration sont présentées, notamment l’exploitation des méthodes du point intérieur et de l’algorithme de Karmarkar ainsi qu’une ébauche d’approche géométrique.

Nous nous intéressons dans cette thèse aux problèmes d'optimisation de systèmes de grande taille en environnement incertain et plus particulièrement à la résolution de leurs équivalents déterministes par des méthodes de décomposition de type proximal. L'application sous-jacente que nous avons à l'esprit est celle de la gestion optimale de la production électrique d'EDF soumise aux aléas climatique, de marche et de consommation. Nous mettons 'a plat les couplages naturels espace-temps- aléas liés à cette application et proposons deux nouveaux schémas de discrétisation pour le couplage des aléas, bas'es sur l'estimation non-paramétrique de espérance conditionnelle, qui constituent des alternatives à la construction d'arbres de scénarios. Nous nous intéressons ensuite aux méthodes de décomposition en travaillant sur un modèle général, celui de la minimisation d'une somme de deux fonctions convexes, la première séparable et l'autre couplante. D'une part, ce modèle simplifie nous exonéré de la technicité due à un choix particulier de cou- plage et de sous-système. D'autre part hypothèse de convexité permet de tirer parti de la théorie des opérateurs monotones et de l'identification des méthodes proximales comme des algorithmes de points fixes. Nous mettons l'accent sur les propriétés différentielles des opérateurs de réflexion généralisée dont on cherche un point fixe, qui permettent de borner la vitesse de convergence. Nous étudions ensuite deux familles d'algorithmes de décomposition-coordination issues des méthodes dites d'éclatement d'opérateurs, à savoir les méthodes Forward-Backward et de type Rachford. Nous suggérons quelques techniques d'accélération de la convergence des méthodes de type Rachford. Pour cela, nous analysons dans un premier temps la méthode d'un point de vue théorique, fournissant ainsi des explications à certaines observations numériques, avant de proposer des améliorations en réponse. Parmi elles, une mise a' jour automatique du facteur d'échelle permet de corriger son éventuel mauvais choix initial. La preuve de convergence de cette technique se voit facilitée grâce aux résultats de stabilité de certaines lois internes vis a' vis de la convergence graphique établis en amont. Nous soumettons aussi l'idée d'introduire des "sauts" dans la méthode lorsqu'elle est appliquée à des problèmes polyédraux, en fondant nos argument sur la géométrie formée par la suite des itérés. En dernier lieu, nous montrons qu'il est possible, en ajoutant un mécanisme de contrôle, de s'affranchir de la résolution de tous les sous-problèmes à chaque itération en préservant la convergence globale. L'intérêt pratique de ces suggestions est confirmé par des tests numériques sur le problème de gestion de production électrique.

Cette étude porte sur deux types de problèmes inverses en thermique : l'estimation de propriétés thermophysiques de matériaux anisotropes et l'estimation de conditions limites. Dans un premier temps, la méthode flash 3D permet d'estimer la diffusivité thermique dans les trois directions principales d'un matériau anisotrope. Pour cela, un dispositif expérimental spécifique a été développé. Il s'appuie essentiellement sur un laser CO2 comme source de puissance thermique et sur la thermographie infrarouge comme instrument de mesure. En associant à l'expérimentation un modèle analytique des transferts thermiques dans l'échantillon, un estimateur permet d'obtenir les diffusivités thermiques recherchées. Au cours de ce travail, différents estimateurs ont été proposés et comparés à travers notamment leurs écarts types. Par ailleurs, il est proposé également une méthode de conception optimale d'expérience permettant de diminuer davantage ces écarts types. Dans un deuxième temps, on s'intéresse à l'estimation de conditions aux limites thermiques d'un système faisant intervenir les matériaux dont on connait les propriétés thermophysiques, à partir de mesures de température par thermocouples. La première application concerne la caractérisation les transferts thermiques instationnaires gaz-paroi pendant la phase de remplissage de bouteilles d'hydrogène haute pression. La seconde application porte sur l'estimation du flux de chaleur absorbé par des matériaux composites soumis à une flamme oxygène/acétylène. Ces travaux font appel à différentes méthodes d'optimisation, aussi bien des algorithmes classiques de type gradient, que des algorithmes stochastiques. Ces derniers se sont révélés particulièrement adaptés à la conception optimale d'expériences.

Nous visons à travers cette thèse à proposer un ensemble d'approches permettant d'optimiser les entrepôts de données et d'aider l'AED à bien mener cette optimisation. Nos approches d'optimisation reposent sur l'utilisation de trois techniques d'optimisation : la fragmentation horizontale primaire, dérivée et les index de jointure binaires (IJB). Nous commençons par proposer une approche de fragmentation qui prend en considération à la fois la performance (réduction du coût d'exécution) et la manageabilité (contrôle du nombre de fragments générés). Nous proposons ensuite une approche gloutonne de sélection d'IJB. L'utilisation séparée de la fragmentation horizontale (FH) et des IJB ne permet pas d'exploiter les similarités existantes entre ces deux techniques. Nous proposons une approche de sélection conjointe de la FH et des IJB. Cette approche peut être utilisée pour le tuning de l'entrepôt. Nous avons mené plusieurs expériences pour valider nos différentes approches. Nous proposons par la suite un outil permettant d'aider l'AED dans ses tâches de conception physique et de tuning.<br />Mots clés : Conception physique, Tuning, Techniques d'optimisation, Fragmentation Horizontale, Index de Jointure Binaires.

Malgré de nombreux travaux sur le sujet, la résolution des problèmes de contact constitue encore un défi pour le numéricien. Il existe deux types de problèmes de contact : soit le contact unilatéral et le contact frottant. Dans cette thèse, nous allons uniquement considérer le contact unilatéral. De plus, nous allons nous limiter au cas de l'élasticité linéaire. Malgré ces hypothèses, les principales difficultés du problème en grandes déformations y sont présentes. La difficulté majeure provient de la non différentiabilité engendrée par la contrainte d'inéquation du contact. Plusieurs auteurs utilisent des méthodes de régularisation afin d'obtenir un problème différentiable soluble par l'algorithme de Newton. Nous croyons que cette stratégie pose problème et qu'il est préférable de traiter le problème directement à partir de l'inéquation variationnelle. Dans la thèse, nous allons proposer plusieurs stratégies de résolution par éléments finis du problème de contact unilatéral. Tous les algorithmes sont basés sur les méthodes puissantes et efficaces de l'optimisation convexe. En premier lieu, on propose un algorithme de type gradient conjugué avec projection sur le cône positif. Cet algorithme baptisé GCP, s'est révélé fort efficace dans le cas du contact entre un solide déformable et une fondation rigide. On propose aussi un algorithme ALG3 basé sur une formulation à trois champs du problème de contact résolu par la méthode du Lagrangien Augmenté. Finalement on propose un algorithme ALGCP qui combine à la fois l'approche du Lagrangien Augmenté ainsi que la méthode du Gradient Conjugué Projeté (GCP). Les résultats numériques montreront la supériorité de ALG3 pour les problèmes de contact unilatéral à plusieurs corps.

Dans cette thèse, l’optimisation bayésienne sera analysée et étendue pour divers problèmes reliés à l’apprentissage supervisé. Les contributions de la thèse sont en lien avec 1) la surestimation de la performance de généralisation des hyperparamètres et des modèles résultants d’une optimisation bayésienne, 2) une application de l’optimisation bayésienne pour la génération d’ensembles de classifieurs, et 3) l’optimisation d’espaces avec une structure conditionnelle telle que trouvée dans les problèmes “d’apprentissage machine automatique” (AutoML). Généralement, les algorithmes d’apprentissage automatique ont des paramètres libres, appelés hyperparamètres, permettant de réguler ou de modifier leur comportement à plus haut niveau. Auparavant, ces hyperparamètres étaient choisis manuellement ou par recherche exhaustive. Des travaux récents ont souligné la pertinence d’utiliser des méthodes plus intelligentes pour l’optimisation d’hyperparamètres, notamment l’optimisation bayésienne. Effectivement, l’optimisation bayésienne est un outil polyvalent pour l’optimisation de fonctions inconnues ou non dérivables, ancré fortement dans la modélisation probabiliste et l’estimation d’incertitude. C’est pourquoi nous adoptons cet outil pour le travail dans cette thèse. La thèse débute avec une introduction de l’optimisation bayésienne avec des processus gaussiens (Gaussian processes, GP) et décrit son application à l’optimisation d’hyperparamètres. Ensuite, des contributions originales sont présentées sur les dangers du surapprentissage durant l’optimisation d’hyperparamètres, où l’on se trouve à mémoriser les plis de validation utilisés pour l’évaluation. Il est démontré que l’optimisation d’hyperparamètres peut en effet mener à une surestimation de la performance de validation, même avec des méthodologies de validation croisée. Des méthodes telles que le rebrassage des plis d’entraînement et de validation sont ensuite proposées pour réduire ce surapprentissage. Une autre méthode prometteuse est démontrée dans l’utilisation de la moyenne a posteriori d’un GP pour effectuer la sélection des hyperparamètres finaux, plutôt que sélectionner directement le modèle avec l’erreur minimale en validation croisée. Les deux approches suggérées ont montré une amélioration significative sur la performance en généralisation pour un banc de test de 118 jeux de données. Les contributions suivantes proviennent d’une application de l’optimisation d’hyperparamètres pour des méthodes par ensembles. Les méthodes dites d’empilage (stacking) ont précédemment été employées pour combiner de multiples classifieurs à l’aide d’un métaclassifieur. Ces méthodes peuvent s’appliquer au résultat final d’une optimisation bayésienne d’hyperparamètres en conservant les meilleurs classifieurs identifiés lors de l’optimisation et en les combinant à la fin de l’optimisation. Notre méthode d’optimisation bayésienne d’ensembles consiste en une modification du pipeline d’optimisation d’hyperparamètres pour rechercher des hyperparamètres produisant de meilleurs modèles pour un ensemble, plutôt que d’optimiser pour la performance d’un modèle seul. L’approche suggérée a l’avantage de ne pas nécessiter plus d’entraînement de modèles qu’une méthode classique d’optimisation bayésienne d’hyperparamètres. Une évaluation empirique démontre l’intérêt de l’approche proposée. Les dernières contributions sont liées à l’optimisation d’espaces d’hyperparamètres plus complexes, notamment des espaces contenant une structure conditionnelle. Ces conditions apparaissent dans l’optimisation d’hyperparamètres lorsqu’un modèle modulaire est défini – certains hyperparamètres sont alors seulement définis si leur composante parente est activée. Un exemple de tel espace de recherche est la sélection de modèles et l’optimisation d’hyperparamètres combinée, maintenant davantage connu sous l’appellation AutoML, où l’on veut à la fois choisir le modèle de base et optimiser ses hyperparamètres. Des techniques et de nouveaux noyaux pour processus gaussiens sont donc proposées afin de mieux gérer la structure de tels espaces d’une manière fondée sur des principes. Les contributions présentées sont appuyées par une autre étude empirique sur de nombreux jeux de données. En résumé, cette thèse consiste en un rassemblement de travaux tous reliés directement à l’optimisation bayésienne d’hyperparamètres. La thèse présente de nouvelles méthodes pour l’optimisation bayésienne d’ensembles de classifieurs, ainsi que des procédures pour réduire le surapprentissage et pour optimiser des espaces d’hyperparamètres structurés. / In this thesis, we consider the analysis and extension of Bayesian hyperparameter optimization methodology to various problems related to supervised machine learning. The contributions of the thesis are attached to 1) the overestimation of the generalization accuracy of hyperparameters and models resulting from Bayesian optimization, 2) an application of Bayesian optimization to ensemble learning, and 3) the optimization of spaces with a conditional structure such as found in automatic machine learning (AutoML) problems. Generally, machine learning algorithms have some free parameters, called hyperparameters, allowing to regulate or modify these algorithms’ behaviour. For the longest time, hyperparameters were tuned by hand or with exhaustive search algorithms. Recent work highlighted the conceptual advantages in optimizing hyperparameters with more rational methods, such as Bayesian optimization. Bayesian optimization is a very versatile framework for the optimization of unknown and non-derivable functions, grounded strongly in probabilistic modelling and uncertainty estimation, and we adopt it for the work in this thesis. We first briefly introduce Bayesian optimization with Gaussian processes (GP) and describe its application to hyperparameter optimization. Next, original contributions are presented on the dangers of overfitting during hyperparameter optimization, where the optimization ends up learning the validation folds. We show that there is indeed overfitting during the optimization of hyperparameters, even with cross-validation strategies, and that it can be reduced by methods such as a reshuffling of the training and validation splits at every iteration of the optimization. Another promising method is demonstrated in the use of a GP’s posterior mean for the selection of final hyperparameters, rather than directly returning the model with the minimal crossvalidation error. Both suggested approaches are demonstrated to deliver significant improvements in the generalization accuracy of the final selected model on a benchmark of 118 datasets. The next contributions are provided by an application of Bayesian hyperparameter optimization for ensemble learning. Stacking methods have been exploited for some time to combine multiple classifiers in a meta classifier system. Those can be applied to the end result of a Bayesian hyperparameter optimization pipeline by keeping the best classifiers and combining them at the end. Our Bayesian ensemble optimization method consists in a modification of the Bayesian optimization pipeline to search for the best hyperparameters to use for an ensemble, which is different from optimizing hyperparameters for the performance of a single model. The approach has the advantage of not requiring the training of more models than a regular Bayesian hyperparameter optimization. Experiments show the potential of the suggested approach on three different search spaces and many datasets. The last contributions are related to the optimization of more complex hyperparameter spaces, namely spaces that contain a structure of conditionality. Conditions arise naturally in hyperparameter optimization when one defines a model with multiple components – certain hyperparameters then only need to be specified if their parent component is activated. One example of such a space is the combined algorithm selection and hyperparameter optimization, now better known as AutoML, where the objective is to choose the base model and optimize its hyperparameters. We thus highlight techniques and propose new kernels for GPs that handle structure in such spaces in a principled way. Contributions are also supported by experimental evaluation on many datasets. Overall, the thesis regroups several works directly related to Bayesian hyperparameter optimization. The thesis showcases novel ways to apply Bayesian optimization for ensemble learning, as well as methodologies to reduce overfitting or optimize more complex spaces. / Dans cette thèse, l’optimisation bayésienne sera analysée et étendue pour divers problèmes reliés à l’apprentissage supervisé. Les contributions de la thèse sont en lien avec 1) la surestimation de la performance de généralisation des hyperparamètres et des modèles résultants d’une optimisation bayésienne, 2) une application de l’optimisation bayésienne pour la génération d’ensembles de classifieurs, et 3) l’optimisation d’espaces avec une structure conditionnelle telle que trouvée dans les problèmes “d’apprentissage machine automatique” (AutoML). Généralement, les algorithmes d’apprentissage automatique ont des paramètres libres, appelés hyperparamètres, permettant de réguler ou de modifier leur comportement à plus haut niveau. Auparavant, ces hyperparamètres étaient choisis manuellement ou par recherche exhaustive. Des travaux récents ont souligné la pertinence d’utiliser des méthodes plus intelligentes pour l’optimisation d’hyperparamètres, notamment l’optimisation bayésienne. Effectivement, l’optimisation bayésienne est un outil polyvalent pour l’optimisation de fonctions inconnues ou non dérivables, ancré fortement dans la modélisation probabiliste et l’estimation d’incertitude. C’est pourquoi nous adoptons cet outil pour le travail dans cette thèse. La thèse débute avec une introduction de l’optimisation bayésienne avec des processus gaussiens (Gaussian processes, GP) et décrit son application à l’optimisation d’hyperparamètres. Ensuite, des contributions originales sont présentées sur les dangers du surapprentissage durant l’optimisation d’hyperparamètres, où l’on se trouve à mémoriser les plis de validation utilisés pour l’évaluation. Il est démontré que l’optimisation d’hyperparamètres peut en effet mener à une surestimation de la performance de validation, même avec des méthodologies de validation croisée. Des méthodes telles que le rebrassage des plis d’entraînement et de validation sont ensuite proposées pour réduire ce surapprentissage. Une autre méthode prometteuse est démontrée dans l’utilisation de la moyenne a posteriori d’un GP pour effectuer la sélection des hyperparamètres finaux, plutôt que sélectionner directement le modèle avec l’erreur minimale en validation croisée. Les deux approches suggérées ont montré une amélioration significative sur la performance en généralisation pour un banc de test de 118 jeux de données. Les contributions suivantes proviennent d’une application de l’optimisation d’hyperparamètres pour des méthodes par ensembles. Les méthodes dites d’empilage (stacking) ont précédemment été employées pour combiner de multiples classifieurs à l’aide d’un métaclassifieur. Ces méthodes peuvent s’appliquer au résultat final d’une optimisation bayésienne d’hyperparamètres en conservant les meilleurs classifieurs identifiés lors de l’optimisation et en les combinant à la fin de l’optimisation. Notre méthode d’optimisation bayésienne d’ensembles consiste en une modification du pipeline d’optimisation d’hyperparamètres pour rechercher des hyperparamètres produisant de meilleurs modèles pour un ensemble, plutôt que d’optimiser pour la performance d’un modèle seul. L’approche suggérée a l’avantage de ne pas nécessiter plus d’entraînement de modèles qu’une méthode classique d’optimisation bayésienne d’hyperparamètres. Une évaluation empirique démontre l’intérêt de l’approche proposée. Les dernières contributions sont liées à l’optimisation d’espaces d’hyperparamètres plus complexes, notamment des espaces contenant une structure conditionnelle. Ces conditions apparaissent dans l’optimisation d’hyperparamètres lorsqu’un modèle modulaire est défini – certains hyperparamètres sont alors seulement définis si leur composante parente est activée. Un exemple de tel espace de recherche est la sélection de modèles et l’optimisation d’hyperparamètres combinée, maintenant davantage connu sous l’appellation AutoML, où l’on veut à la fois choisir le modèle de base et optimiser ses hyperparamètres. Des techniques et de nouveaux noyaux pour processus gaussiens sont donc proposées afin de mieux gérer la structure de tels espaces d’une manière fondée sur des principes. Les contributions présentées sont appuyées par une autre étude empirique sur de nombreux jeux de données. En résumé, cette thèse consiste en un rassemblement de travaux tous reliés directement à l’optimisation bayésienne d’hyperparamètres. La thèse présente de nouvelles méthodes pour l’optimisation bayésienne d’ensembles de classifieurs, ainsi que des procédures pour réduire le surapprentissage et pour optimiser des espaces d’hyperparamètres structurés.

La conception d'une machine haute vitesse est un problème multiphysique très complexe. Les contraintes mécaniques au rotor sont très élevées et la dynamique du rotor ne peut pas être négligée sinon les vibrations excessives risquent de détruire la machine. Même les pertes aérodynamiques créées par le frottement entre le rotor et l'air dans l'entrefer ne peuvent être négligées. La vitesse élevée implique également une fréquence électrique très élevée et donc des problèmes de pertes additionnelles dans le bobinage, de pertes fer, de pertes par courant de Foucault au rotor et de pertes de commutation dans les composantes de puissance de l'onduleur. Les pertes par courant de foucault au rotor, par exemple, augmentent la température des aimants risquant ainsi d'altérer leur performance ou même de les démagnétiser. Le concepteur doit faire preuve d'ingéniosité pour trouver des solutions et des compromis entre ces nombreux problèmes tout en considérant les couplages multiphysiques entre les modèles. Par exemple, l'augmentation de la fréquence de hachage permet la réduction des pertes par courant de foucault au rotor, mais augmente les pertes par commutation dans l'onduleur d'où la nécessité de l'atteinte d'un premier compromis. Les machines synchrones à aimants permanents montés en surface étant des machines prometteuses pour fonctionner à des vitesses et densités de puissance élevées, l'objectif du présent travail de recherche est de développer un outil de CAO adapté à ce type de machine et d'en déduire des règles de conception. Le calcul de champs 2D magnétostatique et magnétoharmonique est directement piloté par un algorithme d'optimisation pour permettre une estimation précise des paramètres les plus complexes à modéliser pour des espaces de conception et des topologies variés. Une étude comparative de moteurs optimisés pour différentes vitesses et densités de puissance a permis de déduire des règles de conception comme le choix du nombre de pôles et l'équilibre entre les pertes cuivre et les pertes fer. Le **Chapitre 1** traite de l'état de l'art actuel de la conception de machines haute vitesse. Les différents défis de conception et de réalisation sont exposés et discutés ainsi que les principales solutions possibles. Le **Chapitre 2** présente différents modèles adaptés aux machines haute vitesse permettant d'aider le concepteur dans son processus. L'implantation de la méthode de conception directe par calcul de champs à l'aide de MATLAB, PYTHON et CEDRAT FLUX est exposé dans le **Chapitre 3** alors que son utilisation pour l'obtention de règles de conception et son application sur un générateur de 80kW fonctionnant à 70000 rpm sont traités au **Chapitre 4**. Finalement, le **Chapitre 5** traite des différentes solutions aux problèmes majeurs des pertes dans les aimants. / Conception of a high-speed electrical machine is a complex multiphisics problem. Mechanical constraints in the rotor are high and rotor dynamics cannot be neglected otherwise excessive vibrations could destroy the machine. Even aerodynamic losses caused by friction between the rotor and the air in the air gap cannot be neglected. High-speed also implies high electrical frequency and therefore additional losses in the windings, iron losses, losses in the rotor et switching losses in power electronics. Rotor losses, for example, raise the temperature of the magnets and may alter their performance or even demagnetize them. The designer must therefore show ingenuity to find solutions and compromises between these numerous problems while considering the multiphysics couplings. For example, increasing switching frequency of the inverter allows the reduction of rotor losses, but increases switching losses in power components, hence the need to reach a compromise. Since Surface Mounted Permanent Magnet synchronous (SMPM) machines are promising for operating at high speeds and power density, the aim of this research is to develop an optimization process adapted to this type of machine that makes it possible to deduce design rules. Parametric magnetodynamic and magneto-harmonic FEA simulations are directly driven by an optimization algorithm to allow accurate estimation of parameters that are difficult to evaluate for various design spaces and topologies. A comparative study of motors optimized for different speeds and power density made it possible to deduce design rules such as the choice of the number of poles and the balance between copper losses and iron losses. First, Chapter 1 introduces the current state of the art for high-speed machines designs. Various design and fabrication challenges are discussed as well as popular solutions. Chapter 2 shows models adapted to high-speed machines to help the designer in his process. Implementation of the optimization process by direct field calculation using MATLAB, PYTHON and CEDRAT FLUX is shown in chapter 3 while its use for obtaining design rules and its application for an 80 kW generator are in chapter 4. Finally, a few solutions for magnet losses are studied in chapter 5.