Les méthodes plus avancées d'optimisation avec ou sans contraintes nécessitent le calcul des dérivées de la fonction. En ce sens, la différentiation automatique est devenue un outil primordial. Malgré le fait qu'il soit omniprésent, cet outil est encore en développement et en recherche. Il ne présente pas les inconvénients classiques des méthodes habituelles de dérivation mais reste complexe à utiliser. Ce travail consiste à utiliser un outil de différentiation permettant de calculer des dérivées d'ordres supérieurs afin d'obtenir des directions améliorées. Nous définirons d'abord de manière générale un type d'algorithme d'optimisation à l'aide des directions suffisamment descendantes. Leurs caractéristiques seront analysées pour modifier des méthodes de type Newton afin d'avoir une meilleure fiabilité de convergence. Nous étudierons les opérations critiques et l'ordre du coût de ces méthodes. Dans une deuxième partie, nous verrons les calculs d'algèbre linéaire requis pour nos algorithmes. Ensuite, nous présenterons le fonctionnement de la différentiation automatique et en quoi c'en est un outil indispensable à ce genre de méthode. Puis, nous expliquerons pourquoi nous avons choisi l'outil Tapenade pour la différentiation automatique et la librairie de Moré, Garbow, Hillstrom pour la collection de fonctions tests. Enfin, nous comparerons les méthodes de type Newton.

Dans cette thèse, nous nous sommes intéressés à l'estimation des paramètres de transport de solutés dans un milieu poreux peu perméable, d'un point de vue théorique et appliqué, en lien avec le stockage des déchets nucléaires à vie longue en couche géologique profonde. La problématique de la gestion des déchets nucléaires est devenue durant ces dernières années une préoccupation importante de la société. Les modèles mathématiques utilisés pour le stockage des déchets en site profond sont basés sur les équations d'écoulement et de transport en milieu poreux. Ces modèles nécessitent de connaître les paramètres physiques des différentes couches géologiques. Ces paramètres (porosité et diffusion) n'étant pas accessibles directement, nous avons dans un premier temps étudié l'aspect identification de paramètres à zones fixées. Pour résoudre notre problème inverse, nous avons utilisé des méthodes déterministes (ou variationnelles) basées sur la minimisation d'un critère (ou fonction coût) quadratique, l'objectif étant de trouver l'ensemble des paramètres qui minimisent le critère. Nous avons décomposé le milieu en zones homogènes dans lesquelles les coefficients ont été identifiés (technique de zonation). Pour cela, nous avons différentié le code de convection-diffusion Traces avec le logiciel de différentiation automatique Tapenade afin d'obtenir le code adjoint de Traces. Dans un second temps, nous avons utilisé ce travail pour résoudre le problème d'identification de zones. On a cherché, partant d'une configuration géologique modifiée, à retrouver la configuration géologique réelle en identifiant les paramètres qui ont pour support ces zones. En regroupant ensuite par isovaleurs les coefficients identifiés, nous avons obtenu la configuration recherchée.

Le progrès technologique nécessite des techniques de plus en plus sophistiquées et précises de traitement de matériaux. Nous étudions le traitement de matériaux par faisceaux de haute énergie : un jet d’eau abrasif, une sonde ionique focalisée, un laser. L’évolution de la surface du matériau sous l’action du faisceau de haute énergie est modélisée par une EDP. Cette équation contient l’ensemble des coefficients inconnus - les paramètres de calibration de mo- dèle. Les paramètres inconnus peuvent être calibrés par minimisation de la fonction coût, c’est-à-dire, la fonction qui décrit la différence entre le résultat de la modélisation et les données expérimentales. Comme la surface modélisée est une solution du problème d’EDP, cela rentre dans le cadre de l’optimisation sous contrainte d’EDP. L’identification a été rendue bien posée par la régularisation du type Tikhonov. Le gradient de la fonction coût a été obtenu en utilisant les deux méthodes : l’approche adjointe et la différen- ciation automatique. Une fois la fonction coût et son gradient obtenus, nous avons utilisé un minimiseur L-BFGS pour réaliser la minimisation.Le problème de la non-unicité de la solution a été résolu pour le problème de traitement par le jet d’eau abrasif. Des effets secondaires ne sont pas inclus dans le modèle. Leur impact sur le procédé de calibration a été évité. Ensuite, le procédé de calibration a été validé pour les données synthétiques et expérimentales. Enfin, nous avons proposé un critère pour distinguer facilement entre le régime thermique et non- thermique d’ablation par laser. / The technological progress demands more and more sophisticated and precise techniques of the treatment of materials. We study the machining of the material with the high energy beams: the abrasive waterjet, the focused ion beam and the laser. Although the physics governing the energy beam interaction with material is very different for different application, we can use the same approach to the mathematical modeling of these processes.The evolution of the material surface under the energy beam impact is modeled by PDE equation. This equation contains a set of unknown parameters - the calibration parameters of the model. The unknown parameters can be identified by minimization of the cost function, i.e., function that describes the differ- ence between the result of modeling and the corresponding experimental data. As the modeled surface is a solution of the PDE problem, this minimization is an example of PDE-constrained optimization problem. The identification problem was regularized using Tikhonov regularization. The gradient of the cost function was obtained both by using the variational approach and by means of the automatic differentiation. Once the cost function and its gradient calculated, the minimization was performed using L-BFGS minimizer.For the abrasive waterjet application the problem of non-uniqueness of numerical solution is solved. The impact of the secondary effects non included into the model is avoided as well. The calibration procedure is validated on both synthetic and experimental data.For the laser application, we presented a simple criterion that allows to distinguish between the thermal and non-thermal laser ablation regimes.