Au cœur de la cognition, du comportement et des émotions, le cerveau demeure un organe encore méconnu. L'une des approches les plus novatrices utilisées pour son exploration est l'imagerie calcique, qui offre la possibilité de suivre en temps réel l'activité neuronale. Initialement pratiquée sur des animaux immobilisés, la miniaturisation des composants optiques et des capteurs d'images a permis le développement de nouveaux outils, appelés mini-endoscopes ou microendoscopes, permettant désormais ce type d'études sur des animaux libres de se déplacer. Les mini-endoscopes possédant des résolutions cellulaires (3 µm à 15 µm), ils présentent des limites quant à l'observation de structures plus fines telles que les dendrites et les épines dendritiques (∼ 0.4 µm). Dans cette thèse, après avoir présenté un nouveau design d'endoscope fonctionnant à deux couleurs, nous exposons trois solutions novatrices visant à améliorer la résolution des mini-endoscopes. La première implique l'intégration d'une lentille à cristaux liquides ajustable, connue sous le nom de lentille fovéale. Cette lentille permet de modifier localement la distance focale lorsqu'elle est positionnée dans la voie d'imagerie. Nous avons obtenu un ajustement allant jusque 244 µm. Nous démontrons également la génération de spots lumineux dans le champ de vue en utilisant une seconde lentille fovéale placée dans la voie d'excitation. La seconde solution vise à corriger les aberrations optiques présentes dans le système microendoscopique, en particulier celles introduites par les lentilles à gradient d'indice. Pour ce faire, nous utilisons une lentille ajustable à base de cristaux liquides dont l'électrode circulaire est segmentée en huit électrodes indépendantes, permettant de remodeler la forme du front d'onde optique en introduisant des retards de phase. Nous faisons la caractérisation complète de cette lentille et faisons la démonstration de son efficacité en générant des fronts d'ondes aléatoires. La troisième solution repose sur l'utilisation de techniques de super-résolution pour surpasser la limite de diffraction. À cette fin, nous avons développé un module à base de cristaux liquides permettant de générer les différents motifs d'illumination nécessaires à l'application de la technique de l'illumination structurée. / At the core of cognition, behavior, and emotions, the brain remains a largely undiscovered organ. One of the most innovative approaches used for its exploration is calcium imaging, providing the ability to monitor neuronal activity in real time. Initially conducted on immobilized animals, the miniaturization of optical components and image sensors has led to the development of new tools, known as mini-endoscopes or microendoscopes, enabling such studies on freely moving animals. While mini-endoscopes have cellular resolutions (3 µm to 15 µm), they have limitations in observing finer structures such as dendrites and dendritic spines (∼ 0.4 µm). In this thesis, after introducing a new two-color endoscope design, we present three innovative solutions aimed at improving mini-endoscope resolution. The first involves integrating an adjustable liquid crystal lens, known as a foveal lens, to locally modify the focal distance when positioned in the imaging path. We achieved adjustments up to 244 µm. We also demonstrate the generation of bright spots in the field of view using a second foveal lens placed in the excitation path. The second solution aims to correct optical aberrations in the microendoscopic system, especially those introduced by gradient index lenses. To achieve this, we use an adjustable liquid crystal lens with a circular electrode segmented into eight independent electrodes, allowing the reshaping of the optical wavefront by introducing phase delays. We conduct a comprehensive characterization of this lens and demonstrate its effectiveness by generating random wavefronts. The third solution relies on the use of super-resolution techniques to overcome the diffraction limit. For this purpose, we developed a liquid crystal-based module to generate various illumination patterns necessary for the application of structured illumination techniques.

Les algorithmes évolutionnaires (AE) constituent une famille d’algorithmes inspirés de l’évolution naturelle. Ces algorithmes sont particulièrement utiles pour la résolution de problèmes où les algorithmes classiques d’optimisation, d’apprentissage ou de conception automatique sont incapables de produire des résultats satisfaisants. On propose dans cette thèse une approche méthodologique pour le développement de systèmes intelligents basés sur les AE. Cette approche méthodologique repose sur cinq principes : 1) utiliser des algorithmes et des représentations adaptés au problème ; 2) développer des hybrides entre des AE et des heuristiques du domaine d’application ; 3) tirer profit de l’optimisation évolutionnaire à plusieurs objectifs ; 4) faire de la co-évolution pour résoudre simultanément plusieurs sous-problèmes d’une application ou favoriser la robustesse ; et 5) utiliser un outil logiciel générique pour le développement rapide d’AE non conventionnels. Cette approche méthodologique est illustrée par quatre applications des AE à des problèmes difficiles. De plus, le cinquième principe est appuyé par l’étude sur la généricité dans les outils logiciels d’AE. Le développement d’applications complexes avec les AE exige l’utilisation d’un outil logiciel générique. Six critères sont proposés ici pour évaluer la généricité des outils d’AE. De nombreux outils logiciels d’AE sont disponibles dans la communauté, mais peu d’entre eux peuvent être véritablement qualifiés de génériques. En effet, une évaluation de quelques outils relativement populaires nous indique que seulement trois satisfont pleinement à tous ces critères, dont la framework d’AE Open BEAGLE, développée durant le doctorat. Open BEAGLE est organisé en trois couches logicielles principales, avec à la base les fondations orientées objet, sur lesquelles s’ajoute une framework gén érique comprenant les mécanismes généraux de l’outil, ainsi que plusieurs frameworks spécialisées qui implantent différentes saveurs d’AE. L’outil comporte également deux extensions servant à distribuer des calculs sur plusieurs ordinateurs et à visualiser des résultats. Ensuite, trois applications illustrent différentes approches d’utilisation des AE dans un contexte de reconnaissance des formes. Premièrement, on optimise des classifieurs basés sur la règle du plus proche voisin avec la sélection de prototypes par un algorithme génétique, simultanément à la construction de mesures de voisinage par programmation génétique (PG). À cette co-évolution coopérative à deux espèces, on ajoute la co-évolution compétitive d’une troisième espèce pour la sélection de données de test, afin d’améliorer la capacité de généralisation des solutions. La deuxième application consiste en l’ingénierie de représentations par PG pour la reconnaissance de caractères manuscrits. Cette ingénierie évolutionnaire s’effectue par un positionnement automatique de régions dans la fenêtre d’attention jumelé à la sélection d’ensembles flous pour l’extraction de caractéristiques. Cette application permet d’automatiser la recherche de représentations de caractères, opération généralement effectuée par des experts humains suite à un processus d’essais et erreurs. Pour la troisième application en reconnaissance des formes, on propose un système extensible pour la combinaison hiérarchique de classifieurs dans un arbre de décision flou. Dans ce système, la topologie des arbres est évoluée par PG alors que les paramètres numériques des unités de classement sont détermin és par des techniques d’apprentissage spécialisées. Le système est testé avec trois types simples d’unités de classement. Pour toutes ces applications en reconnaissance des formes, on utilise une mesure d’adéquation à deux objectifs afin de minimiser les erreurs de classement et la complexité des solutions. Une dernière application démontre l’efficacité des AE pour la conception de syst` emes de lentilles. On utilise des stratégies d’évolution auto-adaptatives hybridées avec une technique d’optimisation locale spécialisée pour la résolution de deux problèmes complexes de conception optique. Dans les deux cas, on démontre que les AE hybrides sont capables de générer des résultats comparables ou supérieurs à ceux produits par des experts humains. Ces résultats sont prometteurs dans la perspective d’une automatisation plus poussée de la conception optique. On présente également une expérience supplémentaire avec une mesure à deux objectifs servant à maximiser la qualité de l’image et à minimiser le coût du système de lentilles. / Evolutionary Algorithms (EA) encompass a family of robust search algorithms loosely inspired by natural evolution. These algorithms are particularly useful to solve problems for which classical algorithms of optimization, learning, or automatic design cannot produce good results. In this thesis, we propose a common methodological approach for the development of EA-based intelligent systems. This methodological approach is based on five principles : 1) to use algorithms and representations that are problem specific ; 2) to develop hybrids between EA and heuristics from the application field ; 3) to take advantage of multi-objective evolutionary optimization ; 4) to do co-evolution for the simultaneous resolution of several sub-problems of a common application and for promoting robustness ; and 5) to use generic software tools for rapid development of unconventional EA. This methodological approach is illustrated on four applications of EA to hard problems. Moreover, the fifth principle is explained in the study on genericity of EA software tools. The application of EA to complex problems requires the use of generic software tool, for which we propose six genericity criteria. Many EA software tools are available in the community, but only a few are really generic. Indeed, an evaluation of some popular tools tells us that only three respect all these criteria, of which the framework Open BEAGLE, developed during the Ph.D. Open BEAGLE is organized into three main software layers. The basic layer is made of the object oriented foundations, over which there is the generic framework layer, consisting of the general mechanisms of the tool, and then the final layer, containing several specialized frameworks implementing different EA flavors. The tool also includes two extensions, respectively to distribute the computations over many computers and to visualize results. Three applications illustrate different approaches for using EA in the context of pattern recognition. First, nearest neighbor classifiers are optimized, with the prototype selection using a genetic algorithm simultaneously to the Genetic Programming (GP) of neighborhood metrics. We add to this cooperative two species co-evolution a third coevolving competitive species for selecting test data in order to improve the generalization capability of solutions. A second application consists in designing representations with GP for handwritten character recognition. This evolutionary engineering is conducted with an automatic positioning of regions in a window of attention, combined with the selection of fuzzy sets for feature extraction. This application is used to automate character representation search, which is usually conducted by human experts with a trial and error process. For the third application in pattern recognition, we propose an extensible system for the hierarchical combination of classifiers into a fuzzy decision tree. In this system, the tree topology is evolved with GP while the numerical parameters of classification units are determined by specialized learning techniques. The system is tested with three simple types of classification units. All of these applications in pattern recognition have been implemented using a two-objective fitness measure in order to minimize classification errors and solutions complexity. The last application demonstrate the efficiency of EA for lens system design. Selfadaptative evolution strategies, hybridized with a specialized local optimisation technique, are used to solve two complex optical design problems. In both cases, the experiments demonstrate that hybridized EA are able to produce results that are comparable or better than those obtained by human experts. These results are encouraging from the standpoint of a fully automated optical design process. An additional experiment is also conducted with a two-objectives fitness measure that tries to maximize image quality while minimizing lens system cost.