Historiquement, les inégalités d'oracle ont été développées comme des outils particulièrement efficaces pour l'adaptation à un paramètre inconnu en statistique mathématique. Initialement dédiées à la démonstration de propriétés statistiques de certains estimateurs, elles peuvent s'inscrire dans le cadre plus général du problème l'agrégation où elles sont au centre de la définition d'une vitesse optimale d'agrégation. Elles constituent alors d'une part des outils mathématiques et d'autre part des résultats précis et non asymptotiques.<br />Les travaux faisant l'objet de cette thèse présentent différentes utilisations des inégalités d'oracle, d'abord dans un cadre général d'agrégation puis dans des modèles statistiques plus particuliers, comme l'estimation de densité et la classification. Les résultats obtenus sont une palette non exhaustive mais représentative de l'utilisation des inégalités d'oracle en statistique mathématique.

No description available.

Regularization techniques have become a principled tool for model-based statistics and artificial intelligence research. However, in most situations, these regularization terms are not well interpreted, especially on how they are related to the loss function and data matrix in a given statistic model. In this work, we propose a robust minimax formulation to interpret the relationship between data and regularization terms for a large class of loss functions. We show that various regularization terms are essentially corresponding to different distortions to the original data matrix. This supplies a unified framework for understanding various existing regularization terms, designing novel regularization terms based on perturbation analysis techniques, and inspiring novel generic algorithms. To show how to apply minimax related concepts to real-world learning tasks, we develop a new fault-tolerant classification framework to combat class noise for general multi-class classification problems; further, by studying the relationship between the majorizable function class and the minimax framework, we develop an accurate, efficient, and scalable algorithm for solving a large family of learning formulations. In addition, this work has been further extended to tackle several important matrix-decomposition-related learning tasks, and we have validated our work on various real-world applications including structure-from-motion (with missing data) and latent structure dictionary learning tasks. This work, composed of a unified formulation, a scalable algorithm, and promising applications in many real-world learning problems, contributes to the understanding of various hidden robustness in many learning models. As we show, many classical statistical machine learning models can be unified using this formulation and accurate, efficient, and scalable algorithms become available from our research.

I arbetet implementerades två algoritmer som utvärderades genom att spela ett matcha-3-spel mot varandra. Den första algoritmen var Minimax som väljer sina drag genom att evaluera de möjliga dragen från ett tillstånd. För att inte sökrymden ska bli för stor begränsas algoritmen med ett sökdjup. Den andra algoritmen var en MCTS som utför flera simuleringar där den utför slumpmässiga drag till ett spelslut för att få en uppskattning över resultatet från de olika dragen. Spelet som de utvärderas på är av typen matcha-3-battle. Flera experiment utfördes sedan på de två algoritmerna, där de spelade flera matcher motvarandra på olika stora bräden, sökdjup och utforskningskonstanter. Testerna visade att i denna implementation var Minimax överlägsen i de fall. När sökrymden blev större presterade MCTS bättre än i mindre rymder, men lyckades aldrig nå en majoritet av vinster.

To construct an algorithm which does well in a board game, one must take into account the time spent on each move and the ability to evaluate the state of the board. There are multiple ways to handle these issues, but only a few are covered in this analysis. AIs using the algorithms minimax, minimax with alpha-beta pruning and minimax with knowledge-based alpha-beta pruning are being compared when playing Kalaha with a 30 second time limit per move. Each algorithm is in addition paired up with two different methods of evaluating the games state. The first one only compares the amount of counters in each players store, while the second, knowledge-based method, extends this with an evaluation of the counters in play. A tournament was held between the AIs where each match-up played twelve games against each other. The regular minimax algorithm is appearing to be inferior to the improved variations. The knowledge-based alpha-beta pruning is unexpectedly unsuccessful in outperforming the regular alpha-beta pruning and a discussion covers possible errors with the implementation and possible improvements. The knowledge-based evaluation method is appearing to be slightly more successful than the simple variant, but a discussion questions the real usefulness of it when paired with more advanced search algorithms than the ones covered in this study.

It is well known that the branching factor of a computer based board game has an effect on how long a searching AI algorithm takes to search through the game tree of the game. Something that is not as known is that the branching factor may have an additional effect for certain types of AI algorithms. The aim of this work is to evaluate if the win rate of an evolutionary AI algorithm is affected by the branching factor of the board game it is applied to. To do that, an experiment is performed where an evolutionary algorithm known as “Genetic Minimax” is evaluated for the two low branching factor board games Othello and Gomoku (Gomoku is also known as 5 in a row). The performance here is defined as how many times the algorithm manages to win against another algorithm. The results from this experiment showed both some promising data, and some data which could not be as easily interpreted. For the game Othello the hypothesis about this particular evolutionary algorithm appears to be valid, while for the game Gomoku the results were somewhat inconclusive. For the game Othello the performance of the genetic minimax algorithm was comparable to the alpha-beta algorithm it played against up to and including depth 4 in the game tree. After that however, the performance started to decline more and more the deeper the algorithms searched. The branching factor of the game may be an indirect cause of this behaviour, due to the fact that as the depth increases, the search space increases proportionally to the branching factor. This increase in the search space due to the increased depth, in combination with the settings used by the genetic minimax algorithm, may have been the cause of the performance decline after that point.

Detta arbete undersöker två olika tekniker för att evaluera speltillstånd i schack. Teknikerna är samevolution och historiebaserad evolution. De används i kombination med artificiella neurala nätverk och algoritmen minimax. Teknikerna används för att låta två agenter spela schack, genom att välja ut det bästa draget. Kan en agent som bygger på samevolution slå en agent som bygger på historiebaserad evolution? Teknikerna har testats genom att låta agenterna evolveras i 200 generationer var för att sedan låta dem spela mot varandra. Den samevolverade agenten vann tre av 24 matcher, den historiebaserade vann en, och resten slutade i remi. Det tyder på att en samevolverad agent kan slå en historiebaserad, men att de är väldigt lika. Undersökningen tyder på att samevolverade schackagenter har stor risk att hamna i ett lokalt maximum medan historiebaserade gör många bra drag, men saknar strategi för att vinna.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack. Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor. Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.

I det här arbetet undersöks och jämförs två olika sökalgoritmer när de används för implementation av AI-spelare till brädspelet Pentago. De två algoritmerna som användes var alfa-betabeskärning och en nyare algoritm som kombinerar genetiska algoritmer och minimax, kallad genetisk minimax. Utvärderingen av resultaten visar att alfa-betabeskärning passar bättre vid implementation av en AI till Pentago än genetisk minimax. Alfa-betabeskärning med ytterligare optimeringar har potential att lämpa sig väldigt väl för implementation av spelare till Pentago. Ytterligare visar resultaten att genetisk minimax inte är en passande algoritm för AI till Pentago. För eventuella framtida arbeten föreslås ytterligare arbete och förbättringar på implementationen av alfa-betabeskärning. Genetisk minimax har potential att fungera bättre vid implementation av AI till andra brädspel. Därför föreslås även framtida arbeten av implementationer av genetisk minimax inom områden och spel som kan vara mer passande.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack.Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor.Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.