Ces dernières années, l'intelligence artificielle a été considérablement avancée et l'apprentissage en profondeur, où des réseaux de neurones profonds sont utilisés pour tenter d'imiter vaguement le cerveau humain, y a contribué de manière significative. Les réseaux de neurones profonds sont désormais capables d'obtenir un grand succès sur la base d'une grande quantité de données et de ressources de calcul suffisantes. Malgré leur succès, leur capacité à s'adapter rapidement à de nouveaux concepts, tâches et environnements est assez limitée voire inexistante. Dans cette thèse, nous nous intéressons à la façon dont les réseaux de neurones profonds peuvent s'adapter à des circonstances en constante évolution ou totalement nouvelles, de la même manière que l'intelligence humaine, et introduisons en outre des modules architecturaux adaptatifs et dynamiques ou des cadres de méta-apprentissage pour que cela se produise de manière efficace sur le plan informatique. Cette thèse consiste en une série d'études proposant des méthodes pour utiliser des calculs adaptatifs et dynamiques pour aborder les problèmes d'adaptation qui sont étudiés sous différentes perspectives telles que les adaptations au niveau de la tâche, au niveau temporel et au niveau du contexte. Dans le premier article, nous nous concentrons sur l'adaptation rapide des tâches basée sur un cadre de méta-apprentissage. Plus précisément, nous étudions l'incertitude du modèle induite par l'adaptation rapide à une nouvelle tâche avec quelques exemples. Ce problème est atténué en combinant un méta-apprentissage efficace basé sur des gradients avec une inférence variationnelle non paramétrique dans un cadre probabiliste fondé sur des principes. C'est une étape importante vers un méta-apprentissage robuste que nous développons une méthode d'apprentissage bayésienne à quelques exemples pour éviter le surapprentissage au niveau des tâches. Dans le deuxième article, nous essayons d'améliorer les performances de la prédiction de la séquence (c'est-à-dire du futur) en introduisant une prédiction du futur sauteur basée sur la taille du pas adaptatif. C'est une capacité critique pour un agent intelligent d'explorer un environnement qui permet un apprentissage efficace avec une imagination sauteur futur. Nous rendons cela possible en introduisant le modèle hiérarchique d'espace d'état récurrent (HRSSM) qui peut découvrir la structure temporelle latente (par exemple, les sous-séquences) tout en modélisant ses transitions d'état stochastiques de manière hiérarchique. Enfin, dans le dernier article, nous étudions un cadre qui peut capturer le contexte global dans les données d'image de manière adaptative et traiter davantage les données en fonction de ces informations. Nous implémentons ce cadre en extrayant des concepts visuels de haut niveau à travers des modules d'attention et en utilisant un raisonnement basé sur des graphes pour en saisir le contexte global. De plus, des transformations au niveau des caractéristiques sont utilisées pour propager le contexte global à tous les descripteurs locaux de manière adaptative. / Over the past few years, artificial intelligence has been greatly advanced, and deep learning, where deep neural networks are used to attempt to loosely emulate the human brain, has significantly contributed to it. Deep neural networks are now able to achieve great success based on a large amount of data and sufficient computational resources. Despite their success, their ability to quickly adapt to new concepts, tasks, and environments is quite limited or even non-existent. In this thesis, we are interested in how deep neural networks can become adaptive to continually changing or totally new circumstances, similarly to human intelligence, and further introduce adaptive and dynamic architectural modules or meta-learning frameworks to make it happen in computationally efficient ways. This thesis consists of a series of studies proposing methods to utilize adaptive and dynamic computations to tackle adaptation problems that are investigated from different perspectives such as task-level, temporal-level, and context-level adaptations. In the first article, we focus on task-level fast adaptation based on a meta-learning framework. More specifically, we investigate the inherent model uncertainty that is induced from quickly adapting to a new task with a few examples. This problem is alleviated by combining the efficient gradient-based meta-learning with nonparametric variational inference in a principled probabilistic framework. It is an important step towards robust meta-learning that we develop a Bayesian few-shot learning method to prevent task-level overfitting. In the second article, we attempt to improve the performance of sequence (i.e. future) prediction by introducing a jumpy future prediction that is based on the adaptive step size. It is a critical ability for an intelligent agent to explore an environment that enables efficient option-learning and jumpy future imagination. We make this possible by introducing the Hierarchical Recurrent State Space Model (HRSSM) that can discover the latent temporal structure (e.g. subsequences) while also modeling its stochastic state transitions hierarchically. Finally, in the last article, we investigate a framework that can capture the global context in image data in an adaptive way and further process the data based on that information. We implement this framework by extracting high-level visual concepts through attention modules and using graph-based reasoning to capture the global context from them. In addition, feature-wise transformations are used to propagate the global context to all local descriptors in an adaptive way.

L´objectiu d´aquesta tesi és analitzar com s´integra una acció pedagògica a l'aula d'interpretació consecutiva. Aquesta acció pedagògica es basa en un enfocament socioconstructivista i pretén fomentar els processos autoreguladors en l´aprenentatge. Es concreta en la incorporació d'una bateria de pautes metacognitives dissenyades específicament per a desenvolupar les habilitats que requereix l'aprenentatge de la interpretació consecutiva. El nostre centre d´interès és l'estudi del pas de l´heteroregulació a l´autoregulació mitjançant la incorporació de les pautes metacognitives, enteses com a instruments de mediació. Conceptualment, la recerca pren com a principals referents teòrics l'autonomia de l'aprenent i la relació d´aquest àmbit amb la teoria sociocultural i amb els processos d'autoregulació. Pel que fa a la metodologia, seguim els pressupòsits de la recerca etnogràfica i els de l'aproximació ecològica de la recerca. Un dels reptes importants d'aquest tipus de recerca és el de trobar un model d'anàlisi que serveixi de base per a l'estudi de les dades resultants de la reflexió metacognitiva. Per fer-ho, ens hem aproximat a l´anàlisi del discurs. Un cop segmentades les dades, per a l'anàlisi interpretativa hem tingut en compte, entre altres, els aspectes següents: a) la relació que s'estableix entre els enunciats a través dels marcadors i els connectors del discurs b) la localització temporalc) la modalització i la polifonia de veus en el discurs. Entre els resultats obtinguts, destaca que els instruments ´diari de l´aprenent- i ´pauta metacognitiva- esdevenen formes vàlides per a verbalitzar la reflexió metacognitiva. I també que l´autoregulació de l'aprenentatge es desenvolupa en un procés de reflexió, cíclic i dinàmic. En aquest procés es fan evidents diversos graus o nivells. Identificar-los ajuda a integrar i a treballar el component metacognitiu a l´aula. I ha de permetre elaborar un programa d´aprendre a aprendre enfocat a l'ensenyament de la interpretació consecutiva. Un programa que respecti els microprocessos relacionats amb els nivells de consciència identificats i que, a la vegada, esdevingui útil per a propòsits didàctics. / El objetivo de esta tesis es analizar cómo se integra en el aula de interpretación consecutiva una acción pedagógica basada en un enfoque socioconstructivista y que pretende fomentar los procesos autoreguladores en el aprendizaje. Esa acción se concreta en la incorporación de una batería de pautas metacognitivas diseñadas específicamente para desarrollar las habilidades que requiere el aprendizaje de la interpretación consecutiva. Nuestro interés se centra en el paso de la heteroregulación a la autorregulación mediante la citada incorporación de pautas metacognitivas entendidas como instrumentos de mediación. Conceptualmente, la investigación adopta como principales referentes teóricos la autonomía del aprendiz en su relación con la teoría sociocultural y con los procesos de autorregulación. En cuanto a la metodología, seguimos los presupuestos de la investigación etnográfica y los de la aproximación ecológica a la investigación. Uno de los retos fundamentales de ese tipo de investigación consiste en hallar un modelo de análisis que sirva de base para el estudio que permita estudiar los datos resultantes de la reflexión metacognitiva. A tal fin partimos del análisis del discurso, procediendo de modo que, una vez segmentados los datos, se lleva a cabo una interpretación de los mismos definida según los siguientes criterios:a) la relación que se establece entre los enunciados recurriendo a los marcadores y conectores discursivosb) la localización temporalc) la modalización y la polifonía de voces en el discurso.Entre los resultados más destacados del presente trabajo cabe citar, por una parte, que los instrumentos 'diario del aprendiz' y 'pauta metacognitiva' resultan fórmulas válidas para verbalizar la reflexión metacognitiva. Por otra parte, hay que referirse al hecho de que la autorregulación del aprendizaje se desarrolla en un proceso de reflexión cíclico y dinámico en el que se dan distintos grados o niveles, la identificación de los cuales permite integrar y trabajar el componente metacognitivo en el aula. Ello, por su parte, debe posibilitar la elaboración de un programa de ´aprender a aprender- aplicado a la didáctica de la interpretación consecutiva y que se ajuste a los microprocesos relacionados con los niveles de conciencia metacognitiva identificados. / The purpose of this research is to analyse how a teaching action is integrated into the consecutive interpreting classroom. This teaching action is based on a socio-constructivist approach and attempts to encourage self-regulation processes in learning. The action takes the form of a battery of metacognitive guides designed specifically for developing the skills required for learning consecutive interpreting.Our focus of interest is the study of the move from hetero-regulation to self-regulation through the incorporation of instruments of mediation - the metacognitive guides - designed to develop the skills required for learning consecutive interpreting. Conceptually, the research takes as its main theoretical references learner autonomy and the relationship of this field with socio-cultural theory and the processes of self-regulation. As for methodology, we follow the criteria of ethnographic and ecologial approach to research. One of the important challenges of this kind of research is finding a model of analysis that serves as a basis for studying the data resulting from metacognitive reflection. To do this, we have used a discourse analysis approach. Once the data has been segmented, for the interpretive analysis we have taken into account the following aspects, among others: a) the relationship between the sentences through the markers and connectors; b) the location in time; c) the modalization and the polyphony of voices in the speech. Among the main results obtained, the mediation instruments, ´learner´s diary- and ´metacognitive guide-, prove to be valid forms for verbalizing metacognitive reflection. Also, that self-regulation of learning is developed in a cyclical and dynamic reflection process. In this process, different degrees or levels become clear. Identifying them helps to integrate and work with the metacognitive element in the classroom. And it should make it possible to draw up a learning-to-learn program focused on teaching consecutive interpreting: a program that respects the micro-processes related to the levels of consciousness identified and which, at the same time, should prove useful for teaching purposes.