Spelling suggestions: "subject:"loptimisation adaptive"" "subject:"doptimisation adaptive""
1 |
Représentations Convolutives Parcimonieuses -- application aux signaux physiologiques et interpétabilité de l'apprentissage profond / Convolutional Sparse Representations -- application to physiological signals and interpretability for Deep LearningMoreau, Thomas 19 December 2017 (has links)
Les représentations convolutives extraient des motifs récurrents qui aident à comprendre la structure locale dans un jeu de signaux. Elles sont adaptées pour l’analyse des signaux physiologiques, qui nécessite des visualisations mettant en avant les informations pertinentes. Ces représentations sont aussi liées aux modèles d’apprentissage profond. Dans ce manuscrit, nous décrivons des avancées algorithmiques et théoriques autour de ces modèles. Nous montrons d’abord que l’Analyse du Spectre Singulier permet de calculer efficacement une représentation convolutive. Cette représentation est dense et nous décrivons une procédure automatisée pour la rendre plus interprétable. Nous proposons ensuite un algorithme asynchrone, pour accélérer le codage parcimonieux convolutif. Notre algorithme présente une accélération super-linéaire. Dans une seconde partie, nous analysons les liens entre représentations et réseaux de neurones. Nous proposons une étape d’apprentissage supplémentaire, appelée post-entraînement, qui permet d’améliorer les performances du réseau entraîné, en s’assurant que la dernière couche soit optimale. Puis nous étudions les mécanismes qui rendent possible l’accélération du codage parcimonieux avec des réseaux de neurones. Nous montrons que cela est lié à une factorisation de la matrice de Gram du dictionnaire. Finalement, nous illustrons l’intérêt de l’utilisation des représentations convolutives pour les signaux physiologiques. L’apprentissage de dictionnaire convolutif est utilisé pour résumer des signaux de marche et le mouvement du regard est soustrait de signaux oculométriques avec l’Analyse du Spectre Singulier. / Convolutional representations extract recurrent patterns which lead to the discovery of local structures in a set of signals. They are well suited to analyze physiological signals which requires interpretable representations in order to understand the relevant information. Moreover, these representations can be linked to deep learning models, as a way to bring interpretability intheir internal representations. In this disserta tion, we describe recent advances on both computational and theoretical aspects of these models.First, we show that the Singular Spectrum Analysis can be used to compute convolutional representations. This representation is dense and we describe an automatized procedure to improve its interpretability. Also, we propose an asynchronous algorithm, called DICOD, based on greedy coordinate descent, to solve convolutional sparse coding for long signals. Our algorithm has super-linear acceleration.In a second part, we focus on the link between representations and neural networks. An extra training step for deep learning, called post-training, is introduced to boost the performances of the trained network by making sure the last layer is optimal. Then, we study the mechanisms which allow to accelerate sparse coding algorithms with neural networks. We show that it is linked to afactorization of the Gram matrix of the dictionary.Finally, we illustrate the relevance of convolutional representations for physiological signals. Convolutional dictionary learning is used to summarize human walk signals and Singular Spectrum Analysis is used to remove the gaze movement in young infant’s oculometric recordings.
|
2 |
Power-Aware adaptive techniques for wireless sensor networks / Power-Aware techniques adaptatives pour la gestion de l'énergie dans les réseaux de capteurs sans filAlam, Muhammad Mahtab 26 February 2013 (has links)
Les Réseaux de capteurs sans fil (WSN) sont une technologie émergente avec des applications potentielles dans divers domaines de la vie quotidienne, tels que la surveillance structurelle et environnementale, la médecine, la surveillance militaire, les explorations robotisées, etc. Les nœuds de capteurs doivent fonctionner pendant une longue période avec des batteries capacité limitée, par conséquent le facteur plus important dans les WSN est la consommation d'énergie. Dans cette thèse, nous proposons des techniques d'optimisation algorithmiques dynamiques, et adaptative pour la réduction de l'énergie. Tout d'abord, un modèle énergétique précis est présenté. Ce modèle repose sur des mesures réelles de courant consommé pour différents scénarios qui peuvent se produire lors de la communication entre les nœud. Il en est conclu que la couche MAC joue un rôle essentiel dans la réduction de l'énergie consommée. Ensuite, un protocole MAC dynamique est présenté. Il adapte de manière dynamique l’intervalle de réveil des nœuds de capteurs à partir d’une estimation du trafic. L’algorithme adaptatif modélisé de façon heuristique pour comprendre le comportement de convergence des paramètres algorithmiques. Le protocole est appliqué sur des réseaux de capteurs corporels et il surclasse les autres protocoles MAC en termes de latence ainsi que de consommation d'énergie ce qui permet donc d'augmenter la durée de vie de trois à six fois. Enfin, une technique basée sur l’optimisation adaptative de la puissance d'émission radio est appliquée sur des canaux variant dans le temps. La puissance de sortie est réglée dynamiquement au meilleur niveau de puissance selon l’état du canal, ce qui diminue la consommation d’un facteur deux. / Wireless Sensor Networks (WSN) are a fast emerging technology with potential applications in various domains of daily-life, such as structural and environmental monitoring, medicine, military surveillance, robotic explorations etc. WSN devices are required to operate for a long time with limited battery capacity, therefore, the most important constraint in WSN is energy consumption. In this thesis, we propose algorithmic-level dynamic and adaptive optimization techniques for energy reduction in WSN. First, an accurate energy model is presented. This model relies on real-time power measurements of various scenarios that can occur during communication between sensor nodes. It is concluded that MAC layer plays a pivotal role for energy reduction. Then, a traffic-aware dynamic MAC protocol is presented which dynamically adapts the wake-up schedule of sensor nodes through traffic estimation. An adaptive algorithm is designed for this purpose that is heuristically modeled to understand the convergence behavior of algorithmic parameters. The proposed protocol is applied to body area networks and it outperforms other low-power MAC protocols in terms of latency as well as energy consumption and consequently increases the lifetime from three to six times. Finally, an SNR-based adaptive transmit power optimization technique is applied under time-varying channels. The output power is dynamically tuned to best power level under slow varying channel, which results in an average gain by two times.
|
Page generated in 0.1236 seconds