Thèse numérisée par la Direction des bibliothèques de l'Université de Montréal. / Les travaux présentés dans cette thèse portent sur les mécanismes centraux impliqués dans la planification de la direction et de l'amplitude d'atteintes manuelles vers des cibles visuelles. Les résultats de plusieurs études psychophysiques suggèrent que le système nerveux central utilise une règle générale d'organisation qui consiste à planifier la direction et l'amplitude d'atteintes manuelles par l'intermédiaire de deux canaux de traitement indépendants. Nous avons évalué cette hypothèse en testant l'effet de différentes conditions sensorimotrices sur la nature des erreurs de direction et d'amplitude d'atteintes manuelles. Un système d'analyse de mouvement (Optotrak) a permis revaluation des erreurs produites lors d'atteintes manuelles vers des cibles visuelles. Sept sujets ont exécuté des mouvements d'atteintes vers des cibles situées à 5 distances différentes le long de 5 directions différentes dans deux conditions expérimentales. Dans la tâche l, les sujets devaient orienter le regard vers une cible visuelle présentée sur un plan horizontal, puis fermer les yeux, et effectuer un pointage manuel en direction de cette cible. Dans la tâche 2, les pointages manuels étaient effectués vers les mêmes positions spatiales que dans la tâche l, mais, les cibles étaient présentées sur un plan vertical. Dans ces deux tâches, les erreurs variables de distance ont été plus grandes que les erreurs variable de direction. Cependant, dans la tâche 2, ces erreurs variables ont présenté une gradation différente en fonction de l'amplitude des mouvements. Cette influence différente de la nature des transformations sensorimotrices sur les erreurs variables de direction et d'amplitude d'atteintes manuelles supporte l'hypothèse que le SNC planifie ces deux paramètres par des canaux de traitement distincts. Une analyse subséquente a porté sur une prédiction de cette conclusion. Si les patrons dans la variabilité finale des pointages manuels reflètent les processus de planification motrice qui précèdent l'initiation des mouvements, ces derniers devraient présenter une étroite correspondance avec les patrons dans la variabilité initiale d'atteintes manuelles. L'analyse comparée des distributions des positions spatiales des sommets d'accélération et de vitesse ainsi que des points finaux d'atteintes manuelles a montré que les positions finales ne sont pas entièrement déterminées lors de l'initiation des mouvements suggérant que la planification et l'exécution ne sont pas des étapes sérielles strictes. Cependant, l'indépendance de la variabilité spatiale de direction et d'amplitude le long des trajectoires de mouvements a suggéré une planification indépendante de ces paramètres au cours du temps. Une approche neurophysiologique a été utilisée afin d'évaluer les fondements neuronaux des canaux de traitement indépendants par lesquels la direction et l'amplitude des mouvements d'atteintes sont planifiées. L'activité de 162 cellules du cortex prémoteur dorsal (PMd) a été enregistrée dans 2 hémisphères d'un singe rhésus alors qu'il effectuait des mouvements d'atteinte vers 24 cibles visuelles situées à 3 différentes distances le long de 8 directions différentes. Dans cette tâche expérimentale, un indice visuospatial présenté durant 500 ms indique la position vers laquelle une atteinte manuelle devait être dirigée après une période de délais (l 000-2500 ms). Ensuite, un deuxième indice (visuel, non-spatial) donne l'instruction au singe d'initier un mouvement en direction de la position mémorisée de la cible. Durant la présentation de la cible, l’activité des cellules individuelles de PMd est préférentiellement liée à la direction du mouvement à produire. Ensuite, au cours des événements successifs, elle montre une augmentation graduelle de la modulation en fonction de la distance de la cible. Les fréquentes interactions entre l'encodage de la direction et de l'amplitude dans la décharge de cellules individuelles de PMd suggère que les canaux de traitement pour la planification de la direction et de l'amplitude n'impliquent pas deux populations distinctes de cellules dans le cortex PMd. L'augmentation progressive de la convergence de l'expression de ces paramètres au cours du temps pourrait refléter une représentation intermédiaire interposée entre les canaux de traitement indépendants et un code approprié pour la spécification éventuelle des forces et de l'activité musculaire.

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal. / L'étude présentée s'inscrit dans le cadre du phénomène de la vision résiduelle, c'est-à-dire les fonctions visuelles qui persistent après une lésion du cortex occipital. De façon plus précise, ces travaux portent sur la caractérisation des propriétés fonctionnelles des neurones du complexe LP-pulvinar suite à l'apparition d'une nouvelle voie rétinothalamique chez des chats ayant subi une ablation chronique du cortex visuel primaire. L'ablation totale ou partielle du cortex visuel primaire entraîne chez la plupart des espèces, une diminution ou perte des capacités visuelles dont la sévérité varie selon l'âge de l'animal et l'étendue de la lésion (Fendrich et al., 1992). Ces déficits sont généralement plus prononcés lorsque la lésion survient chez l'adulte plutôt que chez le jeune en développement. En effet, les animaux cérébrolésés en bas âge présentent un comportement visuel qualifié de quasi normal (Comwell et al., 1989). Chez le chat, une lésion du cortex visuel primaire entraîne l'apparition d'une nouvelle voie visuelle se projetant de la rétine vers la partie latérale du complexe LP-pulvinar (Payne et al., 1993). Le but de l'étude consiste à déterminer le carrelât physiologique de la compensation comportementale observée chez les animaux cérébrolésés au cours du développement et à l'âge adulte. L'hypothèse soulevée est que le maintien de l'intégrité visuelle observé chez les animaux cérébrolésés résulterait de la réorganisation des voies visuelles souscorticales et de façon plus précise, de l'apparition de la nouvelle voie rétine - LP-pulvinar. L'étude consistait à réaliser les ablations chirurgicales du cortex visuel chez des chats adultes et des chatons âgés de 7 à 30 jours. Après un délai suffisant pour permettre la réorganisation neuroanatomique, les animaux étaient anesthésiés et préparés pour les séances d'enregistrement électrophysiologique. Une microélectrode était descendue au LP-pulvinar afin d'enregistrer les réponses cellulaires lors de la présentation de différents stimuli visuels. A la fin de l'expérience, le cerveau était prélevé pour les vérifications neuroanatomiques et histo logiques. Les résultats obtenus ont permis de mettre en évidence des changements fonctionnels au niveau des neurones du LP-pulvinar chez les sujets cérébrolésés. Ces changements incluent notamment une modification dans l'organisation des champs récepteurs des cellules du LP-pulvinar. En effet, les cellules du LP-pulvinar des animaux lésés en bas âge présentent un haut niveau de linéarité spatiale et affichent un patron de décharge phasique. Ces nouvelles propriétés des neurones du LP-pulvinar semblent refléter la présence de la nouvelle voie rétino-thalamique qui serait de toute évidence d'origine W-phasique. Les résultats obtenus indiquent donc que le complexe LP-pulvinar participerait vraisemblablement au maintien du comportement visuo-moteur normal dans le phénomène de la vision résiduelle. L'étude présentée est importante, non seulement dans le contexte du rôle du complexe LP-pulvinar dans l'organisation des champs récepteurs chez l'animal cérébrolésé, mais aussi dans le contexte plus large de la plasticité neuronale.

Thèse numérisée par la Direction des bibliothèques de l'Université de Montréal.

This dissertation explores the application of zero-shot text classification, a technique for categorizing texts without annotated data in the target domain. A true zero-shot setting breaks with the conventions of the traditional supervised machine learning paradigm that relies on quantitative in-domain evaluation for optimization, performance measurement, and model selection. The dissertation summarizes existing research to build a theoretical foundation for zero-shot methods, emphasizing efficiency and transparency. It benchmarks selected approaches across various tasks and datasets to understand their general performance, strengths, and weaknesses, mirroring the model selection process. On this foundation, two case studies demonstrate the application of zero-shot text classification: The first engages with historical German stock market reports, utilizing zero-shot methods for aspect-based sentiment classification. The case study reveals that although there are qualitative differences between finetuned and zero-shot approaches, the aggregated results are not easily distinguishable, sparking a discussion about the practical implications. The second case study integrates zero-shot text classification into a civil engineering document management system, showcasing how the flexibility of zero-shot models and the omission of the training process can benefit the development of prototype software, at the cost of an unknown performance. These findings indicate that, although zero-shot text classification works for the exemplary cases, the results are not generalizable. Taking up the findings of these case studies, the dissertation discusses dilemmas and theoretical considerations that arise from omitting the in-domain evaluation of applying zero-shot text classification. It concludes by advocating a broader focus beyond traditional quantitative metrics in order to build trust in zero-shot text classification, highlighting their practical utility as well as the necessity for further exploration as these technologies evolve.:1 Introduction 1.1 Problem Context 1.2 Related Work 1.3 Research Questions & Contribution 1.4 Author’s Publications 1.5 Structure of This Work 2 Research Context 2.1 The Current State of Text Classification 2.2 Efficiency 2.3 Approaches to Addressing Data Scarcity in Machine Learning 2.4 Challenges of Recent Developments 2.5 Model Sizes and Hardware Resources 2.6 Conclusion 3 Zero-shot Text Classification 3.1 Text Classification 3.2 State-of-the-Art in Text Classification 3.3 Neural Network Approaches to Data-Efficient Text Classification 3.4 Zero-shot Text Classification 3.5 Application 3.6 Requirements for Zero-shot Models 3.7 Approaches to Transfer Zero-shot 3.7.1 Terminology 3.7.2 Similarity-based and Siamese Networks 3.7.3 Language Model Token Predictions 3.7.4 Sentence Pair Classification 3.7.5 Instruction-following Models or Dialog-based Systems 3.8 Class Name Encoding in Text Classification 3.9 Approach Selection 3.10 Conclusion 4 Model Performance Survey 4.1 Experiments 4.1.1 Datasets 4.1.2 Model Selection 4.1.3 Hypothesis Templates 4.2 Zero-shot Model Evaluation 4.3 Dataset Complexity 4.4 Conclusion 5 Case Study: Historic German Stock Market Reports 5.1 Project 5.2 Motivation 5.3 Related Work 5.4 The Corpus and Dataset - Berliner Börsenzeitung 5.4.1 Corpus 5.4.2 Sentiment Aspects 5.4.3 Annotations 5.5 Methodology 5.5.1 Evaluation Approach 5.5.2 Trained Pipeline 5.5.3 Zero-shot Pipeline 5.5.4 Dictionary Pipeline 5.5.5 Tradeoffs 5.5.6 Label Space Definitions 5.6 Evaluation - Comparison of the Pipelines on BBZ 5.6.1 Sentence-based Sentiment 5.6.2 Aspect-based Sentiment 5.6.3 Qualitative Evaluation 5.7 Discussion and Conclusion 6 Case Study: Document Management in Civil Engineering 6.1 Project 6.2 Motivation 6.3 Related Work 6.4 The Corpus and Knowledge Graph 6.4.1 Data 6.4.2 BauGraph – The Knowledge Graph 6.5 Methodology 6.5.1 Document Insertion Pipeline 6.5.2 Frontend Integration 6.6 Discussion and Conclusion 7 MLMC 7.1 How it works 7.2 Motivation 7.3 Extensions of the Framework 7.4 Other Projects 7.4.1 Product Classification 7.4.2 Democracy Monitor 7.4.3 Climate Change Adaptation Finance 7.5 Conclusion 8 Discussion: The Five Dilemmas of Zero-shot 8.1 On Evaluation 8.2 The Five Dilemmas of Zero-shot 8.2.1 Dilemma of Evaluation or Are You Working at All? 8.2.2 Dilemma of Comparison or How Do I Get the Best Model? 8.2.3 Dilemma of Annotation and Label Definition or Are We Talking about the Same Thing? 8.2.4 Dilemma of Interpretation or Am I Biased? 8.2.5 Dilemma of Unsupervised Text Classification or Do I Have to Trust You? 8.3 Trust in Zero-shot Capabilities 8.4 Conclusion 9 Conclusion 9.1 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139 9.1.1 RQ1: Strengths and Weaknesses . . . . . . . . . . . . . . . . 139 9.1.2 RQ2: Application Studies . . . . . . . . . . . . . . . . . . . . 141 9.1.3 RQ3: Implications . . . . . . . . . . . . . . . . . . . . . . . . 143 9.2 Final Thoughts & Future Directions . . . . . . . . . . . . . . . . . . 144 References 147 A Appendix for Survey Chapter A.1 Model Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179 A.2 Task-specific Hypothesis Templates . . . . . . . . . . . . . . . . . . 180 A.3 Fractions of SotA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179 181 B Uncertainty vs. Accuracy 182 C Declaration of Authorship 185 D Declaration: Use of AI-Tools 186 E Bibliographic Data 187 / In dieser Dissertation wird die Anwendung von Zero-Shot-Textklassifikation -- die Kategorisierung von Texten ohne annotierte Daten in der Anwendungsdomäne -- untersucht. Ein echter Zero-Shot-Ansatz bricht mit den Konventionen des traditionellen überwachten maschinellen Lernens, welches auf einer quantitativen Evaluierung in der Zieldomäne zur Optimierung, Performanzmessung und Modellauswahl (model selection) basiert. Eine Zusammenfassung bestehender Forschungsarbeiten bildet die theoretische Grundlage für die verwendeten Zero-Shot-Methoden, wobei Effizienz und Transparenz im Vordergrund stehen. Ein Vergleich ausgewählter Ansätze mit verschiedenen Tasks und Datensätzen soll allgemeine Stärken und Schwächen aufzeigen und den Prozess der Modellauswahl widerspiegeln. Auf dieser Grundlage wird die Anwendung der Zero-Shot-Textklassifikation anhand von zwei Fallstudien demonstriert: Die erste befasst sich mit historischen deutschen Börsenberichten, wobei Zero-Shot zur aspekt-basierten Sentiment-Klassifikation eingesetzt wird. Es zeigt sich, dass es zwar qualitative Unterschiede zwischen trainierten und Zero-Shot-Ansätzen gibt, dass die aggregierten Ergebnisse aber nicht leicht zu unterscheiden sind, was Überlegungen zu praktischen Implikationen anstößt. Die zweite Fallstudie integriert Zero-Shot-Textklassifikation in ein Dokumentenmanagementsystem für das Bauwesen und zeigt, wie die Flexibilität von Zero-Shot-Modellen und der Wegfall des Trainingsprozesses die Entwicklung von Prototypen vereinfachen können -- mit dem Nachteil, dass die Genauigkeit des Modells unbekannt bleibt. Die Ergebnisse zeigen, dass die Zero-Shot-Textklassifikation in den Beispielanwendungen zwar annähernd funktioniert, die Ergebnisse aber nicht leicht verallgemeinerbar sind. Im Anschluss werden Dilemmata und theoretische Überlegungen erörtert, die sich aus dem Wegfall der Evaluierung in der Zieldomäne von Zero-Shot-Textklassifikation ergeben. Abschließend wird ein breiterer Fokus über die traditionellen quantitativen Metriken hinaus vorgeschlagen, um Vertrauen in die Zero-Shot-Textklassifikation aufzubauen und den praktischen Nutzen zu verbessern. Die Überlegungen zeigen aber auch die Notwendigkeit weiterer Forschung im Zuge der Weiterentwicklung dieser Technologien.:1 Introduction 1.1 Problem Context 1.2 Related Work 1.3 Research Questions & Contribution 1.4 Author’s Publications 1.5 Structure of This Work 2 Research Context 2.1 The Current State of Text Classification 2.2 Efficiency 2.3 Approaches to Addressing Data Scarcity in Machine Learning 2.4 Challenges of Recent Developments 2.5 Model Sizes and Hardware Resources 2.6 Conclusion 3 Zero-shot Text Classification 3.1 Text Classification 3.2 State-of-the-Art in Text Classification 3.3 Neural Network Approaches to Data-Efficient Text Classification 3.4 Zero-shot Text Classification 3.5 Application 3.6 Requirements for Zero-shot Models 3.7 Approaches to Transfer Zero-shot 3.7.1 Terminology 3.7.2 Similarity-based and Siamese Networks 3.7.3 Language Model Token Predictions 3.7.4 Sentence Pair Classification 3.7.5 Instruction-following Models or Dialog-based Systems 3.8 Class Name Encoding in Text Classification 3.9 Approach Selection 3.10 Conclusion 4 Model Performance Survey 4.1 Experiments 4.1.1 Datasets 4.1.2 Model Selection 4.1.3 Hypothesis Templates 4.2 Zero-shot Model Evaluation 4.3 Dataset Complexity 4.4 Conclusion 5 Case Study: Historic German Stock Market Reports 5.1 Project 5.2 Motivation 5.3 Related Work 5.4 The Corpus and Dataset - Berliner Börsenzeitung 5.4.1 Corpus 5.4.2 Sentiment Aspects 5.4.3 Annotations 5.5 Methodology 5.5.1 Evaluation Approach 5.5.2 Trained Pipeline 5.5.3 Zero-shot Pipeline 5.5.4 Dictionary Pipeline 5.5.5 Tradeoffs 5.5.6 Label Space Definitions 5.6 Evaluation - Comparison of the Pipelines on BBZ 5.6.1 Sentence-based Sentiment 5.6.2 Aspect-based Sentiment 5.6.3 Qualitative Evaluation 5.7 Discussion and Conclusion 6 Case Study: Document Management in Civil Engineering 6.1 Project 6.2 Motivation 6.3 Related Work 6.4 The Corpus and Knowledge Graph 6.4.1 Data 6.4.2 BauGraph – The Knowledge Graph 6.5 Methodology 6.5.1 Document Insertion Pipeline 6.5.2 Frontend Integration 6.6 Discussion and Conclusion 7 MLMC 7.1 How it works 7.2 Motivation 7.3 Extensions of the Framework 7.4 Other Projects 7.4.1 Product Classification 7.4.2 Democracy Monitor 7.4.3 Climate Change Adaptation Finance 7.5 Conclusion 8 Discussion: The Five Dilemmas of Zero-shot 8.1 On Evaluation 8.2 The Five Dilemmas of Zero-shot 8.2.1 Dilemma of Evaluation or Are You Working at All? 8.2.2 Dilemma of Comparison or How Do I Get the Best Model? 8.2.3 Dilemma of Annotation and Label Definition or Are We Talking about the Same Thing? 8.2.4 Dilemma of Interpretation or Am I Biased? 8.2.5 Dilemma of Unsupervised Text Classification or Do I Have to Trust You? 8.3 Trust in Zero-shot Capabilities 8.4 Conclusion 9 Conclusion 9.1 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139 9.1.1 RQ1: Strengths and Weaknesses . . . . . . . . . . . . . . . . 139 9.1.2 RQ2: Application Studies . . . . . . . . . . . . . . . . . . . . 141 9.1.3 RQ3: Implications . . . . . . . . . . . . . . . . . . . . . . . . 143 9.2 Final Thoughts & Future Directions . . . . . . . . . . . . . . . . . . 144 References 147 A Appendix for Survey Chapter A.1 Model Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179 A.2 Task-specific Hypothesis Templates . . . . . . . . . . . . . . . . . . 180 A.3 Fractions of SotA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179 181 B Uncertainty vs. Accuracy 182 C Declaration of Authorship 185 D Declaration: Use of AI-Tools 186 E Bibliographic Data 187

In dieser Arbeit werden zwei wesentliche neue Ergebnisse vorgestellt. Das erste bezieht sich auf die olfaktorische Kodierung und das zweite auf das sensorische Gedaechtnis. Beide Phaenomene werden am Beispiel des Gehirns der Honigbiene untersucht. In Bezug auf die olfaktorische Kodierung zeige ich, dass die neuronale Dynamik waehrend der Stimulation im Antennallobus duftspezifische Trajektorien beschreibt, die in duftspezifischen Attraktoren enden. Das Zeitinterval, in dem diese Attraktoren erreicht werden, betraegt unabhaengig von der Identitaet und der Konzentration des Duftes ungefaehr 800 ms. Darueber hinaus zeige ich, dass Support-Vektor Maschinen, und insbesondere Perzeptronen, ein realistisches und biologisches Model der Wechselwirkung zwischen dem Antennallobus (dem kodierenden Netwerk) und dem Pilzkoerper (dem dekodierenden Netzwerk) darstellen. Dieses Model kann sowohl Reaktionszeiten von ca. 300 ms als auch die Invarianz der Duftwahrnehmung gegenueber der Duftkonzentration erklaeren. In Bezug auf das sensorische Gedaechtnis zeige ich, dass eine einzige Stimulation ohne Belohnung dem Hebbschen Postulat folgend Veraenderungen der paarweisen Korrelationen zwischen Glomeruli induziert. Ich zeige, dass diese Veranderungen der Korrelationen bei 2/3 der Bienen ausreichen, um den letzten Stimulus zu bestimmen. In der zweiten Minute nach der Stimulation ist eine erfolgreiche Bestimmung des Stimulus nur bei 1/3 der Bienen moeglich. Eine Hauptkomponentenanalyse der spontanen Aktivitaet laesst erkennen, dass das dominante Muster des Netzwerks waehrend der spontanen Aktivitaet nach, aber nicht vor der Stimulation das duftinduzierte Aktivitaetsmuster bei 2/3 der Bienen nachbildet. Man kann deshalb die duftinduzierten (Veraenderungen der) Korrelationen als Spuren eines Kurzzeitgedaechtnisses bzw. als Hebbsche "Reverberationen" betrachtet werden. / Two major novel results are reported in this work. The first concerns olfactory coding and the second concerns sensory memory. Both phenomena are investigated in the brain of the honeybee as a model system. Considering olfactory coding I demonstrate that the neural dynamics in the antennal lobe describe odor-specific trajectories during stimulation that converge to odor-specific attractors. The time interval to reach these attractors is, regardless of odor identity and concentration, approximately 800 ms. I show that support-vector machines and, in particular perceptrons provide a realistic and biological model of the interaction between the antennal lobe (coding network) and the mushroom body (decoding network). This model can also account for reaction-times of about 300 ms and for concentration invariance of odor perception. Regarding sensory memory I show that a single stimulation without reward induces changes of pairwise correlation between glomeruli in a Hebbian-like manner. I demonstrate that those changes of correlation suffice to retrieve the last stimulus presented in 2/3 of the bees studied. Succesful retrieval decays to 1/3 of the bees within the second minute after stimulation. In addition, a principal-component analysis of the spontaneous activity reveals that the dominant pattern of the network during the spontaneous activity after, but not before stimulation, reproduces the odor-induced activity pattern in 2/3 of the bees studied. One can therefore consider the odor-induced (changes of) correlation as traces of a short-term memory or as Hebbian reverberations.

No description available.

No description available.

No description available.

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

No description available.