Les matrices de microélectrodes sont des puissants outils de recherche pour les neurosciences. Elles sont utilisées aussi bien pour les études fondamentales de la compréhension des échanges d'informations au sein de réseaux neuronaux que pour la réalisation de neuroprothèses. L'optimisation de ces systèmes demande la mise au point de microélectrodes biocompatibles et de faible impédance électrochimique. Les nanotubes de carbone et le diamant sont deux matériaux utilisés pour atteindre ces objectifs. Dans ces travaux de thèses ces derniers sont couplés pour bénéficier de leurs excellentes propriétés. Ce travail se divise en trois grands axes. Le premier consiste à développer une nouvelle méthode d'ancrage des nanotubes de carbone en enterrant leur base dans du diamant nanocristallin. Ce fort ancrage a pour but d'éviter toute dispersion des nanotubes pouvant conduire à des problèmes de toxicité . Dans un deuxième temps, des matrices de microélectrodes entièrement constituées de diamant ont été réalisées. Leurs propriétés électrochimiques ont été comparées à celle de microélectrodes recouvertes de nanotubes. Enfin des études préliminaires de la biocompatibilité du diamant nanocristallin et des nanotube de carbone ont été menées in-vivo et in-vitro. / Microelectrodes array are powerfull tools for the research on neuroscience. They can be used both in basic research works to understand the flux of information within neural networks and for the creation of neural prosthese. Biocompatible microelectrode with low impedance are need for the optimization of the devices. Carbon nanotubes (CNTs) and diamond are currently thought to be good candidates to reach these goals. Both are coupled in this work to take advantages of their respective outstanding properties. The study is divided into three main parts. In the first we describe a new anchoring methode to strongly bind carbon nanotubes by burring their base into the nanocrystalline diamond. This new coupling is thought to avoid any dispersion of CNTs that could trigger some toxicity issues, and also to enhance the electronic interface between the two materials. The second part is devoted to the development of an all-diamond microelectrode array. Their electrochemical properties are compared to the carbon nanotube coated electrodes. Finally, some preliminary in-vivo and in-vitro studies were performed to evaluate nanocrystalline diamond and carbon nanotube bicompatibility.

Mittels künstlichen neuronalen Netzen wurden die in den rekultivierten Tagebaukippen im Nordraum Lausitz (Tagebaue Schlabendorf und Seese) auftretenden Geländedeformationen infolge Bodenverflüssigung für die Jahre 2009 - 2013 als Zeitreihe modelliert. Das Modell ist in der Lage, grob die zeitliche Entwicklung und exakt die räumliche Lage des in den Kippen auftretenden Gefährdungspotenzials nachzuvollziehen und als Funktion des sich ändernden Grundwasserspiegels und der sich ändernden Oberflächenmorphologie in die Zukunft zu prognostizieren. Das Modell zeigt dynamisch das Entstehen neuer Risikoflächen in bisher scheinbar stabilen Bereichen des Untersuchungsgebietes. Die Korrektheit des Modells wurde mittels verschiedener Tests geprüft sowie anhand einer Prognoserechnung für das Jahr 2014 und des Vergleichs mit den real in 2014/2015 gegangenen Ereignissen nachgewiesen. Folgende Gefährdungsfaktoren wurden ermittelt: Destabilisierend wirken eine möglichst einförmige Lithologie folgender Zusammenset-zung: 31 % Feinsand, 34 % Mittelsand, 31 % Grobsand, 3 % Schluff, < 1 % Kies, < 1 % Kalk, < 1 % Ton, < 1 % Kohle, kf-Werte zwischen 10-4 und 10-4,5 m/s, ein Grundwasserflurabstand bei 3,45 m (Medianwert), möglichst hohe Gradienten der nicht lithologisch kontrollierten Parameter: Tagebauoberfläche, Grundwasseroberfläche, Grundwasserflurabstand und Mächtigkeit der gesättigten Kippe. Stabilisierend wirken vor allem eine möglichst große Heterogenität der Lithologie auf kleinem Raum (möglichst hohe Gradienten der lithologisch kontrollierten Parameter (z.B. Kiesgehalt, Sandgehalt, Tongehalt, Kohlegehalt)), ein möglichst geringer Sandanteil, möglichst hohe Anteile an Kies, Schluff, Ton, Kalk, bzw. Kohle, ein möglichst großer Grundwasserflurabstand sowie möglichst geringe Gradienten der nicht lithologisch kontrollierten Parameter: Tagebauoberfläche, Grundwasseroberfläche, Grundwasserflurabstand, Mächtigkeit der gesättigten Kippe sowie wechselnde kf-Werte 10-7 bzw. >10-2 m/s. Für die Bearbeitung wurden ausschließlich die bei der LMBV vorhandenen bzw. laufend flächendeckend erhobenen Daten genutzt: Lage des Grundwasserspiegels, Relief der Tagebauoberfläche, Liegendes der Kippe, geologische Daten der Vorfeldbohrungen. Das Modell kann als dynamisches Instrument zum Risikomanagement vor bzw. während der Sanierungsmaßnahmen genutzt werden. Mittels der Variation der prozesskontrollie-renden Parameter können die geotechnischen Auswirkungen verschiedener Sanierungsszenarien (z.B. Gestaltung der Tagebauoberfläche, Schüttung der Kippen, Grundwasseranstieg) auf die Stabilität der Kippen prognostiziert werden. / Geotechnical events (terrain deformation due to soil liquefaction) in lignite mining waste rock piles of the northern Lausitz area (opencast pits Schlabendorf and Seese), have been modeled as time series for the years 2009 – 2013 by using artificial neural networks. The model has clearly recognized the influences of various lithological and non-lithological controlled parameters on the occurrence of geotechnical events, and these have been quantified and weighted in terms of their importance. The model is able to predict the tem-poral evolution and the exact spatial location of the events occurring in the dumps as a function of changing groundwater levels and surface morphology. The model shows dynamically the emergence of new risk areas in hitherto seemingly stable areas. The correctness of the model was confirmed by means of various tests and its predictive success was demonstrated through forecasting of events for the years 2014 and 2015 and their comparison with the observed events of those years. The following main risk factors were identified: Important destabilizing factors are a monotonous lithology with the following composition: 31% fine sand, 34% medium sand, 31% coarse sand, 3% silt, <1% gravel, <1% lime, <1% clay, <1% coal, kf-values between 10-4 and 10-4.5 m/s, a surface to groundwater distance of 3.45 meters (median value), high gradients of non-lithological controlled parameters: waste dump surface, groundwater level, depth to groundwater and thickness of saturated dump. 2. Important stabilizing factors are a high heterogeneity of lithology (high gradients of the lithological controlled parameters: e.g. gravel content, sand content, clay content, carbon content), a low proportion of sand in the dump composition, high proportions of gravel, silt, clay, lime, or coal, a high depth to groundwater, low gradients of non-lithological controlled parameters: open pit surface, groundwater surface, depth to groundwater, thickness of saturated dump, strongly changing kf values between 10-7 and 10-2 m/s. The model can be used as a dynamic tool for risk management before and during the re-habilitation of lignite waste dumps, and for constructing stable waste dumps. By means of varying the model parameters (e.g. design of the dump surface, composition of dumped rocks, rising groundwater) the geotechnical effects of dump design and remediation scenarios can be predicted.

Les ondes millimétriques (OMM), et en particulier la bande autour de 60 GHz, sont de plus en plus utilisées pour les télécommunications sans fil. Une précédentes études in vitro menée au laboratoire avait montré, par analyse de micro-puces, une diminution d’expression de l'ARN TRPV2 dans des cultures primaires de cellules de peau humaines exposés pendant 1, 6 ou 24 heures à 60,4 GHz avec une densité de puissance incidente moyenne de 1,8 mW / cm². Afin de déterminer si l'exposition aux OMM peut aussi affecter l'expression de TRPV2 au niveau protéique, nous avons effectué des immunocytochimies sur une lignée cellulaire pseudo-neuronale en cours de différenciation (PC12), exposée à 60,4 GHz pendant 24h avec une densité de puissance incidente moyenne de 10 mW/cm². De plus, l’impact des OMM sur l’expression de plusieurs autres marqueurs impliqués dans la nociception, la différenciation neuronale et le stress protéotoxique a aussi été étudié. En utilisant un système d'imagerie semi-haut débit, permettant l'étude de multiples paramètres, nous n’avons pas trouvé de différence dans l'expression protéique des récepteurs membranaires impliqués dans la nociception TRPV1, TRPV2 et P2X3, la protéine de choc thermique Hsp70, et le marqueur neuronal β3-tubuline. Cependant, une augmentation de la poussée neuritique, bien que non significative, a été observée dans les cellules exposées. Les contrôles ont montré que cette augmentation était liée à un effet thermique des OMM. En outre, l'analyse cellule par cellule a montré qu'il n'y avait aucune sous-population distincte de cellules présentant une sensibilité particulière. Enfin, des expositions à 5 mW / cm², suivies par une analyse par HPLC, ont également été effectuées afin d’étudier l'impact des OMM sur le métabolisme dopaminergique. Aucun effet de l'exposition n’a été observé sur la recapture de la dopamine. Seul un effet thermique non significatif a été trouvé sur l'accumulation du DOPAC extracellulaire. Globalement, ces résultats négatifs sont en accord avec les précédentes études in vitro qui ont évalué l'impact des ondes millimétriques sur l'expression génétique, et sont rassurantes sur le fait que l'exposition aiguë aux OMM ne peut pas perturber significativement la physiologie cellulaire. / Millimeter waves (MWW), in particular the 60-GHz band, are increasingly used for wireless communications. A previous in vitro study conducted by our group showed, using microarray analysis, a decrease in TRPV2 RNA expression in primary human skin cells exposed for 1, 6, or 24 h at 60.4 GHz with an average incident power density of 1.8 mW/cm². To investigate if MMW exposure can also affect TRPV2 expression at the protein level, we performed immunocytochemistry on a neuron-like differentiating cell line (PC12), exposed at 60.4 GHz during 24h with an average incident power density of 10 mW/cm². Moreover, the impact of MMW on several markers involved in nociception, neuronal differentiation and proteotoxic stress was also investigated. Using a semi-high throughput imaging system, allowing the study of multiple parameters, we did not find any difference in the protein expression of pain-related membrane receptors TRPV1, TRPV2, and P2X3, heat shock protein Hsp70, and neuronal marker β3-tubulin. However, an upward trend in neurite outgrowth, although not significant, was found in exposed cells. Controls showed that this increase was related to a thermal effect of MMW. Besides, cell-by-cell analysis showed that there is no distinct subpopulation of cells with particular sensitivity. Moreover, exposures at 5 mW/cm², followed by HPLC analysis, were also done to investigate the impact of MMW on dopaminergic metabolism. No impact of exposure on dopaminergic turnover was observed. Only an insignificant thermal effect was found on extracellular DOPAC accumulation. Altogether, those negative results are in line with previous in vitro studies which assessed the impact of MMW on genetic expression, and are reassuring in the fact that acute MMW exposure cannot dramatically disrupt cell physiology.

Que va-t-il arriver ensuite ? Les stimuli naturels ont tendance à se suivre d'une façon prédictible. De nombreux domaines de la psychologie et des neurosciences ont montré que le cerveau et le comportement des humains sont sensibles à la structure temporelle des stimuli sensoriels et sont capables de l'exploiter de multiples façons : pour prendre des décisions appropriées, encoder l'information de façon efficace, réagir plus vite aux événements prédictibles ou encore orienter l'attention vers les stimuli inattendus. Si de nombreuses aires cérébrales sont sensibles aux régularités temporelles (RT), toutes ne semblent pas traiter les mêmes types de structure temporelle. L'accès conscient aux stimuli semble jouer un rôle important dans la capacité à apprendre certains types de RT. Cette thèse explore l'organisation hiérarchique du traitement des RT et les propriétés computationnelles propres à leur traitement conscient et non conscient en combinant un travail de modélisation et des expériences de neuroimagerie en magnétoencéphalographie et électroencéphalographie (MEEG). Un premier modèle neuronal basé sur les principes du codage prédictif reproduit les principales propriétés du traitement préattentif des sons purs dans le cortex auditif indexé par le potentiel évoqué appelé négativité d'incongruence (MMN). Une seconde étude en MEEG met en évidence l'existence d'une hiérarchie de processus prédictifs dans le cortex auditif. Enfin, un second modèle explore les contraintes et les nouvelles propriétés computationnelles qui sont associées à l'accès conscient des stimuli à un système de mémoire de travail capable de maintenir indéfiniment un nombre limité d'objets. / What is going to happen next? Natural stimuli tend to follow each other in a reproducible way. Multiple fields of neuroscience and psychology bring evidence that human’s brain and behavior are sensitive to the temporal structure of stimuli and are able to exploit them in multiple ways: to make appropriate decisions, encode efficiently information, react faster to predictable stimuli or orient attention towards surprising ones… Multiple brain areas show sensitivity to the temporal structure of events. However, all areas do not seem to be sensitive to the same kind of temporal regularities. Conscious access to the stimuli seems to play a key role in some of these dissociations and better understanding this role could improve the current diagnostic tools for non-communicative patients. This thesis explores the hierarchical organization of the processing of temporal regularities and the computational properties of conscious and unconscious levels of processing by combining a modeling approach with neuroimaging experiments using magnetoencephalography and electroencephalography (MEEG). First, a plausible neuronal model based on predictive coding principles reproduces the main properties of the preattentive processing of pure tones in the auditory cortex indexed by the evoked potential mismatch negativity (MMN). Second, a MEEG experiment provides evidence for a hierarchical organization of multiple predictive processes in the auditory cortex. Finally, a second model explores the new computational properties and constraints associated to the access of stimuli to a conscious space with a working memory able to maintain information for an arbitrary time but with limited capacity.

La neuroplasticité (NP), définie comme la capacité du système nerveux à s’adapter aux changements environnementaux, est un phénomène intrinsèque au fonctionnement cérébral et essentiel à son homéostasie. La NP est par définition impliquée dans toutes les maladies du cerveau dont les troubles psychiatriques. Différents troubles psychiatriques peuvent être utilisés comme autant de modèles pour étudier les différentes facettes de la NP de façon translationnelle : du moléculaire au comportemental permettant alors d'améliorer la compréhension de la régulation de la NP et de son implication dans l'étiopathogénie des troubles psychiatriques et de leurs traitements.La neuroplasticité individu-dépendante&#8722;La NP individu-dépendante permet de concevoir les gènes impliqués dans les troubles psychiatriques comme des gènes de sensibilité à l’environnement plutôt que comme des gènes de vulnérabilité aux maladies. Ainsi, tous les sujets n’ont pas la même sensibilité à l’environnement. Si l'on considère les gènes de vulnérabilité aux maladies comme des gènes de sensibilité à l’environnement, également appelés gènes de plasticité, les individus qui les portent présentent logiquement une susceptibilité plus grande à l'environnement qu'il soit "négatif" (ex.: maltraitance infantile) ou "positif" (ex.: environnement enrichissant). Ce concept a été proposé dans un modèle intégratif d'un trouble psychiatrique très fréquent: le trouble de personnalité borderline.La neuroplasticité âge-dépendante&#8722;La NP opère tout au long de la vie mais est régulée différemment selon les périodes de développement. Ces modifications liées à l’âge sont non seulement quantitatives (nombre de neurones impliqués) mais également qualitatives (type de modification). La régulation neuroplastique est donc dépendante de l'âge et entraine des conséquences comportementales différentes selon l'âge de survenue d'un évènement ou d'une expérience. La dimension âge-dépendante de la NP permet d'apporter un nouveau regard sur l'étiopathogénie des troubles psychiatriques, notamment sur les liens entre le trouble de personnalité borderline (TPB) et l’état de stress post-traumatique. Nous avons réalisé une étude génétique d'association, avec réplication interne, sur des gènes impliqués dans la régulation de l'axe du stress dans le TPB d'après l'hypothèse que le TPB et le PTSD constitueraient une seule et même entité dont la principale différence étiologique serait l'âge de survenue du traumatisme.La neuroplasticité symptôme dépendante&#8722;Les modifications neuroplastiques chez des sujets adultes sains ont été mises en évidence dans plusieurs types de situations. L'aspect adaptatif de la NP peut également être impliqué dans la pathogenèse d'un trouble, on parle d'adaptation plastique à la pathologie. Cet aspect a été étudié dans un symptôme psychiatrique fréquent : l'hallucination, définie comme une perception sans objet et nous avons proposé la première étude de neuroimagerie multimodale chez des patients souffrant de schizophrénie présentant des hallucinations visuelles. L'objectif de cette étude était d'étudier la connectivité du complexe hippocampique (HC) selon la modalité hallucinatoire, i.e. auditive ou visuelle dans deux groupes de patients souffrant de schizophrénie: un groupe avec uniquement des hallucinations auditives (AH) et un groupe avec des hallucinations audio-visuelles. Des différences de connectivité ont été mises en évidence sur la voie mésolimbique et entre aires visuelles et complexe hippocampique. La présence d’hallucinations visuelles est également associée à des modifications plastiques du volume et de la forme de l’hippocampe et nos résultats sont compatibles avec des modifications symptômes-dépendantes de cette structure. [...] / The study of the neuroplasticity (NP) has been emphasized to improve the comprehension of pathophysiology of psychiatric disorders, including biomarkers for predicting and monitoring treatment response. NP can be defined as the ability of the nervous system to respond to intrinsic or extrinsic stimuli by reorganizing its structure, function and connections and can be described from a translational perspective at many levels, from molecular to cellular to systems to behaviour. Psychiatric disorders are characterized by a high degree of heterogeneity (pathophysiological, etiologic and clinical levels) which can be conceived as an advantage when examined from the perspective of the NP. In fact, psychiatric disorders can be used as models to study the different aspects of the NP.Individual-dependent plasticity&#8722;The lack of susceptibility genes related to several psychiatric disorders may be due to tendency to look for genetic effects on disease rather than genetic effects on vulnerability to environmental causes of disease. In fact, \\\"vulnerability genes\\\" may function more like \\\"plasticity genes\\\", resulting in greater susceptibility of individuals to both positive (e.g., environmental support and enrichment) and negative (e.g., childhood maltreatment) facets of environmental experiences. This concept has been proposed in an integrative model of a frequent psychiatric disorder : the borderline personality disorder (BPD). Age-dependent plasticity&#8722;There are qualitatively and quantitatively different changes in the brain in re¬sponse to what appears to be the same experience at dif¬ferent ages. This aspect of NP has been studied by using the \\\"Borderline Personality or Complex Posttraumatic Stress Disorder controversy\\\" with a genetic association study, with independent replication, on genes associated with the physiological response to stress in the hypothalamic–pituitary–adrenal (HPA) axis. Symptom-dependent plasticity&#8722;Adaptative neuroplastic modifications in the structure and function of the human brain in response to environmental demands have been showed in numerous situations in healthy controls. Interestingly, NP have also been associated to adaptation to pathology in several psychiatric disorders. A recent example has been provided by the study of visual hallucinations in schizophrenia patients. Hallucinations can be defined as perceptions in the absence of external stimuli. In schizophrenia, hallucinations constitute the most typical and disabling symptoms of the disorder and may manifest in all sensory modalities. Several MRI findings support the hypothesis that distinct patterns of connectivity, particularly within networks involving the hippocampal complex (HC), could be associated with different hallucinatory modalities. The aim of our study was to investigate HC connectivity as a function of the hallucinatory modality, i.e., auditory or visual in two carefully selected subgroups of schizophrenia patients with only auditory hallucinations (AH) or with audio-visual hallucinations (A+VH). Hippocampal volume and shape analysis showed localized hippocampal hypertrophy in the A+VH group. These structural findings indicate that plastic changes are associated with hallucinations. Indeed, the hippocampus is capable of plastic deformation, and the present findings are consistent with experience-dependent shape modifications of the hippocampus that involve mechanical tension along the axon.This PhD thesis highlights several arguments that the NP perspective provide new insights to the pathophysiology, to improve and emphasize therapeutic innovation of psychiatric disorders.

Les ARNms des cellules eucaryotes sont liés à des protéines de liaison aux ARNs (RBPs) et empaquetés au sein d’assemblages macro-moléculaires appelés granules RNP. Dans les cellules neuronales, les granules RNP de transport sont impliqués dans le transport d’ARNms spécifiques jusqu’aux axones et dendrites, ainsi que dans leur traduction locale en réponse à des signaux externes. Bien que peu de choses soient connues sur l’assemblage et la régulation de ces granules in vivo, des résultats récents ont indiqué que la présence de domaines de type prion (PLDs) dans les RBPs facilite les interactions protéines-protéines et protéines-ARN, favorisant ainsi la condensation de complexes solubles en granules RNP. La RBP conservée Imp est un composant central de granules RNP qui sont transportés dans les axones lors du remodelage neuronal chez la drosophile. De plus, la fonction de Imp est nécessaire au remodelage des axones lors de la maturation du système nerveux de drosophile. Une analyse de la séquence de la protéine Imp a révélé qu’en plus de quatre domaines de liaison aux ARNs, Imp contient un domaine C-terminal désordonné enrichi en Glutamines et Serines, deux propriétés caractéristiques des domaines PLDs. Lors de ma thèse, j’ai étudié la fonction de ce PLD dans le contexte de l’assemblage et du transport des granules RNP. J’ai observé en culture de cellules que les granules Imp s’assemblent en absence de PLD, bien que leur nombre et leur taille soient augmentés. Des protéines présentant une séquence PLD mélangée, au contraire, s’accumulent dans des granules au nombre et à la taille normale, indiquant que l’état désordonné de ce domaine, et non sa séquence primaire, est essentiel à l’homéostasie des granules. De plus, des expériences de FRAP réalisées en culture de cellule et in vivo ont révélé que le domaine PLD de Imp favorise la dynamique des granules. In vivo, ce domaine est nécessaire et suffisant à l’accumulation axonale de Imp. Comme montré par une analyse en temps réel, l’absence de domaine PLD aboutit également à une diminution du nombre de granules axonaux motiles. Fonctionnellement, le domaine PLD de Imp est essentiel au remodelage neuronal car des protéines sans ce domaine ne sont pas capables de supprimer les défauts de repousse axonale observés après inactivation de imp. Enfin, la génération d’un variant de Imp dans lequel le domaine PLD a été déplacé en N-terminus a montré que les fonctions du PLD dans le transport des granules et dans leur assemblage sont découplées, et que la modulation des propriétés des granules Imp médiée par le domaine PLD n’est pas nécessaire au remodelage neuronal in vivo. En conclusion, mes résultats ont montré que le domaine PLD de Imp n’est pas nécessaire à l’assemblage des granules RNP Imp, mais régule leur nombre et leur dynamique. De plus, mon travail a mis en évidence une fonction inattendue pour un domaine PLD dans le transport axonal et le remodelage des neurones lors de la maturation du système nerveux. / Eukaryotic mRNAs are bound by RNA Binding Proteins (RBP) and packaged into diverse range of macromolecular assemblies named RNP granules. In neurons, transport RNP granules are implicated in the transport of specific mRNAs to axons or dendrites, and in their local translation in response to external cues. Although little is known about the assembly and regulation of these granules in vivo, growing evidence indicates that the presence of Prion Like domains (PLD) within RBPs favours multivalent protein–protein and protein-RNA interactions, promoting the transition of soluble complexes into RNP granules. The conserved RBP Imp is as a core component of RNP granules that are actively transported to axons upon neuronal remodelling in Drosophila. Furthermore, Imp function was shown to be required for axonal remodelling during Drosophila nervous system maturation. Analyses of the domain architecture of the Imp protein revealed that, in addition to four RNA binding domains (RBD), Imp contains a Cterminal domain showing a striking enrichment in Glutamines and Serines, which is one of the characteristics of a PLD. During my PhD, I explored the function of the PLD in the context of granule assembly and transport. In cultured cells, I observed that Imp granules assembled in the absence of the PLD, however their number and size were increased. Proteins with scrambled PLD sequence accumulated in granules of normal size and number, implying that the degree of disorder of this domain, and not its sequence, is essential for granule homeostasis. Moreover, FRAP experiments, performed on cultured cells and in vivo, revealed that Imp PLD is important to maintain the turnover of these granules. In vivo, this domain is both necessary and sufficient for efficient transport of Imp granules to axons. These defects are associated with a reduction on the number of motile granules in axons. Furthermore, mutant forms lacking the PLD do not rescue the axon remodelling defects observed upon imp loss of function. Finally, a swapping experiment in which I moved Imp PLD from the C-terminus to the N-terminus of the protein revealed that the functions of Imp PLD in granule transport and homeostasis are uncoupled, and that PLD-dependent modulation of Imp granule properties is dispensable in vivo. Together, my results show that Imp PLD of is not required for the assembly of RNP granules, but rather regulates granule number and dynamics. Furthermore, my work uncovered an unexpected in vivo function for a PLD in axonal transport and remodelling during nervous system maturation.

Das Training künstlicher neuronaler Netze mittels Gradientenverfahren wird detailliert mit allen Her- und Ableitungen beschrieben, implementiert und demonstriert.

Der Einsatz faltender künstlicher neuronaler Netze wird anhand einer Bildklassifikationsaufgabe demonstriert. Die vom neuronalen Netz erlernten Strukturen werden detailliert untersucht und visualisiert.

An der Verarbeitung natürlicher Sprache durch computerbasierte Systeme wurde immer aktiv entwickelt und geforscht, um Aufgaben in den am weitesten verbreiteten Sprachen zu lösen. In dieser Arbeit werden verschiedene Ansätze zur Lösung von Problemen in diesem Bereich mittels künstlicher neuronaler Netze beschrieben. Dabei konzentriert sich diese Arbeit hauptsächlich auf modernere Architekturen wie Transformatoren oder BERT. Ziel dabei ist es, diese besser zu verstehen und herauszufinden, welche Vorteile sie gegenüber herkömmlichen künstlichen neuronalen Netzwerken haben. Anschließend wird dieses erlangte Wissen an einer Aufgabe aus dem Bereich der Verarbeitung natürlicher Sprache getestet, in welcher mittels einer sogenannten Named Entity Recognition (NER) spezielle Informationen aus Texten extrahiert werden.:1 Einleitung 1.1 Verarbeitung natürlicher Sprache (NLP) 1.2 Neuronale Netze 1.2.1 Biologischer Hintergrund 1.3 Aufbau der Arbeit 2 Grundlagen 2.1 Künstliche neuronale Netze 2.1.1 Arten des Lernens 2.1.2 Aktivierungsfunktionen 2.1.3 Verlustfunktionen 2.1.4 Optimierer 2.1.5 Über- und Unteranpassung 2.1.6 Explodierender und verschwindender Gradient 2.1.7 Optimierungsverfahren 3 Netzwerkarchitekturen zur Verarbeitung natürlicher Sprache 3.1 Rekurrente neuronale Netze (RNN) 3.1.1 Langes Kurzzeitgedächtnis (LSTM) 3.2 Autoencoder 3.3 Transformator 3.3.1 Worteinbettungen 3.3.2 Positionscodierung 3.3.3 Encoderblock 3.3.4 Decoderblock 3.3.5 Grenzen Transformatorarchitektur 3.4 Bidirektionale Encoder-Darstellungen von Transformatoren (BERT) 3.4.1 Vortraining 3.4.2 Feinabstimmung 4 Praktischer Teil und Ergebnisse 4.1 Aufgabe 4.2 Verwendete Bibliotheken, Programmiersprachen und Software 4.2.1 Python 4.2.2 NumPy 4.2.3 pandas 4.2.4 scikit-learn 4.2.5 Tensorflow 4.2.6 Keras 4.2.7 ktrain 4.2.8 Data Version Control (dvc) 4.2.9 FastAPI 4.2.10 Docker 4.2.11 Amazon Web Services 4.3 Daten 4.4 Netzwerkarchitektur 4.5 Training 4.6 Auswertung 4.7 Implementierung 5 Schlussbemerkungen 5.1 Zusammenfassung und Ausblick

No description available.