This study is concerned with using the popular Recurrent Neural Network (RNN) model, and its variants Gated Recurrent Unit (GRU) and Long-Short Term Memory (LSTM), on the novel problem of Sentiment Forecasting (SF). The goal of SF is to predict what the sentiment of a response will be in a conversation, using only the previous utterance. In more every day terms, we want to be able to predict the sentiment of person B’s response to something person A said, before B has said anything and using only A’s utterance. The RNN models were trained on a Swedish email database containing email conversations, where the task was to predict the average sentiment of the response emails to an initial mass-sent business email. The emails didn’t come with sentiment labels, so the Valence Aware Dictionary and sEntiment Reasoner (VADER) system was used to determine sentiments. Seventy-five training-and-testing experiments were run with varying RNN models and data conditions. The accuracy, precision, recall, and F1 scores were used to determine to what extent the models had been able to solve the problem. In particular, the F1 score of the models were compared to the F1 score of a dummy classifier that only answered with positive sentiment, with the success case being that a model was able to reach a higher F1 score than the dummy. The results led to the findings that the varying RNN models performed worse or comparably to the dummy classifier, with only 5 out of 75 experiments resulting in the RNN model reaching a higher F1 score than the positive classifier, and with the average performance of the rare succeeding models only going 2.6 percentage points over the positive only classifier, which isn’t considered worthwhile in relation to the time and resource investment involved in training RNNs. In the end, the results led to the conclusion that the RNN may not be able to solve the problem on its own, and a different approach might be needed. This conclusion is somewhat limited by the fact that more work could have been done on experimenting with the data and pre-processing techniques. The same experiments on a different dataset may show different results. Some of the observations showed that the RNN, particularly the Deep GRU, might be used as the basis for a more complex model. Complex models built on top of RNNs have been shown to be useful on similar research problems within Sentiment Analysis, so this may prove a valuable avenue of research. / Denna studie handlade om att använda den populära Recurrent Neural Network (RNN) modellen, och dess varianter Gated Recurrent Unit (GRU) och Long- Short Term Memory (LSTM), på det hittils understuderade problemet Sentiment Forecasting (SF). Målet med SF är att förutsäga vad sentimentet av ett svar kommer att vara i en konversation, med endast det tidigare uttalandet. I mer vardagliga termer vill vi kunna förutsäga känslan av person B: s svar på något som person A sagt, innan B har sagt någonting och att vi endast använder A:s yttrande. RNN-modellerna tränades med en svensk e-postdatabas som innehöll epostkonversationer, där uppgiften var att förutsäga den genomsnittliga känslan av svarsmeddelandena till ett initialt utskickat massmeddelande. E-postmeddelandena kom inte med sentimentetiketter, så Valence Aware Dictionary and sEntiment Reasoner (VADER)-systemet användes för att utvinna etiketter. Sjuttio-fem experiment genomfördes med varierande RNN-modeller och dataförhållanden. Accuracy, precision, recall och F1-score användes för att avgöra i vilken utsträckning modellerna hade kunnat lösa problemet. F1- Score:n för modellerna jämfördes med F1-Score:n för en dummy-klassificerare som endast svarade med positivt sentiment, med framgångsfallet att en modell kunde nå en högre F1-poäng än dummy:n. Resultaten ledde till fynden att de olika RNN-modellerna presterade sämre eller jämförbart med dummyklassificeraren, med endast 5 av 75 experiment som resulterade i att RNN-modellen nådde en högre F1-score än den positiva klassificeraren, och den genomsnittliga prestandan för de sällsynta framgångsrika modellerna bara kom 2,6 procentenheter över den positiva klassificeraren, vilket inte anses lönsamt i förhållande till den tid och resursinvestering som är involverad i träning av RNNs. I slutändan ledde resultaten till slutsatsen att RNN och dess varianter inte riktigt kan lösa problemet på egen hand, och en annan metod kan behövas. Denna slutsats begränsas något av det faktum att mer arbete kunde ha gjorts med att experimentera med data och förbehandlingstekniker. En annan databas skulle möjligtvis leda till ett annat resultat. Några av observationerna visade att RNN, särskilt Deep GRU, kan användas som grund för en mer komplex modell. Komplexa modeller bygga ovanpå RNNs har visat goda resultat på liknande forskningsproblem, och kan vara en värdefull forskningsriktning.

Cette recherche doctorale concerne la professionnalisation des masseurs-kinésithérapeutes. Le courrier électronique, une des nombreuses formes de l’écriture professionnelle, est utilisé dans cette recherche comme un analyseur (Lourau, 1969). Les courriels modifient les pratiques professionnelles et en même temps ils permettent d’observer la professionnalisation des masseurs-kinésithérapeutes, comprise comme institutionnalisation de la profession, dans leur vie quotidienne. En m’appuyant sur une démarche ethnographique et sur le cadre théorique de l’analyse institutionnelle, je relève dans le quotidien des masseurs-kinésithérapeutes salariés les changements de pratiques, de valeurs ainsi que les résistances aux transformations en cours.Le parcours de la chercheuse, ici praticienne-chercheuse, est pris en compte en ce qu’il est lui-même impliqué dans l’objet de recherche. L’analyse des implications professionnelles des masseurs-kinésithérapeutes salariés est menée pour comprendre le processus de professionnalisation et d’universitarisation à partir des observations de terrain.En modifiant les pratiques de communication et d’organisation autour du patient, le courriel agit également sur la structuration du corps professionnels et sur l’activité quotidienne des masseurs-kinésithérapeutes. Cependant, comme en résistance à la progression du numérique, l’attachement à la centralité du corps dans les implications professionnelles des masseurs-kinésithérapeutes salariés reste central. / This doctoral research grant is about physiotherapists’ professionalization. E-mails, one of the numerous forms of professional writing, are employed as an analyzer in this research (Lourau, 1969). As e-mails modify professional practices, they allow us to notice physiotherapists’ professionalization, understood as a daily life institutionalization of their job. Based on an ethnographical approach and on the theoretical setting of institutional analysis, I’m taking, in employed physiotherapists’ daily life, their changes of practices, of values and their reluctance to current developments.The researcher’s record, here a practitioner-researcher, is taking into consideration because it is also involved in the research work. Salaried physiotherapists’ professional involvement analysis is taken to understand professionalization and universitarisation process, from ground observations. By changing communication and organization practices, e-mails are also working on professional body structure and on physiotherapists’ daily practice. As a reluctance to digital progress, the attachment to patient’s body central place in professional physiotherapists’ involvement stay crucial.

Šiuo darbu siekta nustatyti, ar asmeninių elektroninių laiškų kalboje atsiskleidžia autoriaus idiolektas ir kokiais leksiniais bei grafiniais požymiais jis pasireiškia.. Tyrimui buvo surinktas šešių autorių asmeninių neoficialaus bendravimo elektroninių laiškų tekstynas. Tekstyno duomenys apdoroti pasitelkiant WordSmith Tools programą ir atlikta gretinamoji tekstų analizė: lyginti kalbos vienetų pasikartojimo dažniai tiriamųjų autorių laiškuose ir nustatyta, kad vienų autorių dažniau ar rečiau nei kitų vartojami kalbos vienetai skiria autorių idiolektus. Iš nustatytų kalbos požymių apibendrintos su idiolektu sietinų kalbinės raiškos vienetų grupės. Nustatyta, kad leksikos lygmenyje idiolektus aiškiausiai skiria autoriaus vertinimą ir nuostatas perteikiantys bei modalumą reiškiantys žodžiai bei iš galimų leksinių konkurentų pasirenkami žodžiai ir trumpiniai. Taip pat idiolektus žymi skirtingų autorių nevienodai dažnai pasirenkamų skyrybos ir grafinių ženklų vartojimas. Remiantis atlikto tyrimo rezultatais disertacijoje pateikiamos rekomendacijos teismo lingvistinius autorystės tyrimus atliekantiems ekspertams. / The current study aims to establish, if authors idiolect can be recognized in electronic mails language and to determine the features of lexis and graphics, which can be linked to idiolect. The data has been derived from a corpus of 65,000 words consisting of electronic letters written in Lithuanian by six persons. The WordSmith Tools software was used to generate frequency lists of six subcorpora, representing each person’s language. By using the contrastive method the frequency data of six persons language were compared. The lexis and graphics elements, which were used by one person more often or more rarely than by others and were not determined by the topic, were linked to authors idiolect. As a result of the analysis the classification of lexical and graphical elements is given, which can help recognizing idiolect. The study shows that on a lexical level the main differences between idiolects are in the usage of the modality and stance expressing words, and also the words and abbreviations, which are differently chosen from possible variants. On a graphical level idiolects can be recognized from punctuation marks, emoticons and graphic symbols, used at a different frequency. Based on research results the recommendations for authorship attribution examinations are given.

The current study aims to establish, if authors idiolect can be recognized in electronic mails language and to determine the features of lexis and graphics, which can be linked to idiolect. The data has been derived from a corpus of 65,000 words consisting of electronic letters written in Lithuanian by six persons. The WordSmith Tools software was used to generate frequency lists of six subcorpora, representing each person’s language. By using the contrastive method the frequency data of six persons language were compared. The lexis and graphics elements, which were used by one person more often or more rarely than by others and were not determined by the topic, were linked to authors idiolect. As a result of the analysis the classification of lexical and graphical elements is given, which can help recognizing idiolect. The study shows that on a lexical level the main differences between idiolects are in the usage of the modality and stance expressing words, and also the words and abbreviations, which are differently chosen from possible variants. On a graphical level idiolects can be recognized from punctuation marks, emoticons and graphic symbols, used at a different frequency. Based on research results the recommendations for authorship attribution examinations are given. / Šiuo darbu siekta nustatyti, ar asmeninių elektroninių laiškų kalboje atsiskleidžia autoriaus idiolektas ir kokiais leksiniais bei grafiniais požymiais jis pasireiškia.. Tyrimui buvo surinktas šešių autorių asmeninių neoficialaus bendravimo elektroninių laiškų tekstynas. Tekstyno duomenys apdoroti pasitelkiant WordSmith Tools programą ir atlikta gretinamoji tekstų analizė: lyginti kalbos vienetų pasikartojimo dažniai tiriamųjų autorių laiškuose ir nustatyta, kad vienų autorių dažniau ar rečiau nei kitų vartojami kalbos vienetai skiria autorių idiolektus. Iš nustatytų kalbos požymių apibendrintos su idiolektu sietinų kalbinės raiškos vienetų grupės. Nustatyta, kad leksikos lygmenyje idiolektus aiškiausiai skiria autoriaus vertinimą ir nuostatas perteikiantys bei modalumą reiškiantys žodžiai bei iš galimų leksinių konkurentų pasirenkami žodžiai ir trumpiniai. Taip pat idiolektus žymi skirtingų autorių nevienodai dažnai pasirenkamų skyrybos ir grafinių ženklų vartojimas. Remiantis atlikto tyrimo rezultatais disertacijoje pateikiamos rekomendacijos teismo lingvistinius autorystės tyrimus atliekantiems ekspertams.

Mitteilungen des URZ 4/2002

Mitteilungen des URZ 4/2002

Society today is becoming more digitalized, and a common way of communication is to send e-mails. Currently, the company Auranest has a filtering method for categorizing e-mails, but the method is a few years old. The filter provides a classification of valuable e-mails for jobseekers, where employers can make contact. The company wants to know if the categorization can be performed with a different method and improved. The degree project aims to investigate whether the categorization can be proceeded with higher accuracy using machine learning. Three supervised machine learning algorithms, Naïve Bayes, Support Vector Machine (SVM), and Decision Tree, have been examined, and the algorithm with the highest results has been compared with Auranest's existing filter. Accuracy, Precision, Recall, and F1 score have been used to determine which machine learning algorithm received the highest results and in comparison, with Auranest's filter. The results showed that the supervised machine learning algorithm SVM achieved the best results in all metrics. The comparison between Auranest's existing filter and SVM showed that SVM performed better in all calculated metrics, where the accuracy showed 99.5% for SVM and 93.03% for Auranest’s filter. The comparative results showed that accuracy was the only factor that received similar results. For the other metrics, there was a noticeable difference. / Dagens samhälle blir alltmer digitaliserat och ett vanligt kommunikationssätt är att skicka e-postmeddelanden. I dagsläget har företaget Auranest ett filter för att kategorisera e-postmeddelanden men filtret är några år gammalt. Användningsområdet för filtret är att sortera ut värdefulla e-postmeddelanden för arbetssökande, där kontakt kan ske från arbetsgivare. Företaget vill veta ifall kategoriseringen kan göras med en annan metod samt förbättras. Målet med examensarbetet är att undersöka ifall filtreringen kan göras med högre träffsäkerhet med hjälp av maskininlärning. Tre övervakade maskininlärningsalgoritmer, Naïve Bayes, Support Vector Machine (SVM) och Decision Tree, har granskats och algoritmen med de högsta resultaten har jämförts med Auranests befintliga filter. Träffsäkerhet, precision, känslighet och F1-poäng har använts för att avgöra vilken maskininlärningsalgoritm som gav högst resultat sinsemellan samt i jämförelse med Auranests filter. Resultatet påvisade att den övervakade maskininlärningsmetoden SVM åstadkom de främsta resultaten i samtliga mätvärden. Jämförelsen mellan Auranests befintliga filter och SVM visade att SVM presterade bättre i alla kalkylerade mätvärden, där träffsäkerheten visade 99,5% för SVM och 93,03% för Auranests filter. De jämförande resultaten visade att träffsäkerheten var den enda faktorn som gav liknande resultat. För de övriga mätvärdena var det en märkbar skillnad.