La démocratie représentative souffre de nombreuses lacunes qui remettent en question la légitimité même des gouvernements démocratiques modernes. Tandis que la représentation directe pourrait théoriquement éliminer ces incongruités, elle a jusqu'à présent été considérée comme irréalisable en raison de limitations spatio-temporelles. Cette thèse adresse ces problèmes en introduisant le concept de Démocratie Internet - distinct de l’e-démocratie et de l’e-gouvernement existant. La Démocratie Internet consiste à cerner la représentation démocratique de telle manière qu’elle puisse être opérationnalisée par le biais de l’informatique. Pour ce faire, cette thèse remonte d'abord aux problèmes de la démocratie et de la représentation indirecte dans ses principes premiers, et propose une nouvelle approche (structurelle symbiotique) à l'application de l'Internet pour la démocratie. Ensuite, elle montre que la Démocratie Internet peut fonctionner grâce à l'analyse des données collectées passivement sur l'accès et la production de l’information. Enfin, elle offre de nombreuses contributions à l’informatique, qui jusqu’alors était limitée dans la précision de l'analyse des sentiments. La thèse développe une Proposition d’Opinion Asymétrique (AOP) et l’applique à un nouveau concept de ‘Espace des Sentiments’; elle développe également la première base de données assez nuancée pour l'analyse des sentiments; et elle utilise l'Espace de Sentiment afin de développer la méthode de calcul originale «Split-Fit » qui accroît la précision de l’apprentissage automatique. / Representative democracy suffers from numerous shortcomings that are so significant they bring into question the very legitimacy of modern democratic governments. While direct representation might theoretically eliminate these multiple defects, it has until now been considered unworkable due to limitations of space and of time. This thesis addresses these deficiencies by introducing Internet Democracy, which is distinct from existing e-democracy and e-government. Internet Democracy is an operational, computational formulation of democratic representation. To support this contribution, this thesis first derives the problems of democracy and indirect representation from first principles. It then proposes a new approach (the symbiotic structural approach) which applies the Internet to democracy. It then supports the proposition that Internet Democracy can operate through the analysis of passively collected data on information access and on information production (for instance, using sentiment analysis). Finally, it makes numerous topical contributions to computer science based on the observation that sentiment analysis hits a ceiling of accuracy which cannot currently be transcended. These contributions range from suggesting an Asymmetric Opinion Proposition (AOP) and applying this to a Sentiment Space describing the computational structure of sentiment; developing the first extremely fine-grained dataset for sentiment analysis; and applying Sentiment Space to develop the original ‘Split-Fit’ computing method which increases the accuracy of machine learning based Sentiment Analysis.

La population dans la plupart des sociétés occidentales, y compris, le Canada se diversifie. Cette diversité qu’on pourrait qualifier de super-diversité peut constituer une force pour la cohésion sociale, la construction de la société inclusive et un élément central de l’identité nationale. Cependant, cela suscite également des défis et des préoccupations auprès des pouvoirs politiques, de la communauté scientifique, des médias et de l’opinion publique, quant à la manière dont les immigrants vont s’intégrer dans la société, mais aussi comment les natifs s’adaptent à la présence des immigrants et que tous établissent des relations interculturelles mutuelles. La présente thèse a pour objectif principal d’examiner l’intégration des immigrants dans leur société d’accueil, notamment au Canada. Concrètement, elle vise à (1) examiner les thèmes abordés dans la littérature scientifique sur l’intégration entre 1960 et 2022, leurs interactions et évolutions dans le temps ainsi que leurs répartitions selon les pays et institutions de recherches; (2) examiner les thèmes et les sentiments associés à l’intégration dans la couverture médiatique au Québec et en Ontario entre 1988 et 2022, leurs évolutions dans le temps, et leurs relations avec les facteurs contextuels locaux; (3) analyser les effets de l’origine nationale et du genre sur l’intégration socioculturelle des immigrants au Québec; (4) examiner les liens entre l’intégration sociale et la discrimination perçue et leurs influences sur le sentiment d’appartenance des immigrants au Québec. Les résultats de nos analyses, présentés sous forme de quatre articles scientifiques, s’appuient sur plusieurs données de texte, de données administratives et d’enquêtes quantitatives. Notre premier article vise à synthétiser les résultats des publications scientifiques sur l’intégration afin d’examiner les thèmes étudiés, leurs évolutions et leurs distributions selon les pays. Nous utilisons les données de texte issues des résumés d’articles scientifiques publiés entre 1960 et 2022 dans Web of Science, Scopus et Dimensions. À l’aide de la modélisation thématique structurelle, nous avons identifié 30 principaux thèmes de recherche. Les résultats mettent en évidence plusieurs thèmes couvrant les aspects socio-économique, culturel et politique de l’intégration, la discrimination, la santé, le genre, les politiques d’immigration et d’intégration, les questions démographiques ainsi que d’ordre théorique et méthodologique. Les thèmes sur la théorie de l’intégration et la participation politique ont montré une tendance temporelle à la baisse au fil du temps alors que les thèmes liés au racisme et à la discrimination, à l’identité ethnique, et à l’intégration économique, ont montré une tendance à la hausse. Les analyses bibliométriques révèlent des changements dans les thèmes entre les États-Unis, le Royaume-Uni, le Canada et la Chine ainsi qu’entre les institutions de recherche influentes au fil du temps. Le second article analyse le discours médiatique sur l’immigration et l’intégration des immigrants au Québec et en Ontario de 1988 à 2022. Nous utilisons un ensemble de données de texte d’articles provenant des journaux anglophones de l’Ontario et des journaux francophones du Québec. En utilisant également la modélisation structurelle des thèmes, nous avons identifié 20 thèmes importants dans chaque province. Ensuite, nous avons appliqué l’analyse du sentiment pour calculer les scores de sentiment liés à ces thèmes. En utilisant des modèles longitudinaux, nous avons examiné les effets de la proportion d’immigrants, du taux de chômage et de l’affiliation politique du parti au pouvoir sur les thèmes et les sentiments associés aux thèmes. Les résultats indiquent que le discours sur l’immigration dans chaque province est fortement lié à des thèmes sur l’économie, la diversité et la culture, l’indépendance au Québec, la sécurité, la gouvernance et la politique, les services sociaux, la discrimination et l’aide humanitaire. Alors que les thèmes sur les questions linguistiques et l’indépendance ont connu une augmentation dans le temps au Québec, les thèmes sur la diversité culturelle, l’économie et la discrimination sont restés stables dans les deux provinces entre 1988 et 2022. Parallèlement, les sentiments associés aux thèmes suggèrent une image plus pessimiste de l’immigration et de l’intégration au Québec qu’en Ontario au fil des années. Un résultat intéressant est l’influence des facteurs contextuels locaux tels que l’évolution de la proportion des immigrants, le taux de chômage et l’affiliation politique du parti au pouvoir sur l’évolution des thèmes et des sentiments associés dans chaque province. L’article 3 vise à analyser les écarts de participation culturelle et sportive entre les hommes et les femmes et entre les Canadiens de naissance et les immigrants, tout en explorant comment ces disparités entre hommes et femmes varient selon l’origine nationale des immigrants. À partir d’une enquête réalisée en 2020 sur les trajectoires individuelles et dynamiques de participation des immigrants, des minorités ethnoculturelles, et le reste de la population québécoise, nous trouvons que les immigrants venus d’Afrique sont moins susceptibles de participer aux activités culturelles et sportives que les Canadiens de naissance. Les résultats selon le genre montrent que les femmes participent plus aux activités culturelles et moins aux activités sportives que les hommes. L’effet combiné du genre et de l’origine nationale suggère que les femmes venues d’Afrique, d’Asie/Moyen-Orient et d’Amérique latine/Caraïbes sont désavantagées par rapport aux hommes dans les deux types de participation étudiés. Le quatrième article vise à examiner les effets directs et indirects (via la discrimination perçue) de l’intégration sociale en termes de participation à des activités associatives et sportives sur le sentiment d’appartenance des immigrants au Québec. Nous appliquons 1) les modèles de régression linéaire multiple, 2) une analyse du score de propension et 3) les modèles d’équations structurelles aux mêmes données utilisées dans l’article 3. Les résultats révèlent que la participation à des associations et à des sports améliore de manière significative le sentiment d’appartenance des immigrés, même après correction du biais de sélection. Dans le modèle d’équations structurelles, les résultats montrent que la relation entre la participation associative et sportive, la discrimination perçue et le sentiment d’appartenance est complexe. Plus le niveau de participation à des associations est élevé chez les immigrants, plus ils sont susceptibles de signaler des cas de discrimination. Des résultats similaires sont trouvés, bien que moins prononcés, pour la participation à des sports. Cependant, dans les deux cas, cet effet n’annule pas entièrement l’impact direct et positif de la participation à des associations et à des activités sportives sur le sentiment d’appartenance des immigrants au Québec. Enfin, les résultats montrent un effet plus important pour les immigrants d’Europe/États-Unis et d’Asie/Moyen-Orient que pour ceux d’Afrique ou d’Amérique latine/Caraïbes. Les résultats présentés dans cette thèse peuvent guider les chercheurs, les agences de financement, les décideurs politiques et les gestionnaires de projets en immigration et intégration dans l’allocation appropriée des ressources pour les futures recherches. Ces résultats interpellent également les pouvoirs publics à mettre en place des programmes qui reconnaissent davantage la diversité des rapports sociaux et promeuvent les relations interculturelles dans le quotidien et dans l’entourage local des immigrants avec les Canadiens de naissance. / The population of most Western societies, including Canada, is becoming increasingly diverse. This diversity, which could be described as super-diversity, can be a force for social cohesion, the construction of an inclusive society, and a central element of national identity. However, it also raises challenges and concerns for political authorities, the scientific community, the media, and public opinion, as to how immigrants will integrate into society, but also how native-born people will adapt to the presence of immigrants, and how all will establish mutual intercultural relations. This thesis examines immigrant integration into the host society, particularly in Canada. Specifically, it seeks to (1) examine the topics addressed in the scientific literature on integration between 1960 and 2022, their interactions and evolution over time, and their distribution by countries and research institutions; (2) examine the topics and associated sentiments on integration in media coverage in Quebec and Ontario between 1988 and 2022, their evolution over time, and their relationship with the local contextual factors; (3) analyze the effects of national origin and gender on socio-cultural integration among immigrants in Quebec; (4) examine the relationship between social integration and perceived discrimination and their influence on immigrants’ sense of belonging in Quebec. The results of our analyses, presented as four scientific articles, used several textual and quantitative survey data. Our first article aims to synthesize the results of scientific publications on integration to examine the key topics, their evolution, and distribution by country and research institutions. We use text data from abstracts of scientific articles published between 1960 and 2022 in Web of Science, Scopus, and Dimensions. Using structural topic modeling, we have identified 30 main research topics. The results highlight several topics covering the socio-economic, cultural, and political aspects of integration, discrimination, health, gender, immigration and integration policies, demographic, and theoretical and methodological issues. Topics on integration theory and political participation showed a downward trend over time, while topics related to racism and discrimination, ethnic identity, and economic integration showed an upward trend over time. Bibliometric analyses reveal shifts in topics between the United States, the United Kingdom, Canada, and China, and between influential research institutions over time. The article 2 analyzes media discourse on immigration and immigrant integration in Quebec and Ontario from 1988 to 2022. We use a dataset of article texts from Anglophone newspapers in Ontario and Francophone newspapers in Quebec. Using structural topic modeling, we identified 20 main topics in each province. We then applied sentiment analysis to calculate sentiment scores related to these topics. Using longitudinal models, we examined the effects of the proportion of immigrants, the unemployment rate and political parties on the topics and the sentiments associated with the topics. The results indicate that media in each province discuss about topics on the economy, diversity and culture, Quebec’s independence, security, governance and politics, social services, racism and discrimination, and humanitarian aid. While the topic of Quebec’s independence and linguistic issues increased over time, the topics of cultural diversity, the economy and discrimination remained stable in both provinces between 1988 and 2022. At the same time, sentiments associated with the topics suggest a more pessimistic picture of immigration and integration in Quebec than in Ontario over time. An interesting finding is the power of local contextual factors such as changes in the proportion of immigrants, the unemployment rate, and the political affiliation of the ruling party on the evolution of topics and associated sentiments. Article 3 aims to analyze the gaps in cultural and sports participation between men and women and between native-born Canadians and immigrants while exploring how these disparities between women and men vary by national origin. Based on a survey conducted in 2020 on the trajectories and participation dynamics of immigrants, ethnocultural minorities, and the rest of the Quebec population, we find that immigrants from Africa are less likely to participate in cultural and sports activities than native-born Canadians. On the other hand, there is no difference in participation in these activities between native-born Canadians and immigrants from Europe/the United States, Asia/Middle East, and Latin America/Caribbean. Results by gender show that women participate more in cultural activities and less in sporting activities than men. The combined effect of gender and national origin suggests that women from Africa, Asia/Middle East, and Latin America/Caribbean are less likely to participate in sports activities than men. The fourth article aims to assess the direct and indirect effects (via perceived discrimination) of social integration in terms of participation in associative and sports activities on immigrants’ sense of belonging in Quebec. We apply 1) multiple linear regression models, 2) propensity score analysis, and 3) structural equation models to the same data used in article 3. The results show that participation in associations and sports significantly improves immigrants’ sense of belonging, even after correcting for selection bias. In the structural equation model, the results show a complex relationship between associative and sports participation, perceived discrimination, and a sense of belonging. The higher the level of participation in associations among immigrants, the more likely they are to report discrimination. We found similar results, though less pronounced, for participation in sports. However, in both cases, this effect does not entirely cancel the direct and positive impact of participation in associations and sports activities on immigrants’ sense of belonging to Quebec. Finally, the results show a more substantial effect for immigrants from Europe/United States and Asia/Middle East than those from Africa or Latin America/Caribbean. The results presented in this thesis can guide researchers, funding agencies, policymakers, and immigration and integration project managers in appropriately allocating resources for future research. These results also challenge public authorities to implement programs that better recognize the diversity of social relationships and promote intercultural relations in the everyday and local environments of immigrants and native-born Canadians.

Cette thèse par article comprend quatre articles qui contribuent au domaine de l'apprentissage profond, en particulier à l'accélération de l’apprentissage par le biais de réseaux à faible précision et à l'application de réseaux de neurones profonds au traitement du langage naturel. Dans le premier article, nous étudions un schéma d’entraînement de réseau de neurones qui élimine la plupart des multiplications en virgule flottante. Cette approche consiste à binariser ou à ternariser les poids dans la propagation en avant et à quantifier les états cachés dans la propagation arrière, ce qui convertit les multiplications en changements de signe et en décalages binaires. Les résultats expérimentaux sur des jeux de données de petite à moyenne taille montrent que cette approche produit des performances encore meilleures que l’approche standard de descente de gradient stochastique, ouvrant la voie à un entraînement des réseaux de neurones rapide et efficace au niveau du matériel. Dans le deuxième article, nous avons proposé un mécanisme structuré d’auto-attention d’enchâssement de phrases qui extrait des représentations interprétables de phrases sous forme matricielle. Nous démontrons des améliorations dans 3 tâches différentes: le profilage de l'auteur, la classification des sentiments et l'implication textuelle. Les résultats expérimentaux montrent que notre modèle génère un gain en performance significatif par rapport aux autres méthodes d’enchâssement de phrases dans les 3 tâches. Dans le troisième article, nous proposons un modèle hiérarchique avec graphe de calcul dynamique, pour les données séquentielles, qui apprend à construire un arbre lors de la lecture de la séquence. Le modèle apprend à créer des connexions de saut adaptatives, ce qui facilitent l'apprentissage des dépendances à long terme en construisant des cellules récurrentes de manière récursive. L’entraînement du réseau peut être fait soit par entraînement supervisée en donnant des structures d’arbres dorés, soit par apprentissage par renforcement. Nous proposons des expériences préliminaires dans 3 tâches différentes: une nouvelle tâche d'évaluation de l'expression mathématique (MEE), une tâche bien connue de la logique propositionnelle et des tâches de modélisation du langage. Les résultats expérimentaux montrent le potentiel de l'approche proposée. Dans le quatrième article, nous proposons une nouvelle méthode d’analyse par circonscription utilisant les réseaux de neurones. Le modèle prédit la structure de l'arbre d'analyse en prédisant un scalaire à valeur réelle, soit la distance syntaxique, pour chaque position de division dans la phrase d'entrée. L'ordre des valeurs relatives de ces distances syntaxiques détermine ensuite la structure de l'arbre d'analyse en spécifiant l'ordre dans lequel les points de division seront sélectionnés, en partitionnant l'entrée de manière récursive et descendante. L’approche proposée obtient une performance compétitive sur le jeu de données Penn Treebank et réalise l’état de l’art sur le jeu de données Chinese Treebank. / This thesis by article consists of four articles which contribute to the field of deep learning, specifically in the acceleration of training through low-precision networks, and the application of deep neural networks on natural language processing. In the first article, we investigate a neural network training scheme that eliminates most of the floating-point multiplications. This approach consists of binarizing or ternarizing the weights in the forward propagation and quantizing the hidden states in the backward propagation, which converts multiplications to sign changes and binary shifts. Experimental results on datasets from small to medium size show that this approach result in even better performance than standard stochastic gradient descent training, paving the way to fast, hardware-friendly training of neural networks. In the second article, we proposed a structured self-attentive sentence embedding that extracts interpretable sentence representations in matrix form. We demonstrate improvements on 3 different tasks: author profiling, sentiment classification and textual entailment. Experimental results show that our model yields a significant performance gain compared to other sentence embedding methods in all of the 3 tasks. In the third article, we propose a hierarchical model with dynamical computation graph for sequential data that learns to construct a tree while reading the sequence. The model learns to create adaptive skip-connections that ease the learning of long-term dependencies through constructing recurrent cells in a recursive manner. The training of the network can either be supervised training by giving golden tree structures, or through reinforcement learning. We provide preliminary experiments in 3 different tasks: a novel Math Expression Evaluation (MEE) task, a well-known propositional logic task, and language modelling tasks. Experimental results show the potential of the proposed approach. In the fourth article, we propose a novel constituency parsing method with neural networks. The model predicts the parse tree structure by predicting a real valued scalar, named syntactic distance, for each split position in the input sentence. The order of the relative values of these syntactic distances then determine the parse tree structure by specifying the order in which the split points will be selected, recursively partitioning the input, in a top-down fashion. Our proposed approach was demonstrated with competitive performance on Penn Treebank dataset, and the state-of-the-art performance on Chinese Treebank dataset.