För att kunna förbättra processer och användning av det duplexa rostfria stålet SAF 2507 måste dess deformationsegenskaper undersökas och förklaras. Genom EBSD-analyser har deformationsstrukturer och polfgurer tagits fram för att kunna beskriva materialets beteende vid deformation. Även Taylorfaktorer, E-moduler och Poissons tal har tagits fram för att kunna undersöka materialets anisotropi. Experimenten har utförts på prov av SAF 2507 som har deformerats plastiskt till olika töjningar. Det som undersökts är odeformerat prov, prov som dragits enaxligt till 7,7 % och 24,3 % töjning, samt ett prov som är cykliskt belastat till 3 % töjning. Det undersökta stålet tillverkas genom två olika metoder, men i denna rapport har enbart det extruderade stålet undersökts. Genom att jämföra hur stålets olika mekaniska egenskaper beter sig under plastisk deformation har resultatet blivit att stålets ferritfas beter sig anisotropt med en antydan till ökande isotropi vid ökande deformation. Austenitfasen beter sig däremot isotropt och blir varken mer eller mindre isotropt vid ökande deformation. Substrukturerna i ferritfasen ökar tydligt vid ökande deformation, och ses framför allt i austenitfasen efter 24 % deformation. / In order to improve the processes and the use of the duplex stainless steel SAF 2507, its deformation properties has to be investigated and explained. Through EBSD-analysis deformation structures and pole figures have been developed to describe the behavior of the material during deformation. Also Taylor factors, Young’s modules and Poisson's ratio have been developed in order to investigate the material's anisotropy. The experiments have been performed on samples of SAF 2507 which has been plastically deformed at different strains. The strains studied are undeformed sample, samples drawn uniaxial drawn to 7.7 % and 24.3 % elongation, and one sample which is cyclically loaded to 3% elongation. The steel we have investigated is produced by two different methods, but in this report, only the extruded steel is investigated. By comparing how different mechanical properties of the steel behave during plastic deformation, the result shows that the steel’s ferrite phase behaves anisotropically with a hint of increasing isotropy when the deformation is increasing. The austenite phase behaves isotropic and does not become more or less isotropic with increasing deformation. The substructures in the ferrite phase are clearly increasing with increasing deformation, and are seen mainly in the austenite phase after 24 % deformation.

Recent studies show that the spatial distribution of the sentence representations generated from pre-trained language models is highly anisotropic, meaning that the representations are not uniformly distributed among the directions of the embedding space. Thus, the expressiveness of the embedding space is limited, as the embeddings are less distinguishable and less diverse. This results in a degradation in the performance of the models on the downstream task. Most methods that define the state-of-the-art in this area proceed by improving the isotropy of the sentence embeddings by refining the corresponding contextual word representations, then deriving the sentence embeddings from these refined representations. In this thesis, we propose to improve the quality and distribution of the sentence embeddings extracted from the [CLS] token of the pre-trained language models by improving the isotropy of the embeddings. We add one feed-forward layer, referred to as the Isotropy Layer, between the model and the downstream task layers. We train this layer using a novel joint loss function that optimizes an isotropy quality measure and the downstream task loss. This joint loss pushes the embeddings outputted by the Isotropy Layer to be more isotropic, and it also retains the semantics needed to perform the downstream task. The proposed approach results in transformed embeddings with better isotropy, that generalize better on the downstream task. Furthermore, the approach requires training one feed-forward layer, instead of retraining the whole network. We quantify and evaluate the isotropy through multiple metrics, mainly the Explained Variance and the IsoScore. Experimental results on 3 GLUE datasets with classification as the downstream task show that our proposed method is on par with the state-of-the-art, as it achieves performance gains of around 2-3% on the downstream tasks compared to the baseline. We also present a small case study on one language abuse detection dataset, then interpret some of the findings in light of the results. / Nya studier visar att den rumsliga fördelningen av de meningsrepresentationer som ge- nereras från förtränade språkmodeller är mycket anisotropisk, vilket innebär att representationerna mellan riktningarna i inbäddningsutrymmet inte är jämnt fördelade. Inbäddningsutrymmets uttrycksförmåga är således begränsad, eftersom inbäddningarna är mindre särskiljbara och mindre varierande. Detta leder till att modellernas prestanda försämras i nedströmsuppgiften. De flesta metoder som definierar den senaste tekniken på detta område går ut på att förbättra isotropin hos inbäddningarna av meningar genom att förädla motsvarande kontextuella ordrepresentationer och sedan härleda inbäddningarna av meningar från dessa förädlade representationer. I den här avhandlingen föreslår vi att kvaliteten och fördelningen av de inbäddningar av meningar som utvinns från [CLS]-tokenet i de förtränade språkmodellerna förbättras genom inbäddningarnas isotropi. Vi lägger till ett feed-forward-skikt, kallat det isotropa skiktet, mellan modellen och de nedströms liggande uppgiftsskikten. Detta lager tränas med hjälp av en ny gemensam förlustfunktion som optimerar ett kvalitetsmått för isotropi och förlusten av nedströmsuppgiften. Den gemensamma förlusten resulterar i att de inbäddningar som produceras av det isotropa lagret blir mer isotropa, samtidigt som den semantik som behövs för att utföra den nedströms liggande uppgiften bibehålls. Det föreslagna tillvägagångssättet resulterar i transformerade inbäddningar med bättre isotropi, som generaliseras bättre för den efterföljande uppgiften. Dessutom kräver tillvägagångssättet träning av ett feed-forward-skikt, i stället för omskolning av hela nätverket. Vi kvantifierar och utvärderar isotropin med hjälp av flera mått, främst Förklarad Varians och IsoScore. Experimentella resultat på tre GLUE-dataset visar att vår föreslagna metod är likvärdig med den senaste tekniken, eftersom den uppnår prestandaökningar på cirka 2-3 % på nedströmsuppgifterna jämfört med baslinjen. Vi presenterar även en liten fallstudie på ett dataset för upptäckt av språkmissbruk och tolkar sedan några av resultaten mot bakgrund av dessa.