In this thesis, we review some applications of random matrix theory in machine learning and theoretical deep learning. More specifically, we review data modelling in the regime of numerous and large dimensional data, a method for estimating covariance matrix distances in the aforementioned regime, as well as an asymptotic analysis of a simple neural network model in the limit where the number of neurons is large and the data is both numerous and large dimensional. We also review some recent research where random matrix models and methods have been applied to Hessian matrices of neural networks with interesting results. As becomes apparent, random matrix theory is a useful tool for various machine learning applications and it is a fruitful field of mathematics toexplore, in particular, in the context of theoretical deep learning. / I denna uppsatsen undersöker vi några tillämpningar av slumpmatristeori inom maskininlärning och teoretisk djupinlärning. Mer specifikt undersöker vi datamodellering i domänet där både datamängden och dimensionen på datan är stor, en metod för att uppskatta avstånd mellan kovariansmatriser i det tidigare nämnda domänet, samt en asymptotisk analys av en enkel neuronnätsmodell i gränsen där antalet neuroner är stort och både datamängden och dimensionen pådatan är stor. Vi undersöker också en del aktuell forskning där slumpmatrismodeller och metoder från slumpmatristeorin har tillämpats på Hessianska matriserför artificiella neuronnätverk med intressanta resultat. Det visar sig att slumpmatristeori är ett användbart verktyg för olika maskininlärningstillämpningaroch är ett område av matematik som är särskilt givande att utforska inom kontexten för teoretisk djupinlärning.
| Identifer | oai:union.ndltd.org:UPSALLA1/oai:DiVA.org:kth-342449 |
| Date | January 2023 |
| Creators | Leopold, Lina |
| Publisher | KTH, Matematik (Avd.) |
| Source Sets | DiVA Archive at Upsalla University |
| Language | English |
| Detected Language | Swedish |
| Type | Student thesis, info:eu-repo/semantics/bachelorThesis, text |
| Format | application/pdf |
| Rights | info:eu-repo/semantics/openAccess |
| Relation | TRITA-SCI-GRU ; 2023:408 |
Page generated in 0.0019 seconds