Att träna neurala nätverk tar mycket tid och kan kräva extrema mängder data. Både träningstiden och mängden data som behövs kan minskas med transfer learning. I detta examensarbete studeras effekterna av transfer learning när ett neurala nätverk tränas på en liten datamängd. VGG16, MobileNeV3 och SqeezeNet används som förtränade modeller. Modellerna modifierades för att passa den nya datasetet. Ytterligare modifieringar gjordes för att testa om det kunde förbättra generaliseringen och minska träningstiden. Experimenten visade att transfer learning kan minska träningstiden och resulterade i modeller med bättre generalisering än slumpmässigt initialiserade modeller. Experimenten visade också att en modifierad version av SqeezeNet är den mest framgångsrika modellen. / Training neural networks takes a lot of time and can require extreme amounts of data. Both training time and the amount of data needed can be reduced with transfer learning. In this thesis the effects of transfer learning are studied when training a neural network on a small dataset. VGG16, MobileNeV3 and SqeezeNet are used as pre-trained models. The models were modified to fit the new dataset. Further modifications were made to test whether it could improve the generalization and reduced training time. The experiments showed that transfer learning can lead to shorter training time and resulted in models with better generalization than random initialized models. The experiments also showed that a modified version of SqeezeNet is the most successful model.
| Identifer | oai:union.ndltd.org:UPSALLA1/oai:DiVA.org:kth-325584 |
| Date | January 2023 |
| Creators | Jansson, Christoffer, Jansson, Johanna |
| Publisher | KTH, Skolan för elektroteknik och datavetenskap (EECS) |
| Source Sets | DiVA Archive at Upsalla University |
| Language | English |
| Detected Language | Swedish |
| Type | Student thesis, info:eu-repo/semantics/bachelorThesis, text |
| Format | application/pdf |
| Rights | info:eu-repo/semantics/openAccess |
| Relation | TRITA-EECS-EX ; 2023:43 |
Page generated in 0.0085 seconds