Application of TensorFlow lite on embedded devices : A hands-on practice of TensorFlow model conversion to TensorFlow Lite model and its deployment on Smartphone to compare model’s performance

Rapporten beskriver processutvecklingen av integration inom smart-enheter och gör jämförelse med de traditionella datormodeller som exempelvis TensorFlow. Maskininlärning är ett område som för närvarande observeras av många människor på grund av dess anmärkningsvärda önskan inom olika intelligenta områden som datorseende, naturlig språkbehandling, föreslagna datorsystem, etcetera. Problem med utdata och tidsserier. Resursbegränsningen av smart-enheter gör det svårt att uppfatta olika aktiviteter som helt annorlunda än en stor process. En rekommenderad användarvänlig process för att utföra design, utveckling, utvärdering och leverans av maskininlärning-modeller för resurs begränsade inbäddade enheter. TensorFlow och TensorFlow Lite valdes ut för att utföra examensarbetet som tillhandahåller arbetsflödet för en maskininlärning-modell designad för en dator, bärbar dator eller en komprimerad och optimerad version av samma modell integrerad på en enda enhet har begränsade resurser. Modellerna jämförs och resultaten erhålls. Resultatet det visar sig att TensorFlow Lite-modellen är extremt starkt integrerad med maskininlärning i inbyggda enheter Lagringen av den utvecklade modell filen, tid det tog för att förutsäga värdet jämfördes. Resultaten visade att TensorFlow Lite-modellen var korrekt i jämförelse med basmodellen, då storleken på TensorFlow Lite var 60 % mindre än basstorleken och responstid för TensorFlow Lite-modellen var 70 % mindre än basmodellen. Detta visar att det finns en möjlighet att integrera maskininlärning i enheter med den process som föreslås i avhandlingen. Slutligen är modellen gjord på en Android-smartphone, dess praktiska funktionalitet och genomförbarhet har visat. Ramverket har ett unikt och pålitligt tillvägagångssätt, vilket ger flexibilitet samtidigt som det klarar utmaningen att integrera i Android-enheter. / The thesis describes development of Machine learning (ML) integration procedure in smartphone and provides a comparison with the traditional computer models like TensorFlow. Machine learning is a field that promotes a lot of observation in the current era due to its notable desire in various Intelligent applications such as computer vision, natural language processing, recommendation systems, and time series problems. The limitation of resources on a smartphone makes it challenging to apprehend varied completely different activities with high precision. A user-friendly procedure is proposed to perform the designing, development, evaluation and deployment of Machine learning models for embedded devices with limited resources. TensorFlow (TF) and TensorFlow lite (TF Lite) were selected to perform the task. The thesis provides the procedure of a base Machine learning model designed for a computer, laptop or a machine to a compressed and optimized version of the same model for integration on a device with limited resources. The models were compared, and results were obtained. It was found that the TensorFlow lite model is extremely favorable for Machine learning integration in embedded devices. The storage of the developed model file and the time taken for the prediction of the value was compared. The results showed that the TensorFlow lite model was as accurate as the basic model, the size of the TensorFlow lite model was 60% less than the size of the base model and the response time of the TensorFlow lite model was 70% less than the base model. This showed that the Machine learning integration to the embedded devices is promising with the procedure proposed in the thesis. Finally, the model was deployed in the android smart phone and its practicality and feasibility of use was showed. The framework adopts a unique and reliable approach that provides flexibility while passing the challenge of Machine learning integrated in the android device.

Identiferoai:union.ndltd.org:UPSALLA1/oai:DiVA.org:miun-46160
Date January 2022
CreatorsRashidi, Mitra
PublisherMittuniversitetet, Institutionen för informationssystem och –teknologi
Source SetsDiVA Archive at Upsalla University
LanguageEnglish
Detected LanguageSwedish
TypeStudent thesis, info:eu-repo/semantics/bachelorThesis, text
Formatapplication/pdf
Rightsinfo:eu-repo/semantics/openAccess

Page generated in 0.0036 seconds