Spelling suggestions: "subject:"reeneen""
1 |
Towards Green AI: Cost-Efficient Deep Learning using Domain KnowledgeSrivastava, Sangeeta 12 August 2022 (has links)
No description available.
|
2 |
Energy Consumption of Browser-based Creative AILund, Leonard, Blomkvist, Felix January 2022 (has links)
Creative AI in the music field has in recent years begun stepping out of the confines of academia and seen increased adoption among musicians thanks to developers launching consumer products powered by AI. These new tools are opening up new possibilities in music-making, but their increased use and development prompts inquiry regarding their sustainability. While studies have been conducted on the sustainability of training AI models, the sustainability of the usage of Creative AI remains largely unexplored. To amend this, this paper studies the energy consumption of using four music-related browser-based Creative AI tools. The four tools are Tone Transfer, Piano Scribe, MidiMe and Performance RNN, all developed by Google Magenta. The energy consumption of the tools was found by measuring the power provided to the computer. This was done by connecting a smart plug between the computer’s power cord and the wall socket. We found that Tone Transfer consumed the most energy per use with an average energy consumption of 392 J. MidiMe consumed the least energy per use with 138 J. All the tools consumed less energy per use than leaving the computer running in steady-state for 70 seconds. With this study, we have shown that the usage of music-related Creative AI tools does not represent a threat to sustainability goals. Our findings indicate that the tools studied in this paper manage to be efficient, while being both powerful and useful. This disputes the notion that there is a trade-off between performance and efficiency in the design of AI tools. We postulate that when developing tools for local use by consumers, developers are bound by limitations that force them to design efficient tools. / Kreativ AI inom musikområdet har under de senaste åren börjat ta sig ut ur den akademiska världens ramar och anammats i högre grad bland musiker. Detta tack vare att utvecklare börjat lanserat konsumentprodukter som drivs av AI. Dessa nya verktyg öppnar upp för nya möjligheter inom musikskapande, men deras ökade användning och utveckling föranleder undersökningar om deras hållbarhet. Även om studier har gjorts gällande hållbarheten av att träna AI-modeller, är hållbarheten av användningen av Kreativ AI fortfarande till stor del outforskat. För att ändra detta studerar vi i denna artikel energiförbrukningen av att använda fyra musikrelaterade webbläsarbaserade Kreativa AI-verktyg. De fyra verktygen är Tone Transfer, Piano Scribe, MidiMe och Performance RNN, alla utvecklade av Google Magenta. Verktygens energiförbrukning hittades genom att mäta effekten till datorn. Detta gjordes genom att ansluta en smart kontakt mellan datorns nätsladd och vägguttaget. Vi fann att Tone Transfer förbrukade mest energi per användning med en genomsnittlig energiförbrukning på 392 J. MidiMe förbrukade minst energi per användning med 138 J. Alla verktyg förbrukade mindre energi per användning än vad som konsumeras av att låta datorn vara igång i steady-state i 70 sekunder. Med denna studie har vi visat att användningen av musikrelaterade Kreativa AI-verktyg inte utgör ett hot mot hållbarhetsmål. Våra resultat tyder på att verktygen som studerats i denna artikel lyckas vara effektiva, samtidigt som de är både kraftfulla och användbara. Detta ifrågasätter uppfattningen om att det finns en avvägning mellan prestanda och effektivitet i utformningen av AI-verktyg. Vi anser att när utvecklare utvecklar verktyg för lokal användning av konsumenter är utvecklare bundna av begränsningar som tvingar dem att designa effektiva verktyg.
|
3 |
Deriving an Natural Language Processing inference Cost Model with Greenhouse Gas Accounting : Towards a sustainable usage of Machine Learning / Härledning av en Kostnadsmodell med växthusgasredovisning angående slutledning inom Naturlig Språkbehandling : Mot en hållbar användning av MaskininlärningAxberg, Tom January 2022 (has links)
The interest in using State-Of-The-Art (SOTA) Pre-Trained Language Model (PLM) in product development is growing. The fact that developers can use PLM has changed the way to build reliable models, and it is the go-to method for many companies and organizations. Selecting the Natural Language Processing (NLP) model with the highest accuracy is the usual way of deciding which PLM to use. However, with growing concerns about negative climate changes, we need new ways of making decisions that consider the impact on our future needs. The best solution with the highest accuracy might not be the best choice when other parameters matter, such as sustainable development. This thesis investigates how to calculate an approximate total cost considering Operating Expenditure (OPEX) and CO2~emissions for a deployed NLP solution over a given period, specifically the inference phase. We try to predict the total cost with Floating Point Operation (FLOP) and test NLP models on a classification task. We further present the tools to make energy measurements and examine the metric FLOP to predict costs. Using a bottom-up approach, we investigate the components that affect the cost and measure the energy consumption for different deployed models. By constructing this cost model and testing it against real-life examples, essential information about a given NLP implementation and the relationship between monetary and environmental costs will be derived. The literature studies reveal that the derival of a cost model is a complex area, and the results confirm that it is not a straightforward procedure to approximate energy costs. Even if a cost model was not feasible to derive with the resources given, this thesis covers the area and shows why it is complex by examine FLOP. / Intresset att använda State-Of-The-Art (SOTA) Pre-Trained Language Model (PLM) i produktutveckling växer. Det faktum att utvecklare kan använda PLM har förändrat sättet att träna tillförlitliga modeller på och det är den bästa metoden för många företag och organisationer att använda SOTA Naturlig Språkbehandling (NLP). Att välja NLP-modellen med högsta noggrannhet är det vanliga sättet att bestämma vilken PLM som ska användas. Men med växande oro för miljöförändringar behöver vi nya sätt att fatta beslut som kommer att påverka våra framtida behov. Denna avhandling undersöker hur man beräknar en ungefärlig totalkostnad med hänsyn till Operating Expenditure (OPEX) och CO2~utsläpp för en utplacerad NLP-lösning under en given period, dvs slutledningsfasen. Vi försöker förutspå den totala kostnaden med flyttalsoperationer och testar mot en klassificerings uppgift. Vi undersöker verktygen för att göra mätningar samt variabeln Flyttalsoperationer för att förutspå energiförbrukning.
|
4 |
Grön AI : En analys av maskininlärningsalgoritmers prestanda och energiförbrukningBerglin, Caroline, Ellström, Julia January 2024 (has links)
Trots de framsteg som gjorts inom artificiell intelligens (AI) och maskininlärning (ML), uppkommer utmaningar gällande deras miljöpåverkan. Fokuset på att skapa avancerade och träffsäkra modeller innebär ofta att omfattande beräkningsresurser krävs, vilket leder till en hög energiförbrukning. Syftet med detta arbete är att undersöka ämnet grön AI och sambandet mellan prestanda och energiförbrukning hos två ML-algoritmer. De algoritmer som undersöks är beslutsträd och stödvektormaskin (SVM), med hjälp av två dataset: Bank Marketing och MNIST. Prestandan mäts med utvärderingsmåtten noggrannhet, precision, recall och F1-poäng, medan energiförbrukningen mäts med verktyget Intel VTune Profiler. Arbetets resultat visar att en högre prestanda resulterade i en högre energiförbrukning, där SVM presterade bäst men också förbrukade mest energi i samtliga tester. Vidare visar resultatet att optimering av modellerna resulterade både i en förbättrad prestanda men också i en ökad energiförbrukning. Samma resultat kunde ses när ett större dataset användes. Arbetet anses inte bidra med resultat eller riktlinjer som går att generalisera till andra arbeten. Däremot bidrar arbetet med en förståelse och medvetenhet kring miljöaspekterna gällande AI, vilket kan användas som en grund för att undersöka ämnet vidare. Genom en ökad medvetenhet kan ett gemensamt ansvar tas för att utveckla AI-lösningar som inte bara är kraftfulla och effektiva, utan också hållbara. / Despite the advancements made in artificial intelligence (AI) and machine learning (ML), challenges regarding their environmental impact arise. The focus on creating advanced and accurate models often requires extensive computational resources, leading to a high energy consumption. The purpose of this work is to explore the topic of green AI and the relationship between performance and energy consumption of two ML algorithms. The algorithms being evaluated are decision trees and support vector machines (SVM), using two datasets: Bank Marketing and MNIST. Performance is measured using the evaluation metrics accuracy, precision, recall, and F1-score, while energy consumption is measured using the Intel VTune Profiler tool. The results show that higher performance resulted in higher energy consumption, with SVM performing the best but also consuming the most energy in all tests. Furthermore, the results show that optimizing the models resulted in both improved performance and increased energy consumption. The same results were observed when a larger dataset was used. This work is not considered to provide results or guidelines that can be generalized to other studies. However, it contributes to an understanding and awareness of the environmental aspects of AI, which can serve as a foundation for further exploration of the topic. Through increased awareness, shared responsibility can be taken to develop AI solutions that are not only powerful and efficient but also sustainable.
|
Page generated in 0.0249 seconds