{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:3417760"},"canonical_url":"https://search.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:3417760","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"gpuFI-4++: Assessing the Soft Error Vulnerability of Instruction Caches in Nvidia GPUs through Fault Injection","abstract":"Οι κάρτες γραφικών (GPU) είναι προγραμματιζόμενοι επεξεργαστές που χρησιμοποιού- νται εκτενώς στην εκτέλεση εγγενώς παραλλήλων προγραμμάτων, όπως η επεξεργασία γραφικών, προσφέροντας τους αξιοσημείωτη επιτάχυνση. Σε αντίθεση με την επεξερ- γασία γραφικών, η εκτέλεση προγραμμάτων γενικού σκοπού σε κάρτες γραφικών θέτει αυστηρότερες απαιτήσεις, κάνοντας την ακριβή εκτίμηση της αξιοπιστίας του υλικού των καρτών γραφικών πολύ σημαντική για τη λήψη αποφάσεων σχετικά με την προστασία τους από σφάλματα. Το gpuFI-4 είναι ένα λεπτομερές πλαίσιο εργασίας επιπέδου μικροαρχιτεκτονικής που επι- τρέπει την εισαγωγή σφαλμάτων. Το gpuFI-4 έχει υλοποιηθεί ως επέκταση του GPGPU- Sim, ενός προσομοιωτή εκτέλεσης προγραμμάτων CUDA και OpenCL σε κάρτες γραφι- κών NVIDIA, και επιτρέπει την προσομοίωση σφαλμάτων υλικού σε πολλά από τα επίπεδα της ιεραρχίας μνημών μιας κάρτας γραφικών. Ωστόσο, δεν καλύπτει της κρυφές μνήμες εντολών, οι οποίες επηρεάζουν σημαντικά την αξιοπιστία μιας κάρτας γραφικών. Ο βασικός σκοπός αυτής της διατριβής είναι η επέκταση του gpuFI-4, προκειμένου να υποστηρίζει την εισαγωγή σφαλμάτων και στις κρυφές μνήμες εντολών. Αυτό το πετυ- χαίνουμε με τη χρήση υπαρχόντων εργαλείων, τα οποία ενσωματώσαμε στο gpuFI-4. Ε- πίσης, εισάγουμε τη δυνατότητα διαφοροποίησης των εντολών που προέρχονται από το MSHR της κρυφής μνήμης, ώστε να μη λαμβάνονται υπόψιν, όπως και τη δυνατότητα εντοπισμού λανθασμένων επιτυχιών (cache hits) κρυφών μνημών εντολών, που προέρ- χονται από σφάλματα στο κομμάτι της ετικέτας (tag) μιας γραμμής κρυφής μνήμης. Τέλος, ενημερώνουμε το gpuFI-4, χρησιμοποιώντας την έκδοση 4.2.0 του GPGPU-Sim, και ανα- διοργανώνουμε τη δομή των αρχείων εκτέλεσης εκστρατειών εισαγωγής σφαλμάτων. Για την αξιολόγηση του εκτεταμένου gpuFI-4, εκτελούμε πολλαπλές εκστρατείες εισαγω- γής σφαλμάτων στην κρυφή μνήμη εντολών διαφόρων καρτών γραφικών, με τη χρήση της σουίτας προγραμμάτων Rodinia. Τα αποτελέσματα μάς επιτρέπουν να υπολογίσουμε το μέγεθος των Αποτυχιών στο χρόνο (Failures In Time) για την κάθε κάρτα. Βάσει των αποτελεσμάτων, καταλήγουμε στο συμπέρασμα ότι μεγαλύτερες κρυφές μνήμες εντολών ανά Streaming Multiprocessor δε συνεπάγεται μεγαλύτερη ανθεκτικότητα σε σφάλματα. Αντιθέτως, μεγαλύτερος αριθμός Streaming Multiprocessors φαίνεται να οδηγεί σε μεγα- λύτερες τιμές FIT. Τέλος, νεότερες τεχνολογίες κατασκευής φαίνεται να επιδεικνύουν με- γαλύτερη αντοχή σε σφάλματα της κρυφής μνήμης εντολών.","abstract_html":"Οι κάρτες γραφικών (GPU) είναι προγραμματιζόμενοι επεξεργαστές που χρησιμοποιού- νται εκτενώς στην εκτέλεση εγγενώς παραλλήλων προγραμμάτων, όπως η επεξεργασία γραφικών, προσφέροντας τους αξιοσημείωτη επιτάχυνση. Σε αντίθεση με την επεξερ- γασία γραφικών, η εκτέλεση προγραμμάτων γενικού σκοπού σε κάρτες γραφικών θέτει αυστηρότερες απαιτήσεις, κάνοντας την ακριβή εκτίμηση της αξιοπιστίας του υλικού των καρτών γραφικών πολύ σημαντική για τη λήψη αποφάσεων σχετικά με την προστασία τους από σφάλματα. Το gpuFI-4 είναι ένα λεπτομερές πλαίσιο εργασίας επιπέδου μικροαρχιτεκτονικής που επι- τρέπει την εισαγωγή σφαλμάτων. Το gpuFI-4 έχει υλοποιηθεί ως επέκταση του GPGPU- Sim, ενός προσομοιωτή εκτέλεσης προγραμμάτων CUDA και OpenCL σε κάρτες γραφι- κών NVIDIA, και επιτρέπει την προσομοίωση σφαλμάτων υλικού σε πολλά από τα επίπεδα της ιεραρχίας μνημών μιας κάρτας γραφικών. Ωστόσο, δεν καλύπτει της κρυφές μνήμες εντολών, οι οποίες επηρεάζουν σημαντικά την αξιοπιστία μιας κάρτας γραφικών. Ο βασικός σκοπός αυτής της διατριβής είναι η επέκταση του gpuFI-4, προκειμένου να υποστηρίζει την εισαγωγή σφαλμάτων και στις κρυφές μνήμες εντολών. Αυτό το πετυ- χαίνουμε με τη χρήση υπαρχόντων εργαλείων, τα οποία ενσωματώσαμε στο gpuFI-4. Ε- πίσης, εισάγουμε τη δυνατότητα διαφοροποίησης των εντολών που προέρχονται από το MSHR της κρυφής μνήμης, ώστε να μη λαμβάνονται υπόψιν, όπως και τη δυνατότητα εντοπισμού λανθασμένων επιτυχιών (cache hits) κρυφών μνημών εντολών, που προέρ- χονται από σφάλματα στο κομμάτι της ετικέτας (tag) μιας γραμμής κρυφής μνήμης. Τέλος, ενημερώνουμε το gpuFI-4, χρησιμοποιώντας την έκδοση 4.2.0 του GPGPU-Sim, και ανα- διοργανώνουμε τη δομή των αρχείων εκτέλεσης εκστρατειών εισαγωγής σφαλμάτων. Για την αξιολόγηση του εκτεταμένου gpuFI-4, εκτελούμε πολλαπλές εκστρατείες εισαγω- γής σφαλμάτων στην κρυφή μνήμη εντολών διαφόρων καρτών γραφικών, με τη χρήση της σουίτας προγραμμάτων Rodinia. Τα αποτελέσματα μάς επιτρέπουν να υπολογίσουμε το μέγεθος των Αποτυχιών στο χρόνο (Failures In Time) για την κάθε κάρτα. Βάσει των αποτελεσμάτων, καταλήγουμε στο συμπέρασμα ότι μεγαλύτερες κρυφές μνήμες εντολών ανά Streaming Multiprocessor δε συνεπάγεται μεγαλύτερη ανθεκτικότητα σε σφάλματα. Αντιθέτως, μεγαλύτερος αριθμός Streaming Multiprocessors φαίνεται να οδηγεί σε μεγα- λύτερες τιμές FIT. Τέλος, νεότερες τεχνολογίες κατασκευής φαίνεται να επιδεικνύουν με- γαλύτερη αντοχή σε σφάλματα της κρυφής μνήμης εντολών.","abstract_has_math":false,"creators":["Παπαγιάννης Δημήτριος","Papagiannis Dimitrios"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2024,"date_issued":"2024","date_published":"2024","updated_at":"2026-11-19T06:30:24Z","subjects":["Τεχνολογία – Πληροφορική","Technology - Computer science"],"languages":["English"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:3417760"],"render_values":[{"text":"uoadl:3417760","href":null,"code":true}]}],"person_identifier_entries":[]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/3417760","outbound_label":"Repository record","outbound_source":"dc:identifier","record_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/3417760","record_label":"Repository record","record_kind":"record","record_source":"dc:identifier","download_url":null,"download_label":null,"download_source":null,"access_status":null,"embargo_until":null,"access_note":null},"source_record":{"url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh?verb=GetRecord&metadataPrefix=oai_dc&identifier=oai%3Alib.uoa.gr%3Auoadl%3A3417760","prefix":"oai_dc"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["Παπαγιάννης Δημήτριος","Papagiannis Dimitrios"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2024"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Τεχνολογία – Πληροφορική","Technology - Computer science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["English"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:3417760","https://pergamos.lib.uoa.gr/uoa/dl/object/3417760"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Οι κάρτες γραφικών (GPU) είναι προγραμματιζόμενοι επεξεργαστές που χρησιμοποιού- νται εκτενώς στην εκτέλεση εγγενώς παραλλήλων προγραμμάτων, όπως η επεξεργασία γραφικών, προσφέροντας τους αξιοσημείωτη επιτάχυνση. Σε αντίθεση με την επεξερ- γασία γραφικών, η εκτέλεση προγραμμάτων γενικού σκοπού σε κάρτες γραφικών θέτει αυστηρότερες απαιτήσεις, κάνοντας την ακριβή εκτίμηση της αξιοπιστίας του υλικού των καρτών γραφικών πολύ σημαντική για τη λήψη αποφάσεων σχετικά με την προστασία τους από σφάλματα. Το gpuFI-4 είναι ένα λεπτομερές πλαίσιο εργασίας επιπέδου μικροαρχιτεκτονικής που επι- τρέπει την εισαγωγή σφαλμάτων. Το gpuFI-4 έχει υλοποιηθεί ως επέκταση του GPGPU- Sim, ενός προσομοιωτή εκτέλεσης προγραμμάτων CUDA και OpenCL σε κάρτες γραφι- κών NVIDIA, και επιτρέπει την προσομοίωση σφαλμάτων υλικού σε πολλά από τα επίπεδα της ιεραρχίας μνημών μιας κάρτας γραφικών. Ωστόσο, δεν καλύπτει της κρυφές μνήμες εντολών, οι οποίες επηρεάζουν σημαντικά την αξιοπιστία μιας κάρτας γραφικών. Ο βασικός σκοπός αυτής της διατριβής είναι η επέκταση του gpuFI-4, προκειμένου να υποστηρίζει την εισαγωγή σφαλμάτων και στις κρυφές μνήμες εντολών. Αυτό το πετυ- χαίνουμε με τη χρήση υπαρχόντων εργαλείων, τα οποία ενσωματώσαμε στο gpuFI-4. Ε- πίσης, εισάγουμε τη δυνατότητα διαφοροποίησης των εντολών που προέρχονται από το MSHR της κρυφής μνήμης, ώστε να μη λαμβάνονται υπόψιν, όπως και τη δυνατότητα εντοπισμού λανθασμένων επιτυχιών (cache hits) κρυφών μνημών εντολών, που προέρ- χονται από σφάλματα στο κομμάτι της ετικέτας (tag) μιας γραμμής κρυφής μνήμης. Τέλος, ενημερώνουμε το gpuFI-4, χρησιμοποιώντας την έκδοση 4.2.0 του GPGPU-Sim, και ανα- διοργανώνουμε τη δομή των αρχείων εκτέλεσης εκστρατειών εισαγωγής σφαλμάτων. Για την αξιολόγηση του εκτεταμένου gpuFI-4, εκτελούμε πολλαπλές εκστρατείες εισαγω- γής σφαλμάτων στην κρυφή μνήμη εντολών διαφόρων καρτών γραφικών, με τη χρήση της σουίτας προγραμμάτων Rodinia. Τα αποτελέσματα μάς επιτρέπουν να υπολογίσουμε το μέγεθος των Αποτυχιών στο χρόνο (Failures In Time) για την κάθε κάρτα. Βάσει των αποτελεσμάτων, καταλήγουμε στο συμπέρασμα ότι μεγαλύτερες κρυφές μνήμες εντολών ανά Streaming Multiprocessor δε συνεπάγεται μεγαλύτερη ανθεκτικότητα σε σφάλματα. Αντιθέτως, μεγαλύτερος αριθμός Streaming Multiprocessors φαίνεται να οδηγεί σε μεγα- λύτερες τιμές FIT. Τέλος, νεότερες τεχνολογίες κατασκευής φαίνεται να επιδεικνύουν με- γαλύτερη αντοχή σε σφάλματα της κρυφής μνήμης εντολών.","Modern manycore Graphics Processing Units (GPUs) are extensively employed in general- purpose computing, offering a remarkable execution speedup to inherently data parallel workloads. Unlike graphics computing, general-purpose computing on GPUs has, in prin- ciple, more stringent reliability requirements. Thus, accurate reliability assessment of GPU hardware structures is important for making informed decisions for error protection. gpuFI-4 is a detailed microarchitecture-level fault injection framework that has been re- cently proposed. gpuFI-4 is built on top of GPGPU-Sim, a cycle-level simulator that mod- els the execution of CUDA or OpenCL programs on Nvidia GPUs. gpuFI-4 simulates soft errors during the execution of CUDA programs to assess the cross-layer vulnerability of GPU hardware structures and covers most of the GPU memory hierarchy. However, the original version of gpuFI-4 does not support assessing the vulnerability of the L1 Instruc- tion caches. The instruction caches play a crucial role in the execution pipeline and any soft errors that occur in them may have serious implications in the system vulnerability and can produce erroneous program executions. While soft error simulation in data caches and global memory can provide a good estimation of the vulnerability of CUDA programs’ execution on Nvidia GPUs, the instruction caches also need to be considered in order to comprehensively and accurately assess the vulnerability of the entire processor. The main goal of this thesis is to extend gpuFI-4’s functionality to L1 Instruction Caches. We achieve this goal by extending the bitflip injection support of gpuFI-4 to target any bit in any of the simulated L1 Instruction caches. To differentiate data arriving from the L1 Instruction cache or the cache’s MSHR, we implement extra checks, and also introduce options to enable them. Moreover, we add detection of L1 Instruction cache tag bitflips which lead to a cache hit. We overcome implementation challenges that were faced in the original gpuFI-4 tool, by leveraging readily available tools which we integrate into gpuFI-4. We implement the missing support for L1 Instruction caches after rebasing the original gpuFI-4 implementation on top of GPGPU-Sim 4.2.0, benefitting from the latest develop- ment efforts in the GPGPU-Sim simulator. Finally, we refactor the gpuFI-4 bash scripts that are responsible for running the injection campaigns to make them usable with the least possible user interaction, while still remaining configurable. To evaluate the implemented gpuFI-4 extension, we run multiple L1 Instruction cache in- jection campaigns, using several GPU configurations and the Rodinia benchmarks. Based on the results, we calculate the Failures In Time rate for each GPU configuration’s L1 In- struction cache and benchmark. Our evaluation analysis shows that larger L1 Instruction cache sizes per Streaming Multiprocessor does not seem to display greater resilience to L1 Instruction cache single-bit faults. In contrast, the total number of Streaming Multipro- cessors seems to directly affect it, with more SMs leading to proportionally larger Failures In Time rates. Fabrication technology plays a significant role in our results, with newer technologies showing lower L1I cache soft error vulnerability."]},{"key":"dc:title","label":"Title","values":["gpuFI-4++: Assessing the Soft Error Vulnerability of Instruction Caches in Nvidia GPUs through Fault Injection"]}]}],"canonical_facts":{"dc:creator":["Παπαγιάννης Δημήτριος","Papagiannis Dimitrios"],"dc:date":["2024"],"dc:description":["Οι κάρτες γραφικών (GPU) είναι προγραμματιζόμενοι επεξεργαστές που χρησιμοποιού- νται εκτενώς στην εκτέλεση εγγενώς παραλλήλων προγραμμάτων, όπως η επεξεργασία γραφικών, προσφέροντας τους αξιοσημείωτη επιτάχυνση. Σε αντίθεση με την επεξερ- γασία γραφικών, η εκτέλεση προγραμμάτων γενικού σκοπού σε κάρτες γραφικών θέτει αυστηρότερες απαιτήσεις, κάνοντας την ακριβή εκτίμηση της αξιοπιστίας του υλικού των καρτών γραφικών πολύ σημαντική για τη λήψη αποφάσεων σχετικά με την προστασία τους από σφάλματα. Το gpuFI-4 είναι ένα λεπτομερές πλαίσιο εργασίας επιπέδου μικροαρχιτεκτονικής που επι- τρέπει την εισαγωγή σφαλμάτων. Το gpuFI-4 έχει υλοποιηθεί ως επέκταση του GPGPU- Sim, ενός προσομοιωτή εκτέλεσης προγραμμάτων CUDA και OpenCL σε κάρτες γραφι- κών NVIDIA, και επιτρέπει την προσομοίωση σφαλμάτων υλικού σε πολλά από τα επίπεδα της ιεραρχίας μνημών μιας κάρτας γραφικών. Ωστόσο, δεν καλύπτει της κρυφές μνήμες εντολών, οι οποίες επηρεάζουν σημαντικά την αξιοπιστία μιας κάρτας γραφικών. Ο βασικός σκοπός αυτής της διατριβής είναι η επέκταση του gpuFI-4, προκειμένου να υποστηρίζει την εισαγωγή σφαλμάτων και στις κρυφές μνήμες εντολών. Αυτό το πετυ- χαίνουμε με τη χρήση υπαρχόντων εργαλείων, τα οποία ενσωματώσαμε στο gpuFI-4. Ε- πίσης, εισάγουμε τη δυνατότητα διαφοροποίησης των εντολών που προέρχονται από το MSHR της κρυφής μνήμης, ώστε να μη λαμβάνονται υπόψιν, όπως και τη δυνατότητα εντοπισμού λανθασμένων επιτυχιών (cache hits) κρυφών μνημών εντολών, που προέρ- χονται από σφάλματα στο κομμάτι της ετικέτας (tag) μιας γραμμής κρυφής μνήμης. Τέλος, ενημερώνουμε το gpuFI-4, χρησιμοποιώντας την έκδοση 4.2.0 του GPGPU-Sim, και ανα- διοργανώνουμε τη δομή των αρχείων εκτέλεσης εκστρατειών εισαγωγής σφαλμάτων. Για την αξιολόγηση του εκτεταμένου gpuFI-4, εκτελούμε πολλαπλές εκστρατείες εισαγω- γής σφαλμάτων στην κρυφή μνήμη εντολών διαφόρων καρτών γραφικών, με τη χρήση της σουίτας προγραμμάτων Rodinia. Τα αποτελέσματα μάς επιτρέπουν να υπολογίσουμε το μέγεθος των Αποτυχιών στο χρόνο (Failures In Time) για την κάθε κάρτα. Βάσει των αποτελεσμάτων, καταλήγουμε στο συμπέρασμα ότι μεγαλύτερες κρυφές μνήμες εντολών ανά Streaming Multiprocessor δε συνεπάγεται μεγαλύτερη ανθεκτικότητα σε σφάλματα. Αντιθέτως, μεγαλύτερος αριθμός Streaming Multiprocessors φαίνεται να οδηγεί σε μεγα- λύτερες τιμές FIT. Τέλος, νεότερες τεχνολογίες κατασκευής φαίνεται να επιδεικνύουν με- γαλύτερη αντοχή σε σφάλματα της κρυφής μνήμης εντολών.","Modern manycore Graphics Processing Units (GPUs) are extensively employed in general- purpose computing, offering a remarkable execution speedup to inherently data parallel workloads. Unlike graphics computing, general-purpose computing on GPUs has, in prin- ciple, more stringent reliability requirements. Thus, accurate reliability assessment of GPU hardware structures is important for making informed decisions for error protection. gpuFI-4 is a detailed microarchitecture-level fault injection framework that has been re- cently proposed. gpuFI-4 is built on top of GPGPU-Sim, a cycle-level simulator that mod- els the execution of CUDA or OpenCL programs on Nvidia GPUs. gpuFI-4 simulates soft errors during the execution of CUDA programs to assess the cross-layer vulnerability of GPU hardware structures and covers most of the GPU memory hierarchy. However, the original version of gpuFI-4 does not support assessing the vulnerability of the L1 Instruc- tion caches. The instruction caches play a crucial role in the execution pipeline and any soft errors that occur in them may have serious implications in the system vulnerability and can produce erroneous program executions. While soft error simulation in data caches and global memory can provide a good estimation of the vulnerability of CUDA programs’ execution on Nvidia GPUs, the instruction caches also need to be considered in order to comprehensively and accurately assess the vulnerability of the entire processor. The main goal of this thesis is to extend gpuFI-4’s functionality to L1 Instruction Caches. We achieve this goal by extending the bitflip injection support of gpuFI-4 to target any bit in any of the simulated L1 Instruction caches. To differentiate data arriving from the L1 Instruction cache or the cache’s MSHR, we implement extra checks, and also introduce options to enable them. Moreover, we add detection of L1 Instruction cache tag bitflips which lead to a cache hit. We overcome implementation challenges that were faced in the original gpuFI-4 tool, by leveraging readily available tools which we integrate into gpuFI-4. We implement the missing support for L1 Instruction caches after rebasing the original gpuFI-4 implementation on top of GPGPU-Sim 4.2.0, benefitting from the latest develop- ment efforts in the GPGPU-Sim simulator. Finally, we refactor the gpuFI-4 bash scripts that are responsible for running the injection campaigns to make them usable with the least possible user interaction, while still remaining configurable. To evaluate the implemented gpuFI-4 extension, we run multiple L1 Instruction cache in- jection campaigns, using several GPU configurations and the Rodinia benchmarks. Based on the results, we calculate the Failures In Time rate for each GPU configuration’s L1 In- struction cache and benchmark. Our evaluation analysis shows that larger L1 Instruction cache sizes per Streaming Multiprocessor does not seem to display greater resilience to L1 Instruction cache single-bit faults. In contrast, the total number of Streaming Multipro- cessors seems to directly affect it, with more SMs leading to proportionally larger Failures In Time rates. Fabrication technology plays a significant role in our results, with newer technologies showing lower L1I cache soft error vulnerability."],"dc:identifier":["uoadl:3417760","https://pergamos.lib.uoa.gr/uoa/dl/object/3417760"],"dc:language":["English"],"dc:subject":["Τεχνολογία – Πληροφορική","Technology - Computer science"],"dc:title":["gpuFI-4++: Assessing the Soft Error Vulnerability of Instruction Caches in Nvidia GPUs through Fault Injection"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-11-19T06:30:24Z"}