{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:5452272"},"canonical_url":"https://search.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:5452272","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"Privacy-Preserving Federated SHAP Explanations of Clinical Prediction Models","abstract":"Το ενδιαφέρον για μοντέλα μηχανικής μάθησης που αναπτύσσονται από κοινού από πολ- λούς οργανισμούς, όπως νοσοκομεία, τράπεζες ή δημόσιοι φορείς, οι οποίοι δεν μπορούν να μοιραστούν τα δεδομένα τους, αυξάνεται συνεχώς. Οι χρήστες αυτών των μοντέλων χρειάζεται να κατανοούν τι καθορίζει τις προβλέψεις τους. Οι τιμές SHAP είναι μια ευρέ- ως γνωστή μέθοδος για την επεξήγηση αυτών των προβλέψεων, καθώς δείχνουν πόσο συνεισφέρει κάθε χαρακτηριστικό σε αυτές. Οι επεξηγήσεις αυτές όμως υπολογίζονται α- πό τα δεδομένα, και προηγούμενες μελέτες έχουν δείξει ότι μπορούν να τα διαρρεύσουν. Η εργασία αυτή αναλύει τη διαρροή ιδιωτικότητας των επεξηγήσεων SHAP που μοιρά- ζονται μεταξύ των οργανισμών. Δείχνουμε ότι οι τιμές SHAP μπορούν να αποκαλύψουν χαρακτηριστικά των δεδομένων του εκάστοτε οργανισμού, και ότι η απόκρυψή τους με ασφαλή πολυμερή υπολογισμό (SMPC) δεν τα προστατεύει πλήρως. Προτείνουμε έναν τρόπο για ασφαλή κοινοποίηση επεξηγήσεων. Οι οργανισμοί συνδυάζουν τις τιμές SHAP τους μέσα στον SMPC και προσθέτουν θόρυβο διαφορικής ιδιωτικότητας (DP) πριν δημο- σιευτεί οτιδήποτε, ώστε κάθε μεμονωμένη εγγραφή να προστατεύεται. Δεδομένου ότι οι χρήστες συχνά ενδιαφέρονται μόνο για τα λίγα χαρακτηριστικά που μετράνε περισσότερο, συγκρίνουμε δύο τρόπους ιδιωτικής δημοσίευσής τους και δίνουμε έναν απλό κανόνα που επιλέγει εκ των προτέρων την πιο ακριβή μέθοδο, μόνο από το δημόσιο μοντέλο και χωρίς επιπλέον κόστος ιδιωτικότητας. Αξιολογούμε την προσέγγισή μας σε συνθετικά δεδομένα και σε περίπου 63.000 πραγματικούς ασθενείς από 130 νοσοκομεία της Αμερικής. Όταν χρησιμοποιείται μόνο SMPC, μια επίθεση ανακτά τα δεδομένα ενός ασθενή σε κάθε δοκι- μή, όμως μόλις προστεθεί θόρυβος DP η ακρίβειά της μειώνεται στο επίπεδο της τυχαίας μαντεψιάς (50%). Σε αυτό το επίπεδο ιδιωτικότητας, τουλάχιστον το 99% των σημαντικό- τερων χαρακτηριστικών που δημοσιεύονται είναι τα πραγματικά. Αν και τα πειράματά μας προέρχονται από τον τομέα της υγείας, η προσέγγιση ισχύει για κάθε γραμμικό μοντέλο που μπορεί να χρησιμοποιηθεί από τους οργανισμούς. Η κοινοποίηση των επεξηγήσεων και η προστασία της ιδιωτικότητας δεν χρειάζεται να συγκρούονται.","abstract_html":"Το ενδιαφέρον για μοντέλα μηχανικής μάθησης που αναπτύσσονται από κοινού από πολ- λούς οργανισμούς, όπως νοσοκομεία, τράπεζες ή δημόσιοι φορείς, οι οποίοι δεν μπορούν να μοιραστούν τα δεδομένα τους, αυξάνεται συνεχώς. Οι χρήστες αυτών των μοντέλων χρειάζεται να κατανοούν τι καθορίζει τις προβλέψεις τους. Οι τιμές SHAP είναι μια ευρέ- ως γνωστή μέθοδος για την επεξήγηση αυτών των προβλέψεων, καθώς δείχνουν πόσο συνεισφέρει κάθε χαρακτηριστικό σε αυτές. Οι επεξηγήσεις αυτές όμως υπολογίζονται α- πό τα δεδομένα, και προηγούμενες μελέτες έχουν δείξει ότι μπορούν να τα διαρρεύσουν. Η εργασία αυτή αναλύει τη διαρροή ιδιωτικότητας των επεξηγήσεων SHAP που μοιρά- ζονται μεταξύ των οργανισμών. Δείχνουμε ότι οι τιμές SHAP μπορούν να αποκαλύψουν χαρακτηριστικά των δεδομένων του εκάστοτε οργανισμού, και ότι η απόκρυψή τους με ασφαλή πολυμερή υπολογισμό (SMPC) δεν τα προστατεύει πλήρως. Προτείνουμε έναν τρόπο για ασφαλή κοινοποίηση επεξηγήσεων. Οι οργανισμοί συνδυάζουν τις τιμές SHAP τους μέσα στον SMPC και προσθέτουν θόρυβο διαφορικής ιδιωτικότητας (DP) πριν δημο- σιευτεί οτιδήποτε, ώστε κάθε μεμονωμένη εγγραφή να προστατεύεται. Δεδομένου ότι οι χρήστες συχνά ενδιαφέρονται μόνο για τα λίγα χαρακτηριστικά που μετράνε περισσότερο, συγκρίνουμε δύο τρόπους ιδιωτικής δημοσίευσής τους και δίνουμε έναν απλό κανόνα που επιλέγει εκ των προτέρων την πιο ακριβή μέθοδο, μόνο από το δημόσιο μοντέλο και χωρίς επιπλέον κόστος ιδιωτικότητας. Αξιολογούμε την προσέγγισή μας σε συνθετικά δεδομένα και σε περίπου 63.000 πραγματικούς ασθενείς από 130 νοσοκομεία της Αμερικής. Όταν χρησιμοποιείται μόνο SMPC, μια επίθεση ανακτά τα δεδομένα ενός ασθενή σε κάθε δοκι- μή, όμως μόλις προστεθεί θόρυβος DP η ακρίβειά της μειώνεται στο επίπεδο της τυχαίας μαντεψιάς (50%). Σε αυτό το επίπεδο ιδιωτικότητας, τουλάχιστον το 99% των σημαντικό- τερων χαρακτηριστικών που δημοσιεύονται είναι τα πραγματικά. Αν και τα πειράματά μας προέρχονται από τον τομέα της υγείας, η προσέγγιση ισχύει για κάθε γραμμικό μοντέλο που μπορεί να χρησιμοποιηθεί από τους οργανισμούς. Η κοινοποίηση των επεξηγήσεων και η προστασία της ιδιωτικότητας δεν χρειάζεται να συγκρούονται.","abstract_has_math":false,"creators":["ΔΕΣΠΟΤΙΔΟΥ ΚΑΛΛΙΟΠΗ-ΧΡΙΣΤΙΝΑ","DESPOTIDOU KALLIOPI-CHRISTINA"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2026,"date_issued":"2026","date_published":"2026","updated_at":"2026-11-19T05:20:51Z","subjects":["Θετικές Επιστήμες","Science"],"languages":["Ελληνικά","English","Greek"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5452272"],"render_values":[{"text":"uoadl:5452272","href":null,"code":true}]}],"person_identifier_entries":[]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5452272","outbound_label":"Repository record","outbound_source":"dc:identifier","record_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5452272","record_label":"Repository record","record_kind":"record","record_source":"dc:identifier","download_url":null,"download_label":null,"download_source":null,"access_status":null,"embargo_until":null,"access_note":null},"source_record":{"url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh?verb=GetRecord&metadataPrefix=oai_dc&identifier=oai%3Alib.uoa.gr%3Auoadl%3A5452272","prefix":"oai_dc"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["ΔΕΣΠΟΤΙΔΟΥ ΚΑΛΛΙΟΠΗ-ΧΡΙΣΤΙΝΑ","DESPOTIDOU KALLIOPI-CHRISTINA"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2026"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Θετικές Επιστήμες","Science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["Ελληνικά","English","Greek"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5452272","https://pergamos.lib.uoa.gr/uoa/dl/object/5452272"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Το ενδιαφέρον για μοντέλα μηχανικής μάθησης που αναπτύσσονται από κοινού από πολ- λούς οργανισμούς, όπως νοσοκομεία, τράπεζες ή δημόσιοι φορείς, οι οποίοι δεν μπορούν να μοιραστούν τα δεδομένα τους, αυξάνεται συνεχώς. Οι χρήστες αυτών των μοντέλων χρειάζεται να κατανοούν τι καθορίζει τις προβλέψεις τους. Οι τιμές SHAP είναι μια ευρέ- ως γνωστή μέθοδος για την επεξήγηση αυτών των προβλέψεων, καθώς δείχνουν πόσο συνεισφέρει κάθε χαρακτηριστικό σε αυτές. Οι επεξηγήσεις αυτές όμως υπολογίζονται α- πό τα δεδομένα, και προηγούμενες μελέτες έχουν δείξει ότι μπορούν να τα διαρρεύσουν. Η εργασία αυτή αναλύει τη διαρροή ιδιωτικότητας των επεξηγήσεων SHAP που μοιρά- ζονται μεταξύ των οργανισμών. Δείχνουμε ότι οι τιμές SHAP μπορούν να αποκαλύψουν χαρακτηριστικά των δεδομένων του εκάστοτε οργανισμού, και ότι η απόκρυψή τους με ασφαλή πολυμερή υπολογισμό (SMPC) δεν τα προστατεύει πλήρως. Προτείνουμε έναν τρόπο για ασφαλή κοινοποίηση επεξηγήσεων. Οι οργανισμοί συνδυάζουν τις τιμές SHAP τους μέσα στον SMPC και προσθέτουν θόρυβο διαφορικής ιδιωτικότητας (DP) πριν δημο- σιευτεί οτιδήποτε, ώστε κάθε μεμονωμένη εγγραφή να προστατεύεται. Δεδομένου ότι οι χρήστες συχνά ενδιαφέρονται μόνο για τα λίγα χαρακτηριστικά που μετράνε περισσότερο, συγκρίνουμε δύο τρόπους ιδιωτικής δημοσίευσής τους και δίνουμε έναν απλό κανόνα που επιλέγει εκ των προτέρων την πιο ακριβή μέθοδο, μόνο από το δημόσιο μοντέλο και χωρίς επιπλέον κόστος ιδιωτικότητας. Αξιολογούμε την προσέγγισή μας σε συνθετικά δεδομένα και σε περίπου 63.000 πραγματικούς ασθενείς από 130 νοσοκομεία της Αμερικής. Όταν χρησιμοποιείται μόνο SMPC, μια επίθεση ανακτά τα δεδομένα ενός ασθενή σε κάθε δοκι- μή, όμως μόλις προστεθεί θόρυβος DP η ακρίβειά της μειώνεται στο επίπεδο της τυχαίας μαντεψιάς (50%). Σε αυτό το επίπεδο ιδιωτικότητας, τουλάχιστον το 99% των σημαντικό- τερων χαρακτηριστικών που δημοσιεύονται είναι τα πραγματικά. Αν και τα πειράματά μας προέρχονται από τον τομέα της υγείας, η προσέγγιση ισχύει για κάθε γραμμικό μοντέλο που μπορεί να χρησιμοποιηθεί από τους οργανισμούς. Η κοινοποίηση των επεξηγήσεων και η προστασία της ιδιωτικότητας δεν χρειάζεται να συγκρούονται.","There is growing interest in machine learning models built jointly by several organizations, such as hospitals, banks or public institutions, that cannot share their data. Users of such models need to understand what drives their predictions. SHAP values are a widely used method to explain these predictions, as they show how much each feature contributes to them. These explanations, however, are computed from the data, and earlier work has shown that they can leak it. This thesis analyses the privacy leakage of SHAP explana- tions shared across organizations. We show that the SHAP values can reveal what each organization’s data look like, and that hiding them with secure multi-party computation (SMPC) does not fully protect the data. We propose a way to share explanations safely. The organizations combine their SHAP values inside SMPC and add differential privacy (DP) noise before anything is published, which protects every individual record with a for- mal guarantee. Since users often care only about the few features that matter most, we compare two ways to publish them privately and give a simple rule that picks the more accurate one in advance, using only the public model and at no extra privacy cost. We evaluate our approach on synthetic data and on about 63,000 real patients from 130 US hospitals. When only SMPC is used, an attack recovers a patient’s data in every trial, but once DP noise is added its accuracy falls to random guessing (50%). At this privacy level, at least 99% of the published most important features are the true ones. Although our experiments come from healthcare, the approach works for any linear model that is explained across several organizations. Sharing explanations and protecting privacy do not have to be in conflict."]},{"key":"dc:title","label":"Title","values":["Privacy-Preserving Federated SHAP Explanations of Clinical Prediction Models"]}]}],"canonical_facts":{"dc:creator":["ΔΕΣΠΟΤΙΔΟΥ ΚΑΛΛΙΟΠΗ-ΧΡΙΣΤΙΝΑ","DESPOTIDOU KALLIOPI-CHRISTINA"],"dc:date":["2026"],"dc:description":["Το ενδιαφέρον για μοντέλα μηχανικής μάθησης που αναπτύσσονται από κοινού από πολ- λούς οργανισμούς, όπως νοσοκομεία, τράπεζες ή δημόσιοι φορείς, οι οποίοι δεν μπορούν να μοιραστούν τα δεδομένα τους, αυξάνεται συνεχώς. Οι χρήστες αυτών των μοντέλων χρειάζεται να κατανοούν τι καθορίζει τις προβλέψεις τους. Οι τιμές SHAP είναι μια ευρέ- ως γνωστή μέθοδος για την επεξήγηση αυτών των προβλέψεων, καθώς δείχνουν πόσο συνεισφέρει κάθε χαρακτηριστικό σε αυτές. Οι επεξηγήσεις αυτές όμως υπολογίζονται α- πό τα δεδομένα, και προηγούμενες μελέτες έχουν δείξει ότι μπορούν να τα διαρρεύσουν. Η εργασία αυτή αναλύει τη διαρροή ιδιωτικότητας των επεξηγήσεων SHAP που μοιρά- ζονται μεταξύ των οργανισμών. Δείχνουμε ότι οι τιμές SHAP μπορούν να αποκαλύψουν χαρακτηριστικά των δεδομένων του εκάστοτε οργανισμού, και ότι η απόκρυψή τους με ασφαλή πολυμερή υπολογισμό (SMPC) δεν τα προστατεύει πλήρως. Προτείνουμε έναν τρόπο για ασφαλή κοινοποίηση επεξηγήσεων. Οι οργανισμοί συνδυάζουν τις τιμές SHAP τους μέσα στον SMPC και προσθέτουν θόρυβο διαφορικής ιδιωτικότητας (DP) πριν δημο- σιευτεί οτιδήποτε, ώστε κάθε μεμονωμένη εγγραφή να προστατεύεται. Δεδομένου ότι οι χρήστες συχνά ενδιαφέρονται μόνο για τα λίγα χαρακτηριστικά που μετράνε περισσότερο, συγκρίνουμε δύο τρόπους ιδιωτικής δημοσίευσής τους και δίνουμε έναν απλό κανόνα που επιλέγει εκ των προτέρων την πιο ακριβή μέθοδο, μόνο από το δημόσιο μοντέλο και χωρίς επιπλέον κόστος ιδιωτικότητας. Αξιολογούμε την προσέγγισή μας σε συνθετικά δεδομένα και σε περίπου 63.000 πραγματικούς ασθενείς από 130 νοσοκομεία της Αμερικής. Όταν χρησιμοποιείται μόνο SMPC, μια επίθεση ανακτά τα δεδομένα ενός ασθενή σε κάθε δοκι- μή, όμως μόλις προστεθεί θόρυβος DP η ακρίβειά της μειώνεται στο επίπεδο της τυχαίας μαντεψιάς (50%). Σε αυτό το επίπεδο ιδιωτικότητας, τουλάχιστον το 99% των σημαντικό- τερων χαρακτηριστικών που δημοσιεύονται είναι τα πραγματικά. Αν και τα πειράματά μας προέρχονται από τον τομέα της υγείας, η προσέγγιση ισχύει για κάθε γραμμικό μοντέλο που μπορεί να χρησιμοποιηθεί από τους οργανισμούς. Η κοινοποίηση των επεξηγήσεων και η προστασία της ιδιωτικότητας δεν χρειάζεται να συγκρούονται.","There is growing interest in machine learning models built jointly by several organizations, such as hospitals, banks or public institutions, that cannot share their data. Users of such models need to understand what drives their predictions. SHAP values are a widely used method to explain these predictions, as they show how much each feature contributes to them. These explanations, however, are computed from the data, and earlier work has shown that they can leak it. This thesis analyses the privacy leakage of SHAP explana- tions shared across organizations. We show that the SHAP values can reveal what each organization’s data look like, and that hiding them with secure multi-party computation (SMPC) does not fully protect the data. We propose a way to share explanations safely. The organizations combine their SHAP values inside SMPC and add differential privacy (DP) noise before anything is published, which protects every individual record with a for- mal guarantee. Since users often care only about the few features that matter most, we compare two ways to publish them privately and give a simple rule that picks the more accurate one in advance, using only the public model and at no extra privacy cost. We evaluate our approach on synthetic data and on about 63,000 real patients from 130 US hospitals. When only SMPC is used, an attack recovers a patient’s data in every trial, but once DP noise is added its accuracy falls to random guessing (50%). At this privacy level, at least 99% of the published most important features are the true ones. Although our experiments come from healthcare, the approach works for any linear model that is explained across several organizations. Sharing explanations and protecting privacy do not have to be in conflict."],"dc:identifier":["uoadl:5452272","https://pergamos.lib.uoa.gr/uoa/dl/object/5452272"],"dc:language":["Ελληνικά","English","Greek"],"dc:subject":["Θετικές Επιστήμες","Science"],"dc:title":["Privacy-Preserving Federated SHAP Explanations of Clinical Prediction Models"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-11-19T05:20:51Z"}