Back to search

National and Kapodistrian University of Athens

Privacy-Preserving Federated SHAP Explanations of Clinical Prediction Models

Abstract

dc:description

Το ενδιαφέρον για μοντέλα μηχανικής μάθησης που αναπτύσσονται από κοινού από πολ- λούς οργανισμούς, όπως νοσοκομεία, τράπεζες ή δημόσιοι φορείς, οι οποίοι δεν μπορούν να μοιραστούν τα δεδομένα τους, αυξάνεται συνεχώς. Οι χρήστες αυτών των μοντέλων χρειάζεται να κατανοούν τι καθορίζει τις προβλέψεις τους. Οι τιμές SHAP είναι μια ευρέ- ως γνωστή μέθοδος για την επεξήγηση αυτών των προβλέψεων, καθώς δείχνουν πόσο συνεισφέρει κάθε χαρακτηριστικό σε αυτές. Οι επεξηγήσεις αυτές όμως υπολογίζονται α- πό τα δεδομένα, και προηγούμενες μελέτες έχουν δείξει ότι μπορούν να τα διαρρεύσουν. Η εργασία αυτή αναλύει τη διαρροή ιδιωτικότητας των επεξηγήσεων SHAP που μοιρά- ζονται μεταξύ των οργανισμών. Δείχνουμε ότι οι τιμές SHAP μπορούν να αποκαλύψουν χαρακτηριστικά των δεδομένων του εκάστοτε οργανισμού, και ότι η απόκρυψή τους με ασφαλή πολυμερή υπολογισμό (SMPC) δεν τα προστατεύει πλήρως. Προτείνουμε έναν τρόπο για ασφαλή κοινοποίηση επεξηγήσεων. Οι οργανισμοί συνδυάζουν τις τιμές SHAP τους μέσα στον SMPC και προσθέτουν θόρυβο διαφορικής ιδιωτικότητας (DP) πριν δημο- σιευτεί οτιδήποτε, ώστε κάθε μεμονωμένη εγγραφή να προστατεύεται. Δεδομένου ότι οι χρήστες συχνά ενδιαφέρονται μόνο για τα λίγα χαρακτηριστικά που μετράνε περισσότερο, συγκρίνουμε δύο τρόπους ιδιωτικής δημοσίευσής τους και δίνουμε έναν απλό κανόνα που επιλέγει εκ των προτέρων την πιο ακριβή μέθοδο, μόνο από το δημόσιο μοντέλο και χωρίς επιπλέον κόστος ιδιωτικότητας. Αξιολογούμε την προσέγγισή μας σε συνθετικά δεδομένα και σε περίπου 63.000 πραγματικούς ασθενείς από 130 νοσοκομεία της Αμερικής. Όταν χρησιμοποιείται μόνο SMPC, μια επίθεση ανακτά τα δεδομένα ενός ασθενή σε κάθε δοκι- μή, όμως μόλις προστεθεί θόρυβος DP η ακρίβειά της μειώνεται στο επίπεδο της τυχαίας μαντεψιάς (50%). Σε αυτό το επίπεδο ιδιωτικότητας, τουλάχιστον το 99% των σημαντικό- τερων χαρακτηριστικών που δημοσιεύονται είναι τα πραγματικά. Αν και τα πειράματά μας προέρχονται από τον τομέα της υγείας, η προσέγγιση ισχύει για κάθε γραμμικό μοντέλο που μπορεί να χρησιμοποιηθεί από τους οργανισμούς. Η κοινοποίηση των επεξηγήσεων και η προστασία της ιδιωτικότητας δεν χρειάζεται να συγκρούονται.

Author and committee

dc:creator, dc:contributor.*
Authors dc:creator
  • ΔΕΣΠΟΤΙΔΟΥ ΚΑΛΛΙΟΠΗ-ΧΡΙΣΤΙΝΑ
  • DESPOTIDOU KALLIOPI-CHRISTINA

Subjects

dc:subject × 2

Rights

Language dc:language
Ελληνικά, English, Greek

Identifiers

dc:identifier.*
Identifier
uoadl:5452272

Chain of custody

source
Harvested from
National and Kapodistrian University of Athens
Base URL
pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh
Last updated
2026-11-19
Source record
OAI-PMH GetRecord
citation

ΔΕΣΠΟΤΙΔΟΥ ΚΑΛΛΙΟΠΗ-ΧΡΙΣΤΙΝΑ; DESPOTIDOU KALLIOPI-CHRISTINA. Privacy-Preserving Federated SHAP Explanations of Clinical Prediction Models. 2026. https://pergamos.lib.uoa.gr/uoa/dl/object/5452272