Σκοπός της παρούσας διπλωματικής διατριβής είναι η μελέτη και ανάπτυξη ενός νέου αλγοριθμικού πλαισίου Συνεργατικής Διήθησης(CF) για την παραγωγή συστάσεων. Η μέθοδος που προτείνουμε, βασίζεται στην εκμετάλλευση της ιεραρχικής διάρθρωσης του χώρου αντικειμένων και πατά διαισθητικά στην ιδιότητα της ``Σχεδόν Πλήρης Αναλυσιμότητας'' (NCD) η οποία είναι συνυφασμένη με τη δομή της πλειοψηφίας των ιεραρχικών συστημάτων. Η Συνεργατική Διήθηση αποτελεί ίσως την πιο πετυχημένη οικογένεια τεχνικών για την παραγωγή συστάσεων. Η μεγάλη απήχησή της στο διαδίκτυο αλλά και η ευρεία εφαρμογή της σε σημαντικά εμπορικά περιβάλλοντα, έχουν οδηγήσει στη σημαντική ανάπτυξη της θεωρίας την τελευταία δεκαετία, όπου μια ευρεία ποικιλία αλγορίθμων και μεθόδων έχουν προταθεί. Ωστόσο, παρά την πρωτοφανή τους επιτυχία οι CF μέθοδοι παρουσιάζουν κάποιους σημαντικούς περιορισμούς συμπεριλαμβανομένης της επεκτασιμότητας και της αραιότητας των δεδομένων. Τα προβλήματα αυτά επιδρούν αρνητικά στην ποιότητα των παραγόμενων συστάσεων και διακυβεύουν την εφαρμοσιμότητα πολλών CF αλγορίθμων σε ρεαλιστικά σενάρια. Χτίζοντας πάνω στη διαίσθηση πίσω από τον αλγόριθμο NCDawareRank - μίας γενικής μεθόδου υπολογισμού διανυσμάτων κατάταξης ιεραρχικά δομημένων γράφων - και της σχετικής με αυτόν έννοιας της NCD εγγύτητας, προβαίνουμε σε μία μοντελοποίηση του συστήματος με τρόπο που φωτίζει τα ενδημικά του χαρακτηριστικά και προτείνουμε έναν νέο αλγοριθμικό πλαίσιο συστάσεων, τον Αλγόριθμο 1. Στο επίκεντρο της προσέγγισής μας είναι η προσπάθεια να συνδυάσουμε τις άμεσες με τις NCD, ``γειτονιές'' των αντικειμένων ώστε να πετύχουμε μεγαλύτερης ακρίβειας χαρακτηρισμό των πραγματικών συσχετισμών μεταξύ των στοιχείων του χώρου αντικειμένων, με σκοπό την βελτίωση της ποιότητας των συστάσεων αλλά και την αντιμετώπιση της εγγενούς αραιότητας και των προβλημάτων που αυτή συνεπάγεται. Για να αξιολογήσουμε την απόδοση της μεθόδου μας υλοποιούμε και εφαρμόζουμε τον Αλγόριθμο 1 στο κλασικό movie recommendation πρόβλημα και παραθέτουμε μια σειρά από πειράματα χρησιμοποιώντας τo MovieLens Dataset. Τα πειράματά μας δείχνουν πως ο Αλγόριθμος 1 με την εκμετάλλευση της ιδέας της NCD εγγύτητας καταφέρνει να πετύχει λίστες συστάσεων υψηλότερης ποιότητας σε σύγκριση με τις άλλες state-of-the-art μεθόδους που έχουν προταθεί στη βιβλιογραφία, σε ευρέως χρησιμοποιούμενες μετρικές (micro- και macro-DOA), αποδεικνύοντας την ίδια στιγμή πως είναι λιγότερο επιρρεπής στα προβλήματα που σχετίζονται με την αραιότητα και έχοντας παράλληλα ανταγωνιστικό προφίλ πολυπλοκότητας και απαιτήσεις αποθήκευσης. / The purpose of this master's thesis is to study and develop a new algorithmic framework for collaborative filtering (CF) to generate recommendations. The method we propose is based on the exploitation of the hierarchical structure of the item space and intuitively ``stands'' on the property of Near Complete Decomposability (NCD) which is inherent in the structure of the majority of hierarchical systems. Collaborative Filtering is one of the most successful families of recommendations methods. The great impact of CF on Web applications, and its wide deployment in important commercial environments, have led to the significant development of the theory, with a wide variety of algorithms and methods being proposed. However, despite their unprecedented success, CF methods present some important limitations including scalability and data sparsity. These problems have a negative impact of the quality of the recommendations and jeopardize the applicability of many CF algorithms in realistic scenarios. Building on the intuition behind the NCDawareRank algorithm and its related concept of NCD proximity, we model our system in a way that illuminates its endemic characteristics and we propose a new algorithmic framework for recommendations, called Algorithm 1. We focus on combining the direct with the NCD `` neighborhoods'' of items to achieve better characterization of the inter-item relations, in order to improve the quality of recommendations and alleviate sparsity related problems. To evaluate the merits of our method, we implement and apply Algorithm 1 in the classic movie recommendation problem, running a number of experiments on the standard MovieLens dataset. Our experiments show that Algorithm 1 manages to create recommendation lists with higher quality compared with other state-of-the-art methods proposed in the literature, in widely used metrics (micro- and macro- DOA), demonstrating at the same time that it is less prone to low density related problems being at the same time very efficient in both complexity and storage requirements.

Είναι γνωστό από τη Θεωρία της Πληροφορίας, πως η δειγματοληψία σημάτων ακολουθεί το Θεώρημα των Shannon-Nyquist. Σύμφωνα με το θεώρημα αυτό, για την εκτέλεση της δειγματοληψίας ενός σήματος χωρίς απώλεια πληροφορίας, ο ρυθμός δειγματοληψίας αυτού θα πρέπει να είναι τουλάχιστον δύο φορές μεγαλύτερος από τη μεγαλύτερη συχνότητα που εμφανίζεται στο φάσμα του σήματος. Αυτή τη θεωρία κατάφερε – κατά κάποιο τρόπο - να ανατρέψει το 2006 μια νέα, αυτή της Συμπιεσμένης Καταγραφής που ξεκίνησε από δύο επιστημονικές εργασίες των Donoho, Candes, Romberg και Tao και η οποία έρχεται να αλλάξει τα έως σήμερα δεδομένα. Σήμερα, λίγα έτη αργότερα, μια αφθονία θεωρητικών πτυχών της συμπιεσμένης καταγραφής εξερευνάται ήδη σε περισσότερες από 1000 δημοσιεύσεις. Οι εφαρμογές αυτής της τεχνικής εκτείνονται και σε άλλα πεδία όπως η επεξεργασία εικόνας, η μαγνητική τομογραφία, η ανάλυση γεωφυσικών δεδομένων, η επεξεργασία εικόνας radar, η αστρονομία κ.α. Η μέθοδος της συμπιεσμένης καταγραφής ή αλλιώς Compressed Sensing ή Compressed Sampling, όπως αυτή είναι γνωστή στη βιβλιογραφία, στηρίζεται στη δυνατότητα ανακατασκευής αραιών σημάτων από πλήθος δειγμάτων αισθητά κατώτερο από αυτό που προβλέπει το θεωρητικό όριο του Nyquist. Έχει αποδειχθεί ότι, η ανακατασκευή αυτή είναι δυνατή όταν το σήμα ή έστω κάποιος μετασχηματισμός του περιέχει λίγα μη μηδενικά στοιχεία σε σχέση με το μήκος του. Στα πλαίσια αυτής της εργασίας παρουσιάζονται οι βασικές αρχές που διέπουν την ανακατασκευή αραιών σημάτων μέσω της επίλυσης υπο-ορισμένων συστημάτων γραμμικών εξισώσεων. Στη συγκεκριμένη εργασία, γίνεται μία προσπάθεια εφαρμογής της εν λόγω μεθόδου στα ανερχόμενα Cognitive Radio δίκτυα (Cognitive Radio Networks - CRN) τα οποία εμφανίζουν την ιδιότητα Spectrum Sharing. Σύμφωνα με αυτή την ιδιότητα, δηλαδή, το διαμοιρασμό του διαθέσιμου φάσματος, ο πρωταρχικός στόχος, είναι η ανίχνευση και η αναγνώριση των λεγόμενων spectrum holes σε ασύρματο περιβάλλον. Πιο συγκεκριμένα, παρουσιάζεται μια Distributed (κατανεμημένη) προσέγγιση συμπιεσμένης καταγραφής φάσματος για (τα ultra-) Wideband Cognitive Radio δίκτυα. Η τεχνική Compressed Sensing εφαρμόζεται σε τοπικά CRs του δικτύου, προκειμένου να ανιχνεύσει το υπερ-ευρύ φάσμα (ultra-wideband) με ρεαλιστική πολυπλοκότητα ανάκτησης του αρχικού σήματος. Οι φασματικές εκτιμήσεις από πολλαπλούς τοπικούς CRs του δικτύου «συνενώνονται» για να αποκομίσουν το χωρικό κέρδος ποικιλομορφίας (spatial diversity gain), το οποίο όσο αυξάνεται, βελτιώνει την ποιότητα ανίχνευσης, ειδικά στην περίπτωση των υπό εξασθένιση καναλιών (channel fading effect). Αρχικά, μελετάται ένας κατανεμημένος αλγόριθμος πλειοψηφίας (Distributed Consensus Algorithm) για να επιτευχθεί η συνεργασία κατά το στάδιο της ανίχνευσης της πληροφορίας που μεταφέρεται στο δίκτυο και έπειτα η αποστολή αυτής σε ένα fusion center. Αυτού του είδους ο distributed αλγόριθμος που χρησιμοποιεί μόνο one-hop επικοινωνία, συγκλίνει γρήγορα σε συνολικά βέλτιστες λύσεις που λειτουργούν με χαμηλό φόρτο επικοινωνίας και υπολογισμού που είναι ανάλογο του μεγέθους του δικτύου. Ένα σενάριο που εξετάζεται στο πλαίσιο αυτής της εργασίας, είναι η συγκεντρωτική ανίχνευση φάσματος ευρείας ζώνης με επικαλυπτόμενες συχνότητες ή αλλιώς κανάλια που είναι κοινά (frequency overlapping) σε Cognitive Radio δίκτυα και τα οποία, χρησιμοποιούν την τεχνική Compressed Sensing καθώς επίσης και την από κοινού ανακατασκευή (Joint Reconstruction) του αρχικού σήματος. Τέλος, προτείνεται ένα σενάριο, μιας κατανεμημένης αυτή τη φορά, τεχνικής ανίχνευσης φάσματος, που βασίζεται σε κανόνες πλειοψηφίας. Τα αποτελέσματα της προσομοίωσης, σε περιβάλλον Matlab, επιβεβαιώνουν την αποτελεσματικότητα αυτής της προτεινόμενης προσέγγισης, δηλαδή την ανίχνευση φάσματος, από συνδυασμό Cognitive Radio δικτύων με αραιά επικαλυπτόμενες συχνότητες. / It is well known from Information Theory, that the sampling of signals should be performed as dictated by the celebrated Shannon – Nyquist theorem. According to this theorem, in order to fully recover a signal from its samples, it must be sampled at a sampling rate that should be at least twice the bandwidth of the signal. This theory has been significantly extended over the past few years by the advent of the so-called Compressed Sensing theory, which first appeared in seminal scientific articles of Donoho, Candes, Romberg and Tao in 2006. Nowadays, an abundance of theoretical aspects of compressed sensing is already explored in more than 1000 articles. Τhis technique has been applied in various fields such as image processing, magnetic tomography, analysis of geophysical data, radar image processing, astronomy etc. The method of Compressed Sensing, also known as Compressed Sampling, is related to the reconstruction of sparse signals from far fewer samples or measurements than what the theoretical limit of Nyquist suggests. It has been proved that, this reconstruction is possible when the signal or a transformation of it, contains just a few non-zero elements with respect to its length. In this work, we firstly summarize the basic principles that condition the reconstruction of sparse signals via the solution of underdetermined systems of linear equations. Next, in this Master Thesis we aim at implementing Compressed Sensing method in emerging Cognitive Radio (CR) networks with spectrum sharing. The first cognitive task preceding any dynamic spectrum access is the sensing and identification of spectral holes in wireless environments. In more detail, this work is mainly concerned with a distributed compressed spectrum sensing approach for (ultra-)wideband CR networks. Compressed sensing is performed at local CRs to scan the very wide spectrum at practical signal-acquisition complexity. Meanwhile, spectral estimates from multiple local CR detectors are fused to collect spatial diversity gain, which improves the sensing quality especially under fading channels. Initially, a distributed consensus algorithm is analyzed for collaborative sensing and fusion in a scenario where all nodes are estimating the same spectral bands. Using only one-hop local communications, this distributed algorithm converges fast to the globally optimal solutions, at low communication and computation load scalable to the network size. Another scenario that has been investigated in this thesis is the joint wideband spectrum sensing in frequency overlapping cognitive radio networks, using centralized compressive sensing techniques. Finally, for the latter scenario, a distributed compressive sensing technique, based on consensus, has been proposed. Simulation results in Matlab environment verify the effectiveness of proposed joint spectrum sensing approach in jointly sparse frequency overlapping cognitive radio networks.