Η ανάλυση πολυμεταβλητών δεδομένων καθίσταται ιδιαίτερα δύσκολη όταν το πλήθος των μεταβλητών, p (διάσταση των δεδομένων), είναι μεγάλο. Επίσης δυσκολία υπάρχει στην ανάλυση, όταν οι μεταβλητές είναι υψηλά συσχετισμένες μεταξύ τους. Η ανάλυση κύριων συνιστωσών είναι πολυμεταβλητή στατιστική τεχνική που ασχολείται με την δομή διασπορών – συνδιασπορών, μέσω μερικών γραμμικών συνδυασμών των αρχικών μεταβλητών. Γενικότερα τα αντικείμενα της είναι (1) η μείωση των δεδομένων και (2) η ανάλυση (ερμηνεία) τους. Παρόλο που απαιτούνται p μεταβλητές για να ερμηνευτεί η συνολική μεταβλητότητα του συστήματος, συχνά, η περισσότερη από αυτή τη μεταβλητότητα μπορεί να ερμηνευτεί από ένα μικρό αριθμό k κύριων συνιστωσών. Αν πράγματι συμβεί αυτό, τότε, υπάρχει (σχεδόν) τόση πληροφορία στις k συνιστώσες, όση υπάρχει στις p αρχικές μεταβλητές. Οι k κύριες συνιστώσες μπορούν τότε να αντικαταστήσουν τις αρχικές p μεταβλητές, και το αρχικό σύνολο δεδομένων που αποτελείται από n μετρήσεις των p μεταβλητών, μειώνεται σε ένα σύνολο δεδομένων που αποτελείται από n μετρήσεις των k μεταβλητών. Οι k κύριες συνιστώσες είναι γραμμικός συνδυασμός των p αρχικών μεταβλητών, και μάλιστα είναι ασυσχέτιστες μεταξύ τους. Έτσι, οδηγούμαστε από ένα σύνολο p συσχετισμένων μεταβλητών, σ’ ένα μικρότερο σύνολο k ασυσχέτιστων μεταβλητών. Η μείωση αυτή των δεδομένων είναι πολύ σημαντικό γεγονός, διότι αντί να αναλύουμε δεδομένα στο R p , αναλύουμε δεδομένα στο R k . Σε ορισμένες περιπτώσεις το k, η νέα διάσταση, είναι 2 ή 3 και τότε έχουμε μια οπτική ιδέα, μια εικόνα των δεδομένων. Κλείνοντας την εισαγωγή, θα πρέπει να αναφέρουμε ότι η τεχνική κύριων συνιστωσών δεν επιτυγχάνει πάντοτε την μείωση της διάστασης, π.χ., αυτό συμβαίνει όταν οι αρχικές μεταβλητές είναι ασυσχέτιστες. Τότε θα πρέπει να αναζητηθούν άλλες μέθοδοι μείωσης της διάστασης. / -

Στην παρούσα εργασία θα αξιολογηθούν κάποιες αυτόματες μέθοδοι διαχωρισμού ακουστικών βιοσημάτων τα οποία λαμβάνονται από συστοιχία πιεζοηλεκτρικών αισθητήρων σε χαμηλές συχνότητες. Πιο συγκεκριμένα αρχικά θα οριστεί το πρόβλημα το οποίο μας ζητείται να επιλύσουμε και θα γίνουν αναφορές στη διαδρομή των δύο σημαντικότερων μεθόδων διαχωρισμού , της PCA και της ICA. Εν συνεχεία θα γίνει αναφορά στα βιοσήματα τόσο ως προς την προέλευση όσο και ως προς τα σημαντικότερα χαρακτηριστικά τους , η γνώση των οποίων διευκολύνει κατά πολύ τόσο τη διαδικασία του διαχωρισμού όσο και την αξιολόγηση της τελευταίας. Σε επόμενο κεφάλαιο θα γίνει εκτενής αναφορά στους πιεζοηλεκτρικούς αισθητήρες και τον τρόπο με τον οποίο κωδικοποιούν τα βιοσήματα με στόχο την περαιτέρω επεξεργασία τους. Στο μεγαλύτερο τμήμα της εργασίας αυτής ωστόσο θα αναλυθούν οι δύο τεχνικές διαχωρισμού , PCA και ICA και θα γίνει νύξη στους σημαντικότερους αλγορίθμους των παραπάνω (FastICA). Τέλος, θα γίνει εφαρμογή των μεθόδων αυτών τόσο σε τεχνητά όσο και σε πραγματικά σήματα και ανάλυση των αποτελεσμάτων που θα εξαχθούν. / In this diploma thesis some automatic acoustic bio-signal separation techniques are going to be evaluated. The signals used are taken from an array of piezoelectric sensors at low frequencies. To be more specific we are going to set the problem and make a brief report of the main historical facts about PCA and ICA. Furthermore, we are going to analyze both the origin and the most significant characteristics of bio-signals. This knowledge is going to provide us with a much easier separation procedure and a robust evaluation. Additionally not only piezoelectric sensors are going to be analyzed but also PCA and ICA will be resolved too. Main algorithms of both techniques will be mentioned. In conclusion those methods will be applied both on artificial and real data in order to draw some useful conclusions.

Μελέτη των ατμοσφαιρικών ρύπων στην πόλη της Πάτρας για το έτος 2010 με τη μέθοδο της ανάλυσης σε κύριες συνιστώσες και κάνοντας χρήση του στατιστικού πακέτου Minitab16 / Research on air pollutants in the city of Patras for the year 2010 using the method of Principal Components Analysis. The results are elaborated using the statistical program minitab16.

Στην παρούσα διπλωματική εργασία γίνεται μελέτη της μεθόδου ανάλυσης ανεξάρτητων συνιστωσών στο ηλεκτροοεγκεφαλογράφημα. Αφού εξετάσουμε το κομμάτι της φυσιολογίας του εγκεφάλου θα δοθεί ένα μαθηματικό υπόβαθρο της ανάλυσης ανεξάρτητων συνιστωσών. Στη συνέχεια θα γίνει μια βιβλιογραφική έρευνα στη σύγκριση αλγορίθμων της ανάλυσης ανεξάρτητων συνιστωσών όταν εφαρμόζονται σε ηλεκτροεγκεφαλογραφήματα με στόχο την βέλτιστη εξαγωγή παρασίτων. Στο τέλος θα γίνει εφαρμογή της μεθόδου της ανάλυσης ανεξάρτητων συνιστωσών σε πραγματικά δεδομένα ηλεκτροεγκεφαλογραφήματος 64 καναλιών μέσω του περιβάλλοντος του Matlab. Στόχος της εφαρμογής αυτής είναι ο διαχωρισμός των ανεξάρτητων συνιστωσών μη-εγκεφαλικής προέλευσης και η αφαίρεση τους από τα αρχικά δεδομένα. / This thesis is a study of the independent componenet analysis in electroencephalogram. After looking at the piece of brain physiology we will give a mathematical framework of independent component analysis. Then it will become a literature search in the comparison algorithms of Independent Component Analysis in EEGs when applied with a view to optimal extraction of artifacts. At the end will be the method of independent component analysis to real EEG data 64 channels through the environment of Matlab. The aim of this application is the separation of independent components of non brain activity and removing them from the original data.

Στην παρούσα διπλωματική εργασία μελετώνται μέθοδοι διαχωρισμού σημάτων σε ανεξάρτητες συνιστώσες. Αφού δοθεί ο ορισμός του προβλήματος και μια αναφορά στις κυριότερες μεθόδους για την αντιμετώπισή του, γίνεται σαφές ότι δεν μπορούν να σχεδιαστούν γενικές μέθοδοι διαχωρισμού σημάτων. Παρά την πληθώρα των πρακτικών προβλημάτων στα οποία βρίσκει εφαρμογή το μαθηματικό πρότυπο, δεν είναι δυνατός ο σχεδιασμός μιας ενιαίας μεθόδου που να αντιμετωπίζει αποτελεσματικά όλες τις περιπτώσεις διαχωρισμού σημάτων. Ο αναγνώστης πληροφορείται για τις περιοχές έρευνας και ανάπτυξης των διαφόρων μεθόδων καθώς και για τις εφαρμογές τους σε διάφορους τομείς της σύγχρονης επιστήμης. Στη συνέχεια, υλοποιούνται κάποιες από αυτές τις μεθόδους και παρουσιάζονται τα αποτελέσματα προσομοίωσης πραγματικών πειραματικών δεδομένων που λήφθηκαν για την εκπόνηση της συγκεκριμένης διπλωματικής εργασίας. Τα αποτελέσματα εξάγονται με την χρήση και υλοποίηση αλγόριθμου επεξεργασίας των δεδομένων στο πρόγραμμα Matlab και μελετώνται εκτενέστερα με το πρόγραμμα Adobe Audition 1.5. Τέλος, παρουσιάζονται τα συμπεράσματα από την εφαρμογή του αλγόριθμου στα πραγματικά δεδομένα και δίνεται μια μαθηματική- θεωρητική βάση για την βελτιστοποίηση των μεθόδων διαχωρισμού σημάτων. / -

Λαμβάνοντας υπ’ όψη τις διάφορες τεχνικές Blind Source Separation (BSS) που αναφέρονται στη βιβλιογραφία και που εφαρμόζονται σε πολλά πεδία ενδιαφέροντος, αποφασίσαμε να τις εφαρμόσουμε σε ανθρώπινο μαγνητοεγκεφαλογράφημα. Οι τεχνικές αυτές προσπαθούν να εξάγουν πηγές από σήμα το οποίο είναι γραμμικός συνδυασμός των πηγών. Απαραίτητη προϋπόθεση τα σήματα από τις πηγές να είναι στατιστικώς ανεξάρτητα. Πιο συγκεκριμένα, θεωρώντας τις πηγές στον εγκέφαλο ανεξάρτητες, η τεχνική που επιλέχθηκε είναι η Independent Component Analysis (ICA) και κάποιες παραλλαγές της που χρησιμοποιούν κυματίδια ώστε να εισάγουμε τη δυνατότητα περιορισμού στο χρόνο ή στο χώρο. Επιλέγοντας χωρικά ή χρονικά την περιοχή ενδιαφέροντος εστιάζουμε σε κάποια περιοχή του εγκεφάλου ή σε κάποια συγκεκριμένη χρονική στιγμή π.χ. μετά από κάποιο ερέθισμα. Θα χρησιμοποιήσουμε αυτές τις τεχνικές για να αναλύσουμε ανθρώπινο μαγνητοεγκεφαλογράφημα (MEG). Τα δεδομένα των καταγραφών είναι από το ινστιτούτο Riken στην Ιαπωνία. / Bearing in mind the Blind Source Separation Techniques mentioned in the literature and applied to many fields of interest, we decided to apply them on human MEG. These techniques extract sources from the initial signal, which is considered as linear combination of theses sources. It is required that the recorded signals are statistically independent. More specifically, considering the sources in the brain as independent, the method used is called Independent Component Analysis (ICA) and some versions which use wavelets in order to introduce spatial and temporal constraints. By selecting the region of interest either in space or in time, we focus on a region in the brain or on a specified latency e.g. after a stimulus. We use these methods to analyse MEG. The data are recorded in RIKEN institute in Japan.

Η ανάλυση σε κύριες συνιστώσες είναι μια τεχνική μείωσης του δείγματος. Χρησιμοποιείται όταν έχουμε ψηλά συσχετισμένες μεταβλητές. Μειώνει τον αριθμό των αρχικών μεταβλητών σε ένα μικρότερο αριθμό κύριων συνιστωσών που μετρούν τη μεγαλύτερη δυνατή διασπορά του δείγματος. Είναι μια διαδικασία που εφαρμόζεται για μεγάλα δείγματα. Η παραγοντική ανάλυση είναι μια τεχνική μείωσης των μεταβλητών του δείγματος η οποία αναγνωρίζει τον αριθμό των λανθάνουσων δομών και δημιουργεί μια δομή, ένα νέο σύνολο μεταβλητών, τους κοινούς παράγοντες που ερμηνεύουν το δείγμα. Προϋποθέτει μια δομή από μη παρατηρήσιμες μεταβλητές που δεν μπορούν να μετρηθούν άμεσα. Εκτιμά τους παράγοντες εκείνους που έχουν επίδραση και αντανακλούν τις αρχικές μεταβλητές. Επιτρέπει στον ερευνητή να περιγράψει αλλά ακόμη και να αναγνωρίσει τους παράγοντες εκείνους που παριστάνουν το δείγμα. Συμπεριλαμβάνει τους ειδικούς παράγοντες (ειδικά σφάλματα) που οφείλονται για την αναξιοπιστία των μετρήσεων. / Principal component analysis is a technique for reducing the sample, used when we have high correlated variables. It reduces the number of input variables into a smaller number of key components that measure the maximum sample variance. It is a process applied to large samples. Factor analysis is a technique to reduce the variables in the sample that identifies the number of latent structures and creates a structure, a new set of variables, called common factors explaining the sample. Implies a structure of non-observable variables that can not be measured directly. It considers the factors that affect and reflect the original variables. It allows the researcher to describe and even to identify the factors that represent the sample. Includes special factors (specific errors) due to unreliability of measurement.

Σκοπός της εργασίας είναι η ανάπτυξη μεθόδου εντοπισμού εγκεφαλικών ρυθμών στο χρόνο χρησιμοποιώντας περιορισμούς που στηρίζονται στα νευροφυσιολογικά χαρακτηριστικά του κάθε υθμού τόσο στο πεδίο του χώρου (spatial constraints) όσο και στο πεδίο της συχνότητας (frequency constraints). Η μέθοδος στηρίζεται στην τεχνική ανάλυσης σε ανεξάρτητες συνιστώσες (ICA) και δεν απαιτεί πολυκάναλες καταγραφές (MEG). Πιθανές εφαρμογές περιλαμβάνουν τον εντοπισμό α-ρυθμού, επιληπτικών κρίσεων, μ-ρυθμού και ρυθμών κυρίαρχων στα στάδια του ύπνου. Η προτεινόμενη μέθοδος μπορεί να χρησιμοποιηθεί για την ανάλυση καταγραφών ΗΕΓ τόσο σε πραγματικό χρόνο (online) όσο και σε προαποθηκευμένα δεδομένα (offline). / The goal of the present thesis is the development of a method for temporal detection of electrophysiological brain rhythms, using constraints based on neurophysiological, spatial and frequency characteristics of every rhythm. The method is based on Independent Component Analysis (ICA) and does not require multichannel recordings (MEG). Possible applications include temporal detection of α-rhythm, μ-rhythm and sleep dominant rhythms. The proposed method can be used in both online and offline EEG analysis.

Η διπλωματική εργασία αυτή αφορά την κατασκευή ενός μικροϋπολογιστικού συστήματος διαχωρισμού σημάτων. Ο διαχωρισμός των σημάτων γίνεται με βάση τη θεωρία της τεχνικής της Ανάλυσης Ανεξάρτητων Συνιστωσών. Αφού παρουσιαστεί η θεωρία της τεχνικής, παρουσιάζεται ο μικροελεγκτής ADuC 7026 που επελέγη για την υλοποίηση. Στη συνέχεια γίνεται η παρουσίαση του λογισμικού προσομοίωσης του μικροελεγκτή και παρατίθενται βασικά παραδείγματα για τον προγραμματισμό του. Τέλος, αναπτύσσονται, χωρίς τη χρήση περιφερειακών, και προσομοιώνονται, με τη χρήση περιφερειακών τρεις αλγόριθμοι, δυο εκδόσεις του FastICA και μια έκδοση του InfoMax. Οι αλγόριθμοι αυτοί αξιολογούνται ως προς τις επιδόσεις τους και εξάγονται τα συμπεράσματα. / This thesis deals with the construction of a microcomputer system to separate signals. The separation of the signals is based on the theory of the technique of Independent Component Analysis. The theory of the technique and the microcontroller ADuC 7026 chosen for implementation are presented. Then, follows the presentation of the software on which the microcontroller is simulated and basic examples of its programming are mentioned. Finally, three algorithms, two versions of FastICA and a version of InfoMax, are developed without the use of peripheral systems and simulated using peripheral systems. These algorithms are evaluated for their performance and conclusions are drawn.

The focus of this thesis was the development of failure prognosis methods (prognostics) in rotating machinery with use of multiple sensors digital signal processing and machine learning techniques. The motivation stems from the void in literature concerning prognostics in meshing gearboxes. Moreover, there are several but inconclusive works regarding bearing prognosis. Few research groups have studied multi-hour fatigue gear experiments and this was one of the contributions of this thesis. Moreover, the study expanded beyond the sheer application of vibration monitoring with the addition of an Oil Debris Monitoring probe (ODM) as well as Acoustic emission (AE). The method of AE monitoring is, once again, proposed as a robust technique for failure prognosis being better correlated with gear pitting level compared to the classic vibration monitoring technique. Moreover, judging from ODM recordings the gear pitting comprises of two phases i) a linear phase, with an almost constant pitting rate and ii) a very short non linear phase where the pitting rate increases exponentially, an explicit indication of a critical failure. Multi-hour gear experiments that are close to real scale applications are very demanding in time as well as in invested capital. To bypass this shortfall a gear failure like simulation is proposed. The simulation framework is based on real life experiments and is applied to assess a number of data-driven Remaining Useful Life (RUL) estimation techniques namely i) Proportional Hazards Μodel (PHM), ii) ε- Support Vector Regression ε-SVR and iii) Exponential extrapolation based on bootstrap sampling. In the current thesis a feature extraction scheme for prognosis is proposed and assessed based on time domain, frequency domain statistical features and Wavelet Packet (WP) energy derived from AE and vibration recordings. ICA is proposed as a preferable fusion technique for gear failure prognostics. Application of ICA for feature fusion provided a clear improvement regarding the earlier presented bootstrap extrapolation technique. Bearings are also taken into account since they are closely connected to gearboxes. In the current thesis a wavelet denoising method is proposed for bearing vibration recordings aiming to the improvement of the diagnostic and prognostic potential of vibration. Finally the importance of data fusion is highlighted in the case of bearings. It is observed that a feature extraction scheme can generalize the application of prognostics, even in cases where RMS may yield no important degradation trend. / Η παρούσα εργασία εστιάζεται στην ανάπτυξη μεθοδολογιών πρόβλεψης τελικής αστοχίας σε περιστρεφόμενα συστήματα με χρήση πολλαπλών αισθητήρων και μεθόδων μηχανικής μάθησης και επεξεργασίας σήματος. Το κίνητρο προήλθε από το κενό που υπάρχει στη βιβλιογραφία όσον αφορά την προγνωστική σε κιβώτια ταχυτήτων. Η προγνωστική σε έδρανα έχει μεν μελετηθεί αλλά σε μικρό βαθμό και η παρούσα εργασία έρχεται να συμβάλλει και σε αυτό τον τομέα. Στα πλαίσια αυτής της εργασίας εκπονήθηκε ένας αριθμός πειραμάτων κόπωσης κιβωτίων ταχυτήτων. Η μελέτη επεκτάθηκε πέραν της παρακολούθησης κατάστασης με τη μέθοδο των κραδασμών και συγκεκριμένα μελετήθηκαν καταγραφές σωματιδίων σιδήρου στο λιπαντικό (ODM) καθώς και Ακουστική Εκπομπής (AE). Η μέθοδος ΑΕ ευρέθη πιο στενά συσχετισμένη με τη σταδιακή υποβάθμιση της ακεραιότητας του κιβωτίου ταχυτήτων σε σχέση με τις καταγραφές κραδασμών. Επίσης με βάση τις καταγραφές του αισθητήρα σωματιδίων σιδήρου διακρίθηκαν δύο στάδια  υποβάθμισης i) μια γραμμική περιοχή με σχεδόν σταθερό ρυθμό απελευθέρωσης υλικού από την επιφάνεια των δοντιών και ii) μια σύντομη αλλά έντονα μη γραμμική αύξηση στο ρυθμό αυτό πολύ κοντά στο τέλος της λειτουργίας του κιβωτίου. Tα πολύωρα πειράματα κόπωσης σε γρανάζια είναι πολύ απαιτητικά. Για να παρακαμφθεί αυτή η δυσκολία αναπτύχθηκε ένα φαινομενολογικό μοντέλο για αναπαραγωγή χρονοσειρών που ομοιάζουν σε καταγραφές γραναζιών σε κόπωση. Το μοντέλο αυτό στηρίχθηκε σε πραγματικά πειράματα κόπωσης. Έτσι έγινε δυνατό να εξεταστούν και να συγκριθούν ένας αριθμός μεθοδολογιών εκτίμησης εναπομένουσας ζωής και συγκεκριμένα i) Proportional Hazards Model (PHM), ii) ε- Support Vector Regression ε-SVR και iii) Exponential extrapolation βασισμένο σε μια διαδικασία bootstrap sampling. Στην παρούσα μελέτη προτείνεται ένα σύνολο παραμέτρων προερχόμενο από το πεδίο της συχνότητας, του χρόνου και κυματοπακέτων. Αυτό, συνδυαζόμενο με μια διαδικασία σύμπτυξης δεδομένων (ανάλυση σε πρωταρχικές και ανεξάρτητες συνιστώσες) αξιοποιείται για πρόγνωση σε γρανάζια σε κόπωση. Η τεχνική ανεξάρτητων συνιστωσών προτείνεται σαν προτιμότερη από τη σκοπιά της προγνωστικής καθώς βελτιώνει την εκτίμηση της εναπομένουσας ζωής. Η εργασία επεκτάθηκε και σε έδρανα κύλισης. Προτάθηκε μια διαδικασία wavelet denoising η οποία ενισχύει τόσο τη διαγνωστική όσο και την προγνωστική δυνατότητα του αισθητήρα κραδασμών. Τέλος, η σημασία της εξαγωγής παραμέτρων υπογραμμίζεται και στην περίπτωση της προγνωστικής σε έδρανα. Συνδυάζοντας πολλαπλές παραμέτρους και αισθητήρες κραδασμών μαζί με ένα μοντέλο ε-SVR παρέχεται ένα ολοκληρωμένο μοντέλο πιθανοτικής εκτίμησης εναπομένουσας ζωής σε έδρανα κύλισης ακόμα και σε περιπτώσεις που η τιμή RMS των κραδασμών δεν παρέχει πληροφορία.