Εκτός από τα Τεχνητά Νευρωνικά Δίκτυα, ένα άλλο παρεμφερές πρόβλημα είναι αυτό της μοντελοποίησης των δομικών και λειτουργικών χαρακτηριστικών διαφόρων τμημάτων του Κεντρικού Νευρικού Συστήματος καθώς και των διαφόρων εγκεφαλικών λειτουργιών. Στόχος αυτής της διπλωματικής είναι η δημιουργία ενός μοντέλου του φυσιολογικού νευρώνα και της συγκρότησης νευρωνικών δικτύων που εμπλέκονται σε κάποια εγκεφαλική λειτουργία. Στην ανάπτυξη του μοντέλου λήφθηκαν υπόψη τα ιδιαίτερα νευροανατομικά χαρακτηριστικά και νευροφυσιολογικά χαρακτηριαστικά και οι ιδιότητες που σχετίζονται με τις υπό μελέτη εγκεφαλικές καταστάσεις. Επίσης διερευνήθηκε η αλληλεπίδραση και η αναπτυσσόμενη δυναμική, τόσο σε κυτταρικό επίπεδο όσο και σε συστημικό επίπεδο, καθώς και η δυναμική αλληλεπίδραση νευρωνικών δικτύων. Πραγματοποιήθηκε μακροσκοπική προσέγγιση με τη χρήση μαθηματικών μοντέλων και αναπτύχθηκε ένα GUI περιβάλλον για τη διαχείριση του προγράμματος από το χρήστη. / Apart from the Artificial Neural Networks, another similar problem is the modeling of structural and functional characteristics of different parts of the Central Nervous System and the various brain functions. The aim of this diploma is to create a model of normal neuron and the establishment of neural networks involved in some brain function. In developing the model were taken into account the specific neuroanatomical and neurophysiological characteristics and properties related to the studied brain states. We also investigated the interaction and the growing momentum, both at the cellular level and system level, and the dynamic interaction of neural networks. An macroscopic approach using mathematical models and developed a GUI environment for the management of the program by the user.

Τα Τεχνητά Νευρωνικά Δίκτυα είναι μια επιστημονική περιοχή η οποία έχει αναπτυχθεί κατά τις τελευταίες δεκαετίες και επικαλύπτει όλες σχεδόν τις θετικές επιστήμες και την μηχανολογία. Τα Νευρωνικά Δίκτυα αποτελούνται από ένα σύνολο απλών, διασυνδεδεμένων και προσαρμοστικών μονάδων οι οποίες δημιουργούν ένα παράλληλο και πολύπλοκο υπολογιστικό μοντέλο. Στην ουσία είναι προγράμματα που υλοποιούνται στους ηλεκτρονικούς υπολογιστές. Μέχρι σήμερα έχουν χρησιμοποιηθεί σε πολλές εφαρμογές και σε προβλήματα που οι γνωστοί τρόποι αντιμετώπισής τους παρουσιάζουν δυσκολίες, με αποτέλεσμα την αναγκαιότητα των Τεχνητών Νευρωνικών Δικτύων. Η εργασία αυτή αποτελείται από έξι κεφάλαια. Στο πρώτο κεφάλαιο κάνουμε μια εισαγωγή στα Τεχνητά Νευρωνικά Δίκτυα. Αναφέρουμε τις βασικές αρχές τους και την αντιστοιχία τους με τα βιολογικά δίκτυα. Το δεύτερο κεφάλαιο ασχολείται με το δίκτυο Perceptron. Ξεκινάμε με το πιο απλό μοντέλο, τον αισθητήρα και συνεχίζουμε με τα πολυεπίπεδα Νευρωνικά Δίκτυα Perceptron. Αναφέρουμε δύο μεθόδους εκπαίδευσης, τη μέθοδο οπισθοδιάδοσης του λάθους και τον κανόνα Δέλτα. Στο τρίτο κεφάλαιο μελετάμε άλλα είδη δικτύων, όπως τα αναδρομικά δίκτυα, το δίκτυο Hopfield, το δίκτυο SOM και το δίκτυο RBF. Το τέταρτο κεφάλαιο αναφέρεται στον νευρωνικό έλεγχο και στις αρχιτεκτονικές των νευρωνικών ελεγκτών. Στο πέμπτο κεφάλαιο εξετάζουμε κάποιες συγκεκριμένες εφαρμογές των Τεχνητών Νευρωνικών Δικτύων σε διάφορα συστήματα ελέγχου. Στο έκτο κεφάλαιο αναφέρουμε τα συμπεράσματα καθώς και μελλοντικές επεκτάσεις των ΤΝΔ. / Artificial Neural Networks are a research area which has developed over the past decades. Neural Networks consist of a set of simple, interconnected and adaptive plants that create a parallel and complex computational model. They are essentially programs implemented in computers. They have been used in many applications and problems that are very difficult to be solved otherwise. This work consists of six chapters. In the first chapter we make an introduction to Artificial Neural Networks. We mention the basic principles and their correlation with biological networks. The second chapter deals with the network Perceptron. We start with the simplest model, the sensor and continue with the multilayer Neural Network Perceptron. We mention two training methods, the method of error back-propagation and delta rule. In the third chapter we consider other types of networks such as the recurrent networks, Hopfield network, the network SOM and the RBF network. The fourth chapter deals with the neural control and the architectures of neural controllers. In the fifth chapter we examine some specific applications of Artificial Neural Networks in several control systems. The sixth chapter refers to the conclusions of this work and future evolution of ANN.

- / -

Σκοπός αυτής της διπλωματικής εργασίας είναι η σύγκριση δύο μεγάλων κατηγοριών, των Τεχνητών Νευρωνικών Δικτύων και των πολύ δημοφιλείς τα τελευταία χρόνια, Μηχανών Διανυσματικής Υποστήριξης (SVMs) στην Κατηγοριο-ποίηση δεδομένων και στην Παλινδρόμηση. Στο πρώτο κεφάλαιο έχουν γραφτεί θέματα σχετικά με την Εξόρυξη γνώσης και την Κατηγοριοποίηση δεδομένων, το δεύτερο κεφάλαιο προσεγγίζει αρκετά θέματα από το τεράστιο κεφάλαιο των Νευρωνικών Δικτύων. Αναλύει το λόγο που δημιουργή-θηκαν, το θεωρητικό τους μέρος, αρκετές από τις τοπολογίες τους – αρχιτεκτονικές τους και τέλος τις ανάγκες που δημιουργήθηκαν μέσα από τα πλεονεκτήματά και τα μειονεκτήματα τους, για ακόμη καλύτερα αποτελέσματα. Το τρίτο κεφάλαιο ασχολείται με τις Μηχανές Διανυσματικής Υποστήριξης, για πιο λόγο είναι τόσο δημοφιλείς, πως υλοποιούνται θεωρητικά και γεωμετρικά, τι πετυχαίνουν, τα πλεονεκτήματά και τα μειονεκτήματα τους. Το τέταρτο κεφάλαιο προσπαθεί μέσα από πειραματικά αποτελέσματα να συγκρίνει τα Τεχνητά Νευρωνικά Δίκτυα με τα SVMs με πραγματικά σύνολα δεδομένων (πρότυπα ή στιγμιότυπα), ποιοί δείκτες είναι αυτοί που θα μας δώσουν τελικά ποιος κατηγοριοποιητής είναι συνολικά καλύτερος; Όταν λέμε καλύτερος είναι αυτός που είναι πιο ακριβής ή πιο γρήγορος ή κάτι ενδιάμεσο; Το πέμπτο κεφάλαιο μας εξηγεί τι είναι παλινδρόμηση και συγκρίνει κύριους αλγορίθμους από τα Τεχνητά Νευρωνικά Δίκτυα και των Μηχανών Διανυσματικής Υποστήριξης. Στο έκτο κεφάλαιο και στα πλαίσια της διπλωματικής εργασίας υλοποίησα μία εφαρμογή σε Java, η οποία κάνει ταξινόμηση και παλινδρόμηση σε δεδομένα από αρχεία arff. Επικεντρώνεται μόνο στην ταξινόμηση και την παλινδρόμηση ενώ αυτό που το κάνει διαφορετικό από το Weka είναι η πρόβλεψη (Prediction) στο οποίο μπορούμε εμείς να δώσουμε κάποιο στιγμιότυπο και η εφαρμογή να μας κάνει πρόβλεψη για αυτό. Τέλος ακολουθούν ο επίλογος, τα παραρτήματα τα οποία καλύπτουν θεωρητικές βασικές έννοιες που αναφέρονται στα προηγούμενα κεφάλαια και διαγράμματα UML των κλάσεων που υλοποιούνται στην κατηγοριοποίηση (Classification) και στην πρόβλεψη (Prediction) στο Weka και κάποια κομμάτια κώδικα σε Java από την υλοποίηση του προγράμματος. Στην εργασία υπάρχει αρκετή βιβλιογραφία στην οποία γίνονται συνεχείς αναφορές. Στην εργασία υπάρχει αρκετή βιβλιογραφία στην οποία γίνονται συνεχείς αναφορές. Έγινε μεγάλη προσπάθεια στο να καταλάβει κάποιος πόσο σημαντική προσπάθεια έχει γίνει σε αυτό το χώρο της τεχνητής νοημοσύνης (Artificial intelligence) από τον Alan Turing και τους McCulloch και Pitts μέχρι τον Vapnik τον Osuna και τον Platt και πολλούς άλλους μετέπειτα. / The aim of this dissertation is the comparison of two major categories, the Artificial Neural Networks and the, very popular recently, Support Vector Machines on Data Classification and Regression. In the first chapter issues relevant to Data Mining and Data Classification are written, whereas in the second one, several issues from the enormous chapter of Artificial Neural Networks are approached. In this we analyze the reason for their creation, their theoretical part, several of their topologies – architectural and finally the needs that were created from their advantages and disadvantages for better results. In the third chapter we are dealing with the Support Vector Machines, the reason of their popularity, the way of their implementation theoretically and geometrically, their accomplishments and their advantages and disadvantages. In the fourth chapter, via experimental results, we are trying to compare the Artificial Neural Networks to the Support Vector Machines with real aggregate data, patterns or instances, which indicators are those that will finally give us the classifier that is the best. And by saying the best do we imply the most accurate, the fastest or something in between? In the fifth chapter we explain what Regression is and we compare major algorithms from Artificial Neural Networks and Support Vector Machines. In the sixth chapter we implemented an application into Java which performs classification and regression from arff files. It focuses only on classification and regression, while what differentiates it from Weka is Prediction on which we can give an instance and the application can make a prediction on/about it. Finally, we include the Conclusion/Epilogue, the appendices that cover basic theories which refer to previous chapters and UML diagrams of classes that are implemented on classification and Prediction in Weka, as well as some parts of the code in Java from the implementation of the program. In the Dissertation there is the Bibliography on which we constantly refer to. A great effort has been given so that anyone can understand the importance of the attempt that was done on the field of Artificial Intelligence by Alan Turing, McCulloch and Pitts up to Vapnik, Osuna and Platt and many others that followed.

Ο καρκίνος του μαστού αποτελεί μία από τις συχνότερα εμφανιζόμενες μορφές καρκίνου παγκοσμίως και είναι η πρώτη σε αριθμό κρουσμάτων στο γυναικείο πληθυσμό. Υπολογίζεται ότι στην Ελλάδα κάθε χρόνο προσβάλλονται από καρκίνο του μαστού 4500 γυναίκες και χάνουν τη ζωή τους 1500, ενώ υπολογίζεται ότι 1 στις 8 γυναίκες παγκοσμίως θα παρουσιάσει καρκίνο μαστού σε κάποια φάση της ζωής της. Είναι ενδιαφέρον ότι, στην Ευρώπη, το 60% των κρουσμάτων καρκίνου του μαστού διαγιγνώσκεται σε πρώιμο στάδιο – ποσοστό που στην Ελλάδα μόλις και μετά βίας εγγίζει το 5%. Τα στοιχεία αυτά καταδεικνύουν πόσο ελλιπής είναι η σχετική ενημέρωση μεταξύ των Ελληνίδων, γεγονός εξαιρετικά λυπηρό, αν λάβουμε υπόψη τις δυνατότητες πλήρους ίασης που παρέχει μία έγκαιρη διάγνωση. Τα ποσοστά θανάτου από καρκίνο του μαστού χαρακτηρίζονται από πτωτική τάση από τις αρχές του 1990, με τις μεγαλύτερες μειώσεις να εντοπίζονται στις γυναίκες κάτω των 50. Οι ερευνητές αποδίδουν την πτώση αυτή στην έγκαιρη διάγνωση μέσω μαστογραφιών καθώς και στις βελτιώσεις που έχουν επέλθει στις σχετικές θεραπευτικές αγωγές. Ο αριθμός των ατόμων που έχουν αντιμετωπίσει με επιτυχία τον καρκίνο του μαστού αυξάνεται συνεχώς - από τον Ιανουάριο του 2006, υπήρξαν περίπου 2,5 εκατομμύρια γυναίκες στις ΗΠΑ που, βάσει της έκθεσης, έχουν ξεπεράσει με επιτυχία την περιπέτεια του καρκίνου του μαστού. Το κλειδί για την επιτυχή καταπολέμηση του καρκίνου του μαστού είναι η πρώιμη ανίχνευση. Ο έγκαιρος εντοπισμός επιτυγχάνεται με διάφορες διαγνωστικές τεχνικές όπως η μαστογραφία, το σπινθηρογράφημα, το υπερηχογράφημα κ.α. Στη διπλωματική αυτή εργασία γίνεται προσπάθεια περιγραφής μια πειραματικής τεχνικής που βασίζεται στη θερμοκρασία της επιφάνειας του μαστού και που έχει ως σκοπό να λειτουργήσει συμπληρωματικά στις υπόλοιπες διαγνωστικές μεθόδους. / The breast cancer is one of the most common kinds of cancer worldwide and the first in incidence counts among women. It is estimated that 4500 women in Greece are diagnosed with breast cancer every year and 1500 die from breast cancer, while about 1 in 8 women worldwide will develop invasive breast cancer over the course of her lifetime. It is interesting that in Europe the 60% of the breast cancer incidence counts is diagnosed in an early stage, while in Greece this percentage barely reaches the 5%. These data reveal how deficient the decreased awareness among Greek women, which is really sad considering the chances for a full recovery in case of early detection. Breast cancer death rates began decreasing since 1990, with larger decreases in women under 50. These decreases are thought to be the result of treatment advances, earlier detection through screening, and increased awareness. The amount of people that have survived breast cancer is constantly increasing. Since January of 2006, more than 2,5 million women in the United States have been treated for breast cancer. The key for the successful prevention and treatment of breast cancer is the early detection. The early detection is achieved with various diagnostic screening techniques such as mammography, scintigraph, ultrasound etc. In this diploma thesis an experimental method which is based on breast surface temperature is being described and its purpose is to work supplementary with the rest of methods.

Η ηλεκτροεγκεφαλογραφία (EEG) και η μαγνητοεγκεφαλογραφία (MEG) είναι ιδιαίτερα χρήσιμες μέθοδοι εγκεφαλικών απεικονίσεων διότι έχουν πολύ καλή χρονική ανάλυση, της τάξεως του sec. Επειδή οι εγκεφαλικές διεργασίες εκτελούνται με μικρότερους ρυθμούς, οι εγκεφαλικές απεικονίσεις μέσω της EEG και MEG δίνουν τη δυνατότητα να παρακολουθούμε το λειτουργικό εγκέφαλο. Στο ευθύ πρόβλημα EEG γνωρίζουμε τη νευρωνική διέγερση που αναπτύσσεται εσωτερικά του εγκεφάλου και υπολογίζουμε το παραγόμενο ηλεκτρικό δυναμικό σε κάθε σημείο στο εξωτερικό ή στο εσωτερικό του εγκεφάλου. Αντίστοιχα στο ευθύ πρόβλημα MEG υπολογίζουμε το μαγνητικό δυναμικό εξωτερικά του εγκεφάλου. Στο αντίστροφο πρόβλημα της EEG γνωρίζουμε το ηλεκτρικό δυναμικό, από μετρήσεις, εξωτερικά του εγκεφάλου, στην επιφάνεια του κρανίου, και ζητάμε να προσδιορίσουμε τη νευρωνική διέγερση που το προκάλεσε. Για τη MEG γνωρίζουμε το μαγνητικό δυναμικό που καταγράφεται εξωτερικά του κρανίου και ζητάμε τη νευρωνική διέγερση που αναπτύχθηκε εσωτερικά του εγκεφάλου. Στην παρούσα εργασία επιλύονται οκτώ προβλήματα. Το ευθύ πρόβλημα και το αντίστροφο πρόβλημα της EEG και της MEG σε δύο περιπτώσεις. Στην πρώτη περίπτωση η νευρωνική διέγερση εντοπίζεται σε ένα μικρό ευθύγραμμο τμήμα, δηλαδή το ρεύμα που δημιουργήθηκε εσωτερικά του εγκεφάλου λόγω μιας εγκεφαλικής διεργασίας αναπαρίσταται με δίπολα που κατανέμονται κατά μήκος ενός μικρού ευθύγραμμου τμήματος. Επιλύουμε αρχικά το ευθύ πρόβλημα της EEG και στη συνέχεια το αντίστροφο πρόβλημα. Καταλήγουμε σε ένα μη γραμμικό σύστημα που, στη γενική περίπτωση, επιλύεται αριθμητικά για να υπολογίσει τη θέση και τη ροπή της διπολικής πηγής, τον προσανατολισμό και το μήκος του ευθύγραμμου τμήματος. Αναλυτικά επιλύουμε δύο ειδικές περιπτώσεις και βρίσκουμε μοναδική λύση. Στην πρώτη ειδική περίπτωση το ευθύγραμμο τμήμα είναι παράλληλο στον άξονα, ενώ στη δεύτερη στο άξονα και το κέντρο του, και στις δύο περιπτώσεις, είναι πάνω στο άξονα . Το ευθύ και το αντίστροφο πρόβλημα το επιλύουμε και για την περίπτωση της MEG δίνοντας αναλυτικά τη λύση στην περίπτωση που το ευθύγραμμο τμήμα είναι παράλληλο στο άξονα και το κέντρο του είναι επάνω στο άξονα. Στη δεύτερη περίπτωση μελετάμε ακριβώς τα ίδια προβλήματα όταν η νευρωνική διέγερση εντοπίζεται σε ένα μικρό κυκλικό δίσκο που το επίπεδό του είναι κάθετο στο διάνυσμα θέσης του κέντρου του δίσκου. Επιλύουμε το πρόβλημα σε συγκριμένη θέση του δίσκου για να απλοποιηθούν οι υπολογισμοί. Εφαρμόζουμε κατάλληλες στροφές Euler ώστε το επίπεδό του να βρεθεί σε θέση παράλληλη στο επίπεδο και το κέντρο του δίσκου να βρίσκεται πάνω στον άξονα. Στη συνέχεια εφαρμόζουμε στροφές Euler και το επαναφέρουμε στην αρχική θέση. Αφού επιλύσουμε τα ευθύ προβλήματα της EEG και MEG ξεχωριστά, προσδιορίζουμε, επιλύοντας το αντίστροφο, τη θέση του κυκλικού δίσκου. Καταλήγουμε σε ένα σύστημα μη γραμμικό που απαιτεί αριθμητική επίλυση τόσο για την EEG όσο και για τη MEG Αναλυτικά, επιλύουμε το αντίστροφο για την EEG σε μια ειδική περίπτωση κατά την οποία ο δίσκος είναι παράλληλος στο επίπεδο και το κέντρο του βρίσκεται πάνω στον άξονα και βρίσκουμε τη μοναδική λύση η οποία προσδιορίζει τη θέση του δίσκου, την ακτίνα του και τη ροπή της διπολικής πηγής. Με την επίλυση των προβλημάτων αυτών επιβεβαιώνουμε και τα αποτελέσματα της εργασίας των Albanese και Monk. Συγκεκριμένα, έδειξαν ότι δε μπορεί να προσδιοριστεί ο φορέας του ρεύματος που εντοπίζεται σε χώρο τριών διαστάσεων. Στην παρούσα διατριβή καθορίζουμε την έκτασης της νευρωνικής διέγερσης όταν η διάσταση του φορέα της είναι μικρότερη του τρία. / Electroencephalography (EEG) and Magnetoencephalography (MEG) are the two brain imaging modalities which have the necessary temporal resolution, sec for the study of the functional brain. Albanese and Monk have demonstrated that it is impossible to identify the extent of a localized three-dimensional current distribution lying inside a three-dimensional conductive medium. The purpose of the present work is to show that, as already predicted by Albanese and Monk, this result is not true if the current distribution is restricted on a one or two- dimensional set. The calculation of the values of the electric potential on the surface of the head defines the forward problem of EEG, while the calculation of the magnetic flux density a few centimeters outside the head defines the forward problem of MEG. The inverse EEG problem seeks to identify the neuronal current within the brain from the knowledge of the electric potential on the surface of the head. The corresponding inverse MEG problem seeks this neuronal current from the knowledge of the magnetic flux outside the head. In the present dissertation we study eight particular problems. They concern the forward and the inverse problem of EEG and MEG in two special geometric cases. In one geometrical case the neuronal current is supported on a small line segment and the neuronal current is represented by a dipole distribution along this line segment. First we solve the forward EEG problem and then we solve the inverse problem of identifying the location, the orientation, the size and the average dipolar moment over the line segment. We arrive at a nonlinear algebraic system which we solve analytically in two special cases. Next we solve the corresponding forward and the inverse MEG problems for the same structure. A second case concerns the relative EEG and MEG problems when the current is supported on a small disc normal to a radius of the conducting sphere. As before, we solve the EEG and MEG problems separately and then we solve the inverse EEG and MEG problems which determine the position, the orientation and the size of the disk supporting the primary neuronal current.

Η διπλωματική εργασία είχε ως κύριο σκοπό την επεξεργασία και ανάλυση ιατρικών σημάτων και κυρίως εμβρυακών καρδιακών σημάτων με απώτερο στόχο την εκτίμηση της κατάστασης της υγείας ενός εμβρύου κατά την διάρκεια του τοκετού. Η συνεχής παρακολούθηση της εμβρυακής καρδιακής συχνότητας δεν γίνεται για την εύρεση εμβρύων που μπορεί να αναπτύξουν κάποια μορφή δυσλειτουργίας, αλλά για να μπορεί να διαγνωστεί έγκαιρα η σημαντική πίεση η οποία μπορεί να ασκηθεί στο έμβρυο και να δημιουργήσει συνθήκες υποξίας. / -

Σήμερα η μελέτη των τεχνητών νευρωνικών δικτύων είναι ένα ώριμο επιστημονικό πεδίο. Τα πρώτα μοντέλα νευρωνικών δικτύων έκαναν την εμφάνιση τους την δεκαετία 1940 έως 1950, ξεκινώντας από το βασικό μοντέλο του νευρώνα του Mc Culloch-Pitls και τον πρώτο αλγόριθμο εκπαίδευσης ενός νευρώνα, τον γνωστό Perceptron του Frank Rosenblatt. Σήμερα υπάρχουν πληθώρα νευρωνικών μοντέλων που ακολουθούν διάφορα πρότυπα μάθησης όπως εκπαίδευση με εποπτεία (επίβλεψη) εκπαίδευση χωρίς εποπτεία κ.α. Η εργασία αυτή αποτελείται από 6 κεφάλαια ξεκινώντας από τις βασικές έννοιες των τεχνητών νευρωνικών δικτύων και συνεχίζοντας μέχρι την ανάλυση των ανατροφοδοτούμενων νευρωνικών δικτύων καθώς και την χρήση τους στον έλεγχο συστημάτων παρουσιάζοντας και διάφορες εφαρμογές τους. Στο πρώτο εισαγωγικό κεφάλαιο αναφέρουμε τις βασικές αρχές των τεχνητών νευρωνικών δικτύων και την αντιστοιχία τους με τον φυσικό νευρώνα του ανθρώπου. Παραθέτουμε επίσης μια σύντομη ιστορική αναδρομή Στην συνέχεια στο κεφάλαιο 2 ασχολούμαστε με τα ανατροφοδοτούμενα νευρωνικά δίκτυα. Δίνεται ένας ορισμός τον ανατροφοδοτούμενων νευρωνικών δικτύων (recurrent neural networks RNN) και αναφέρονται τα κυριότερα και δημοφιλέστερα είδη αυτών. Δίνοντας μια σύντομη ανάλυση της λειτουργίας τους. Το τρίτο κεφάλαιο ασχολείται με την εκπαίδευση των νευρωνικών δικτύων και τους διάφορους αλγόριθμους εκπαίδευσης. Ξεκινώντας από τον αλγόριθμο εκπαίδευσης του πιο απλού νευρωνικού δικτύου του Perceptron και καταλήγοντας στον αλγόριθμο Back-Propagation. Το τέταρτο κεφάλαιο αναφέρεται στον έλεγχο συστημάτων και την χρήση των νευρωνικών και ανατροφοδοτούμενων νευρωνικών δικτύων σε αυτόν. Αναλύονται οι διάφορες μοντελοποιήσεις καθώς και οι δομές ελέγχου (υπό επίβλεψη , αντίστροφος έλεγχος, προσαρμοστικός γραμμικός έλεγχος κ.α.) Στα δύο τελευταία κεφάλαια παραθέτουμε ένα παράδειγμα χρήσης ενός απλού ανατροφοδοτούμενου νευρωνικού δικτύου (simple recurrent network SRN) στον έλεγχο και τέλος εφαρμογές των νευρωνικών δικτύων σε διάφορους τομείς. / -

This thesis is dealing with classifiers in Computer Aided Diagnosis in medical imaging. In particular, it focuses on artificial neural networks and feature selection methods. The specific goals of the thesis are: 1. Search for optimal topology of a feed-forward neural network (FFNN), dealing with four (4) medical imaging classification problems (Cytology, MRI, CT, and Mammography). 2. Study three (3) feature selection (dimensionality reduction) methods including PCA, stepwise analysis and t-test ranking for the FFNN topology defined in the previous step, for the four (4) medical imaging classification problems at hand. 3. Compare performance of the FFNN scheme to KNN, SVM, PNN and LDA classifiers, dealing with the above mentioned four (4) medical imaging classification problems. 10-fold cross validation estimation of generalization performance (generalization error) of the classification schemes was utilized. 4. Statistical significance of the results was validated utilizing ANOVA and Duncan’s test. To facilitate experimentation, a user-friendly application was developed (Chapter 3) that allows the user to find the best network topology on feature vectors, selected by various pre-processing techniques, and compared with other classifiers. The results of this are: 1. There is no statistical evidence that the different topology that is tested have any impact on classification performance of FFNN in any of the classification problem that this thesis is dealt off. 2. The stepwise method of dimensionality reduction (feature selection) is statistically significance better method than the other methods, except in the case of one dataset (Cytology) where there are no statistical significant differences. This is because of the inherent ability of stepwise method to select uncorrelated features unlike the other two methods (the datasets that the stepwise featured better performance had many highly correlated features). 3. There is no statistical significant better classifier in most cases, while neuronal classifier exhibits very good behaviour on all cases. For that reason, the selection of classifier does not seem to affect the classification problems at hand. Furthermore, the choice of classifier could be done based on other criteria than the classification performance, such as, the simplicity and plasticity, features that characterize the FFNN. / Το αντικείμενο αυτής της εργασίας είναι οι ταξινομητές στα συστήματα υποβοηθούμενης διάγνωσης στην ιατρική απεικόνιση. Ειδικότερα, εστιάζει στα τεχνητά νευρωνικά δίκτυα καθώς και σε μεθόδους επιλογής χαρακτηριστικών. Οι στόχοι αυτής της εργασίας είναι: 1. Η αναζήτηση της βέλτιστης τοπολογίας ενός πρόσω κατευθυντικού νευρωνικού δικτύου, σε τέσσερα (4) προβλήματα ταξινόμησης ιατρικής απεικόνισης (κυτταρολογία, μαγνητική απεικόνιση, αξονική τομογραφία και μαστογραφία). 2. Η μελέτη τριών (3) μεθόδων επιλογής χαρακτηριστικών (μείωσης διαστάσεων) συμπεριλαμβανομένων της ανάλυσης κύριων συνιστωσών, της σταδιακής αναζήτησης και της κατάταξης κατά τ-τέστ για τα τέσσερα (4) προβλήματα ταξινόμησης που είχαμε στη διάθεσή μας. 3. Η σύγκριση της απόδοσης του πρόσω κατευθυντικού νευρωνικού δικτύου (FFNN) με τους KNN, SVM, PNN και LDA ταξινομητές, στα τέσσερα (4) προαναφερθέντα ιατρικά προβλήματα ταξινόμησης. Για την εκτίμηση της απόδοσης γενίκευσης (σφάλμα γενίκευσης) χρησιμοποιήθηκε η 10-πτυχη διασταυρούμενη επικύρωση. 4. Η στατιστική σημαντικότητα των αποτελεσμάτων ελέγχθηκε με τις δοκιμασίες της ανάλυσης της διακύμανσης κατά ένα παράγοντα (ANOVA) και της δοκιμασίας Duncan. Για την διευκόλυνση του πειραματικού μέρους αναπτύχθηκε μια φιλική στο χρήστη εφαρμογή που επιτρέπει την αναζήτηση της βέλτιστης τοπολογίας του νευρωνικού δικτύου για τα επιλεγμένα χαρακτηριστικά, και τις προεπιλεγμένες τεχνικές προ-επεξεργασίας, ενώ επιτρέπει και την σύγκριση του με άλλους ταξινομητές. Τα αποτελέσματα του πειραματικού μέρους αυτής της εργασίας είναι: 1. Δεν αποδεικνύεται στατιστικά ότι η τοπολογία του δικτύου έχει κάποια επίδραση στην απόδοση του στα τέσσερα αυτά προβλήματα που μελετήθηκαν. 2. Η μέθοδος σταδιακής αναζήτησης είναι στατιστικά καλύτερη μέθοδος για επιλογή χαρακτηριστικών (τη μείωση των διαστάσεων), εκτός από το ένα πρόβλημα που αφορούσε στην κυτταρολογία όπου δεν αποδείχθηκε στατιστικά σημαντική διαφορά μεταξύ των μεθόδων. Αυτό οφείλεται στο γεγονός ότι η μέθοδος σταδιακής αναζήτησης έχει την «ενδογενή» ικανότητα να επιλέγει χαρακτηριστικά που είναι ανεξάρτητα μεταξύ τους με αποτέλεσμα την αυξημένη διακριτική ικανότητα του τελικού συνόλου (τα προβλήματα που η μέθοδος αυτή επέδειξε καλή συμπεριφορά είχαν χαρακτηριστικά με υψηλό βαθμό συσχέτισης). 3. Δεν αποδεικνύεται στατιστικά καλύτερος ταξινομητής στις περισσότερες περιπτώσεις ενώ ο νευρωνικός ταξινομητής επιδεικνύει πολύ καλή συμπεριφορά σε όλες τις περιπτώσεις. Για το λόγο αυτό, η επιλογή του ταξινομητή δεν φαίνεται να επηρεάζει σε σημαντικό βαθμό την απόδοση του συστήματος στα προβλήματα που έχουν μελετηθεί εδώ. Επιπλέον, η επιλογή του ταξινομητή μπορεί να γίνει με όρους διαφορετικούς από την ταξινομητική ικανότητά τους όπως απλότητα και ευελιξία, χαρακτηριστικά που έχει ο νευρωνικός ταξινομητής.

Αυτή η εργασία μελετά την εφαρμογή προηγμένων τεχνικών επεξεργασίας εικόνας από υπολογιστές για την επίλυση του προβλήματος της ανίχνευσης ατελειών σε υφάσματα από τις βιομηχανίες παραγωγής υφασμάτων. Προτείνεται μία νέα μέθοδος ανίχνευσης ατελειών, η οποία αποτελείται από ένα περιττό συμμετρικό φίλτρο Gabor πραγματικών τιμών, ένα άρτιο συμμετρικό φίλτρο Gabor πραγματικών τιμών και ένα φίλτρο εξομάλυνσης. Κατά την ανάπτυξη της μεθόδου, τα φίλτρα Gabor σχεδιάζονται με βάση τα χαρακτηριστικά του texture που εξάγονται βέλτιστα από μία εικόνα ενός μη ελαττωματικού υφάσματος με τη χρήση ενός Gabor Wavelet Network (GWN). Η απόδοση της προτεινόμενης μεθόδου αξιολογείται με τη χρήση ενός σετ εικόνων υφασμάτων που προέρχονται από μία βάση δεδομένων που περιέχει μία μεγάλη ποικιλία εικόνων ομογενών υφασμάτων. Τα αποτελέσματα παρουσιάζουν ακρίβεια στην ανίχνευση ατελειών με πολύ λίγες λάθος ανιχνεύσεις, από όπου φαίνεται η αποτελεσματικότητα της προτεινόμενης μεθόδου. Τα πειραματικά αποτελέσματα επιβεβαίωσαν τις δυνατότητες της μεθόδου και ένας υπολογισμός του υπολογιστικού φορτίου που χρειάζεται για την υλοποίηση της έδειξε ότι μπορεί να χρησιμοποιηθεί ακόμα και σε συστήματα ανίχνευσης πραγματικού χρόνου. / -