Οι αλγόριθμοι μηχανικής μάθησης είναι επιθυμητό να είναι σε θέση να γενικεύσουν για οποιασδήποτε κλάση με ίδια ακρίβεια. Δηλαδή σε ένα πρόβλημα δύο κλάσεων - θετικών και αρνητικών περιπτώσεων - ο αλγόριθμος να προβλέπει με την ίδια ακρίβεια και τα θετικά και τα αρνητικά παραδείγματα. Αυτό είναι φυσικά η ιδανική κατάσταση. Σε πολλές εφαρμογές οι αλγόριθμοι καλούνται να μάθουν από ένα σύνολο στοιχείων, το οποίο περιέχει πολύ περισσότερα παραδείγματα από τη μια κλάση σε σχέση με την άλλη. Εν γένει, οι επαγωγικοί αλγόριθμοι είναι σχεδιασμένοι να ελαχιστοποιούν τα σφάλματα. Ως συνέπεια οι κλάσεις που περιέχουν λίγες περιπτώσεις μπορούν να αγνοηθούν κατά ένα μεγάλο μέρος επειδή το κόστος λανθασμένης ταξινόμησης της υπερ-αντιπροσωπευόμενης κλάσης ξεπερνά το κόστος λανθασμένης ταξινόμησης της μικρότερη κλάση. Το πρόβλημα των ανομοιογενών συνόλων δεδομένων εμφανίζεται και σε πολλές πραγματικές εφαρμογές όπως στην ιατρική διάγνωση, στη ρομποτική, στις διαδικασίες βιομηχανικής παραγωγής, στην ανίχνευση λαθών δικτύων επικοινωνίας, στην αυτοματοποιημένη δοκιμή του ηλεκτρονικού εξοπλισμού, και σε πολλές άλλες περιοχές. Η παρούσα διπλωματική εργασία με τίτλο ‘Μηχανική Μάθηση με Ανομοιογενή Δεδομένα’ (Machine Learning with Imbalanced Data) αναφέρεται στην επίλυση του προβλήματος αποδοτικής χρήσης αλγορίθμων μηχανικής μάθησης σε ανομοιογενή/ανισοκατανεμημένα δεδομένα. Η διπλωματική περιλαμβάνει μία γενική περιγραφή των βασικών αλγορίθμων μηχανικής μάθησης και των μεθόδων αντιμετώπισης του προβλήματος ανομοιογενών δεδομένων. Παρουσιάζεται πλήθος αλγοριθμικών τεχνικών διαχείρισης ανομοιογενών δεδομένων, όπως οι αλγόριθμοι AdaCost, Cost Senistive Boosting, Metacost και άλλοι. Παρατίθενται οι μετρικές αξιολόγησης των μεθόδων Μηχανικής Μάθησης σε ανομοιογενή δεδομένα, όπως οι καμπύλες διαχείρισης λειτουργικών χαρακτηριστικών (ROC curves), καμπύλες ακρίβειας (PR curves) και καμπύλες κόστους. Στο τελευταίο μέρος της εργασίας προτείνεται ένας υβριδικός αλγόριθμος που συνδυάζει τις τεχνικές OverBagging και Rotation Forest. Συγκρίνεται ο προτεινόμενος αλγόριθμος σε ένα σύνολο ανομοιογενών δεδομένων με άλλους αλγόριθμους και παρουσιάζονται τα αντίστοιχα πειραματικά αποτελέσματα που δείχνουν την καλύτερη απόδοση του προτεινόμενου αλγόριθμου. Τελικά διατυπώνονται τα συμπεράσματα της εργασίας και δίνονται χρήσιμες ερευνητικές κατευθύνσεις. / Machine Learning (ML) algorithms can generalize for every class with the same accuracy. In a problem of two classes, positive (true) and negative (false) cases-the algorithm can predict with the same accuracy the positive and negative examples that is the ideal case. In many applications ML algorithms are used in order to learn from data sets that include more examples from the one class in relationship with another class. In general inductive algorithms are designed in such a way that they can minimize the occurred errors. As a conclusion the classes that contain some cases can be ignored in a large percentage since the cost of the false classification of the super-represented class is greater than the cost of false classification of lower class. The problem of imbalanced data sets is occurred in many ‘real’ applications, such as medical diagnosis, robotics, industrial development processes, communication networks error detection, automated testing of electronic equipment and in other related areas. This dissertation entitled ‘Machine Learning with Imbalanced Data’ is referred to the solution of the problem of efficient use of ML algorithms with imbalanced data sets. The thesis includes a general description of basic ML algorithms and related methods for solving imbalanced data sets. A number of algorithmic techniques for handling imbalanced data sets is presented, such as Adacost, Cost Sensitive Boosting, Metacost and other algorithms. The evaluation metrics of ML methods for imbalanced datasets are presented, including the ROC (Receiver Operating Characteristic) curves, the PR (Precision and Recall) curves and cost curves. A new hybrid ML algorithm combining the OverBagging and Rotation Forest algorithms is introduced and the proposed algorithmic procedure is compared with other related algorithms by using the WEKA operational environment. Experimental results demonstrate the performance superiority of the proposed algorithm. Finally, the conclusions of this research work are presented and several future research directions are given.

Στην παρούσα διατριβή γίνεται μία μεθοδολογική συστηματική προσέγγιση του σχεδιασμού που βασίζεται στη χρήση τεχνικών της υπολογιστικής νοημοσύνης και στην εκμετάλλευση της προϋπάρχουσας διαθέσιμης σχεδιαστικής γνώσης. Προσδιορίζονται τα βασικά στοιχεία που οφείλει να ενσωματώνει η προτεινόμενη μεθοδολογία (αναπαράσταση και διαχείριση σχεδιαστικής γνώσης, αναζήτηση της βέλτιστης σχεδιαστικής λύσης και μάθηση και επαναχρησιμοποίηση σχεδιαστικής γνώσης), τα οποία σχηματίζουν τους πυρήνες γύρω από τους οποίους αναπτύσσονται αλγόριθμοι που βασίζονται στην χρήση τεχνικών υπολογιστικής νοημοσύνης (ασαφής λογική, τεχνητά νευρωνικά δίκτυα και γενετικοί αλγόριθμοι). Καθώς αναπτύσσεται η διατριβή, αναπτύσσεται η μαθηματική βάση για τη διατύπωση του παραμετρικού σχεδιαστικού προβλήματος και παρουσιάζεται ο συνεργατικός τρόπος βάσει του οποίου σχηματίζονται ασαφείς πίνακες δομής σχεδιασμού, βάσει των οποίων η διαθέσιμη σχεδιαστική γνώση οργανώνεται σε εύχρηστες ιεραρχικές δομές. Στη συνέχεια, εισάγεται ένα πλαίσιο ασαφούς συλλογιστικής για τη μοντελοποίηση από την πλευρά του σχεδιαστή των σχεδιαστικών στόχων/απαιτήσεων/περιορισμών υπό τη μορφή ασαφών προτιμήσεων. Προτείνεται επίσης το μέτρο της μέγιστης συνολικής ασαφούς προτίμησης ως κριτήριο βελτιστότητας των σχεδιαστικών λύσεων και προσαρμόζεται στην προτεινόμενη δομή οργάνωσης της σχεδιαστικής γνώσης. Η βέλτιστη σχεδιαστική λύση εξάγεται είτε μέσω μίας διαδικασίας βελτιστοποίησης που βασίζεται σε γενετικούς αλγόριθμους ή, εναλλακτικά, μέσω άλλων τεχνικών βελτιστοποίησης, ή χρησιμοποιώντας σχεδιασμό αναλογικής συλλογιστικής με ανάκτηση προηγούμενων σχεδιαστικών λύσεων. Οι σχεδιαστικές λύσεις είναι καταχωρημένες σε μία βάση και ανακτώνται χρησιμοποιώντας ένα εκπαιδευμένο ανταγωνιστικό τεχνητό νευρωνικό δίκτυο, το οποίο ομαδοποιεί τις λύσεις κατάλληλα και αποδίδει την ομάδα λύσεων που συγκλίνει προς τις τρέχουσες ασαφείς προτιμήσεις του σχεδιαστή. Στη διατριβή αναπτύσσονται και εισάγονται αρχιτεκτονικές, μέσω των οποίων οι διαδικασίες βελτιστοποίησης και ανάκτησης σχεδιαστικών περιπτώσεων συνδυάζονται υβριδικά, επιτυγχάνοντας αποτελέσματα ανώτερα σε ποιότητα και ταχύτητα επίτευξης σε σχέση με περιπτώσεις χρήσης μεμονωμένων (μη υβριδικών) τεχνικών. Εισάγεται επίσης μια μεθοδολογία σύμφωνα με την οποία οι σχεδιαστικές λύσεις που υπάρχουν στη βάση λύσεων χρησιμοποιούνται για τη νευρο-ασαφή προσέγγιση του αρχικού σχεδιαστικού προβλήματος και την απλοποιημένη μοντελοποίησή του. Αποδεικνύεται ότι η προσέγγιση αυτή είναι ιδιαίτερα κατάλληλη για σχεδιαστικά προβλήματα που παρουσιάζουν σημαντικό υπολογιστικό κόστος. Στα πλαίσια της συστημικής προσέγγισης για την υλοποίηση των προτεινόμενων μεθοδολογιών και αρχιτεκτονικών και για την αξιολόγηση αυτών, αναπτύχθηκε το σύστημα παραμετρικού σχεδιασμού Case-DeSC (Case-based design with Soft-Computing), το οποίο δοκιμάστηκε σε τρία διαφορετικά σχεδιαστικά προβλήματα. Τα αποτελέσματα εφαρμογής των προτεινόμενων μεθοδολογιών, οι προοπτικές εξέλιξης αυτών, καθώς και μια γενικότερη τοποθέτηση περί σχεδιασμού συνοψίζονται στο τέλος της παρούσας διατριβής. / The current Ph.D. thesis introduces a methodogical and systematic approach in order to perform engineering design by utilizing methods and techniques of computational intelligence as well as past design knowledge. Important issues and processes, such as representation and manipulation of design knowledge, extraction of optimal design solution, learning and reuse of design knowledge etc. are analytically discussed. Each one of the aforementioned elements is considered as core around which integrated algorithms are developed that combine various computational intelligence (soft-computing) techniques such as fuzzy logic, artificial neural networks and genetic algorithms. The parametric design problem is formulated on a mathematical basis, whereas the collaborative formation of fuzzy design structure matrices (DSM) is introduced as a basis on which the available design knowledge is organized in convenient hierarchical structures. Furthermore, in order to model the design objectives/requirements/constraints, a fuzzy inference framework is introduced that facilitates the expression of fuzzy preferences on various design parameters. The metric of the total maximum fuzzy preference is introduced as optimality criterion for the design solutions and then it is integrated in the proposed design knowledge organizational structure. The optimal solution is extracted either through an optimization process basically using a genetic algorithm or -alternatively- other optimization techniques, or through deploying analogical reasoning design with retrieval of past design solutions. The design solutions are preserved in a case base and they are retrieved by a trained competitive artificial neural network, which classifies the solutions into clusters and extracts the cluster that converges to the current designer’s preferences. Multiple options are provided for the extraction of optimal solutions. These options include: a) an optimization process that utilizes genetic algorithms, b) other evolutionary optimization techniques and c) analogical reasoning with retrieval of past design solutions. The design solutions are preserved in a case (solution) base and they are retrieved by a trained competitive artificial neural network that classifies the solutions into clusters and extracts the cluster that suits best to the current designer’s preferences. Architectures are developed and introduced, based on which the optimization and case-based retrieval processes are combined. This combination provides more efficient results in terms of quality and speed, if a comparison is made versus the implementation of individual (non-hybrid) techniques. Additionally, a methodology is proposed, according to which the design solutions located in the case base can be retrieved and utilized for a simplified neuro-fuzzy approximation of the initial design problem. It is proved that this approximation is suitable in case of design problems with high computational cost. In the context of a systemic approach of implementing the proposed methodologies and architectures and their evaluation, a system named Case-DeSC (Case-based design with Soft-Computing) is developed and tested against overall performance in three different design problems. The results from the implementation of the proposed methodologies, their future enhancements and evolution, as well as a general discussion about engineering design conclude the present dissertation.

Η διατριβή αναφέρεται στην ανάπτυξη μίας Μεθοδολογίας Ενοποίησης Εργαλείων Διοίκησης (Μ.Ε.Δ.Δ.) για την επίλυση προβλημάτων που παρουσιάζονται στον τομέα της υγείας, τα οποία αναφέρονται αφενός στη χωροθέτηση μονάδων υγείας και αφετέρου στην οργάνωση και διαχείρισή τους. Η καινοτομία της διατριβής αυτής είναι ότι αντιμετωπίζει τα προβλήματα αυτά σαν προβλήματα της μορφής ‘αιτία-κατάσταση-αντιμετώπιση’, δηλαδή προτείνει την ανάλυση των αιτιών (για παράδειγμα ανάλυση παραγόντων κινδύνου για τη δημιουργία Οξέος Στεφανιαίου Συνδρόμου) που οδηγούν σε μία κατάσταση (Οξύ Στεφανιαίο Σύνδρομο) και μετά χρησιμοποιεί αυτή την ανάλυση για την αντιμετώπιση των καταστάσεων (χωροθέτηση, οργάνωση και διαχείριση μονάδων καρδιαγγειακών νοσημάτων). Η Μ.Ε.Ε.Δ. βασίζεται στην ενοποίηση μεθόδων από τα πεδία της Επιχειρηματικής Νοημοσύνης (Business Intelligence), της Επιχειρησιακής Έρευνας και της Κοστολόγησης, με σκοπό αρχικά την εξαγωγή κανόνων για την εύρεση αιτιών που δημιουργούν μία κατάσταση, στη συνέχεια την αντιμετώπιση αυτής της κατάστασης με βάση τους εξορυγχθέντες κανόνες και τέλος την οργάνωση των λειτουργικών μονάδων που δημιουργήθηκαν για την αντιμετώπιση της κατάστασης. Αρχικά, χρησιμοποιούνται τρεις μέθοδοι του επιστημονικού πεδίου Εξόρυξης από Δεδομένα (data mining): οι κανόνες συσχέτισης (association rules), ταξινόμησης (classification rules) και ομαδοποίησης (clustering rules) ως τεχνικές εύρεσης ισχυρών κανόνων, δηλαδή αιτιών που δημιουργούν την κατάσταση. Στη συνέχεια, χρησιμοποιείται η ανάλυση χωροθέτησης (location analysis) από το πεδίο της επιχειρησιακής έρευνας, προκειμένου να χωροθετηθούν λειτουργικές μονάδες. Η τεχνική της προσομοίωσης (simulation) εφαρμόζεται, προκειμένου να εξετάσει σενάρια σχετικά με τη δομή και τους απαιτούμενους πόρους των μονάδων. Κατόπιν, η τεχνική της κοστολόγησης με βάση τις δραστηριότητες (Activity-based costing) χρησιμοποιείται για την κοστολόγηση των υπηρεσιών της μονάδας, ενώ η μέθοδος OLAP (On-line analytical processing) εφαρμόζεται για την παρακολούθηση της λειτουργίας της μονάδας και για τη λήψη στρατηγικών αποφάσεων και διορθωτικών μέτρων. Η εργασία αυτή προτείνει την οργάνωση των μεθόδων που αναφέρθηκαν με μία συγκεκριμένη ροή, ώστε κανείς να οδηγείται σε μία ολοκληρωμένη λύση τέτοιων πολύπλοκων προβλημάτων. / The thesis is concerned with the development of a methodology for solving a variety of problems in healthcare management, which refer to the location of health units, as well as their organization and management. The proposed methodology deals with these kinds of problems as problems of the form ‘cause-state-treatment’, which means that it proposes the analysis of the causes (for example risk factors associated with cardiovascular disease) which result in a state (cardiovascular disease) and then it uses this analysis to deal (treat) with the state (situation) (location, organization and management of Heart Disease Centers). The proposed methodology is based on the integration of various methods and techniques from the fields of Business Intelligence, Data Mining, Operational Research and Costing. Initially, the methodology extracts rules, which represent the causes that create a state, then it tackles the state (situation) based on the extracted rules, and finally it organizes the operational units, which are developed in order to deal with the state (situation). Thus, at the fist stage three data mining techniques are used: association rule mining, classification rules and clustering, as techniques for discovering strong rules in databases, that is, causes that lead to a state. Following, location analysis is used, intending to locate operational units, based on the quantitative results of the first stage. Simulation is used with the aim to examine alternative scenarios regarding the structure and the required resources (human resources as well as technology requirements) of the units. Then, activity-based costing is used to assess the efficiency of the health care technology. Finally, OLAP (On-line analytical processing) is applied in order for the health care managers to monitor the operations of the unit, as well as undertake corrective measures and finally aid decision making. The thesis proposes the organization of the aforementioned methods with a particular flow, so as the decision maker is led to an integrated solution of such complex health care management problems.

Η διατριβή πραγματεύεται το αντικείμενο της Υπολογιστικής Νοημοσύνης στην Οικονομική και Χρηματοοικονομική επιστήμη. Στο πρώτο μέρος της διατριβής αναπτύσσονται μέθοδοι ομαδοποίησης και υπολογιστικής νοημοσύνης για τη μοντελοποίηση και πρόβλεψη χρονολογικών σειρών ημερησίων συναλλαγματικών ισοτιμιών. Η προτεινόμενη μεθοδολογία κατασκευάζει τοπικούς προσέγγιστές, με τη μορφή νευρωνικών δικτύων, για ομάδες προτύπων στο χώρο εισόδων που αναγνωρίζονται από μη-επιβλεπόμενους αλγόριθμους ομαδοποίησης. Στη συνέχεια κατασκευάζονται τεχνικοί κανόνες συναλλαγών απευθείας από τα δεδομένα με τη χρήση γενετικού προγραμματισμού. Η επίδοση των νέων κανόνων συγκρίνεται με αυτή των γενικευμένων κανόνων κινητού μέσου. Το δεύτερο μέρος της διατριβής πραγματεύεται την εφαρμογή εξελικτικών αλγορίθμων για τον υπολογισμό και την εκτίμηση του πλήθους σημείων ισορροπίας σε προβλήματα από τη θεωρία παιγνίων και τη νέα οικονομική γεωγραφία. Πιο συγκεκριμένα, αξιολογείται η ικανότητα των εξελικτικών αλγορίθμων να εντοπίσουν σημεία ισορροπίας κατά Nash σε πεπερασμένα στρατηγικά παίγνια και προτείνονται τεχνικές για τον εντοπισμό περισσοτέρων του ενός σημείων ισορροπίας. Τέλος εφαρμόζονται κριτήρια από τη θεωρία υπολογισμού σταθερών σημείων και τη θεωρία τοπολογικού βαθμού για τη διερεύνηση της ύπαρξης και της υπολογιστικής πολυπλοκότητας του υπολογισμού βραχυχρόνιων σημείων ισορροπίας σε μοντέλα νέας οικονομικής γεωγραφίας. / The thesis investigates Computational Intelligence methods in Economics and Finance. The first part of the thesis is devoted to computational intelligence methods and unsupervised clustering methods for modeling and forecasting daily exchange rate time series. A methodology is proposed that relies on local approximation, using artificial neural networks, for subregions of the input space that are identified through unsupervised clustering algorithms. Furthermore, we employ genetic programming to construct novel trading rules directly from the data. The performance of the novel rules is compared to that of generalised moving average rules. In the second part of the thesis we employ evolutionary algorithms to compute and to estimate the number of equilibria in finite strategic games and new economic geography models. In particular, we investigate the capability of evolutionary and swarm intelligence algorithms to compute Nash equilibria and propose an approach for the computation of more than one equilibria. Finally we employ criteria from the theory on computation of fixed points and topological degree theory to investigate the existence and the computational complexity of computing short run equilibria in new economic geography models.

Η διδακτορική διατριβή επικεντρώθηκε στη μελέτη νέων τεχνικών κρυπτογραφίας και κρυπτανάλυσης, αλλά και στην ανάπτυξη νέων πρωτοκόλλων για την ασφαλή ηλεκτρονική συγκέντρωση δεδομένων. Το πρώτο πρόβλημα το οποίο διερεύνησε η διατριβή ήταν η δυνατότητα εφαρμογής των μεθόδων Υπολογιστικής Νοημοσύνης στην κρυπτολογία. Στόχος ήταν η ανίχνευση των κρίσιμων σημείων κατά την εφαρμογή των μεθόδων αυτών στον πολύ απαιτητικό αυτό τομέα προβλημάτων και η μελέτη της αποτελεσματικότητας και της αποδοτικότητάς τους σε διάφορα προβλήματα κρυπτολογίας. Συνοψίζοντας, τα αποτελέσματα της διατριβής για την εφαρμογή μεθόδων Υπολογιστικής Νοημοσύνης στην κρυπτολογία υποδεικνύουν ότι παρά το γεγονός ότι η κατασκευή των αντικειμενικών συναρτήσεων είναι πολύ κρίσιμη για την αποδοτικότητα των μεθόδων, η Υπολογιστική Νοημοσύνη μπορεί να προσφέρει σημαντικά πλεονεκτήματα στον κλάδο αυτό όπως είναι η αυτοματοποίηση κάποιων διαδικασιών κρυπτανάλυσης ή κρυπτογράφησης, ο γρήγορος έλεγχος της σθεναρότητας νέων κρυπτοσυστημάτων αλλά και ο συνδυασμός τους με τυπικές μεθόδους που χρησιμοποιούνται μέχρι σήμερα για την αξιοποίηση της απλότητας και της αποδοτικότητάς τους. Το δεύτερο πρόβλημα που μελετάται στην διατριβή είναι η εφαρμογή μεθόδων αντίστροφης πολυωνυμικής παρεμβολής για την εύρεση της τιμής του διακριτού λογαρίθμου αλλά και του λογαρίθμου του Lucas. Για την μελέτη αυτή χρησιμοποιήθηκαν δύο υπολογιστικές μέθοδοι αντίστροφης πολυωνυμικής παρεμβολής, οι μέθοδοι Aitken και Neville, οι οποίες είναι κατασκευαστικές και επιτρέπουν την πρόσθεση νέων σημείων παρεμβολής για καλύτερη προσέγγιση του πολυωνύμου με μικρό υπολογιστικό κόστος. Η παρούσα μελέτη έδειξε ότι και με την προτεινόμενη μεθοδολογία το συνολικό κόστος υπολογισμού της τιμής των λογαρίθμων παραμένει υψηλό, ωστόσο η κατανομή των πολυωνύμων που έδωσαν την λύση των προβλημάτων δείχνει ότι η μεθοδολογία που χρησιμοποιήθηκε είτε εντόπισε την λύση στα πρώτα στάδια κατασκευής των πολυωνύμων είτε εντόπισε πολυώνυμα μικρού σχετικά βαθμού που προσεγγίζουν την αντίστοιχη λύση. Το τρίτο πρόβλημα που πραγματεύεται η παρούσα διατριβή είναι η δημιουργία νέων σθεναρών κρυπτοσυστημάτων με την χρήση μη-γραμμικών δυναμικών απεικονίσεων. Η αξιοποίηση των ιδιοτήτων του χάους στην κρυπτογραφία έχει αποτελέσει αντικείμενο μελέτης τα τελευταία χρόνια από τους ερευνητές λόγω της αποδεδειγμένης πολυπλοκότητας των συστημάτων του και των ιδιαίτερων στατιστικών ιδιοτήτων τους. Η διατριβή συνεισφέρει προτείνοντας ένα νέο συμμετρικό κρυπτοσύστημα που βασίζεται σε περιοδικές δυναμικές τροχιές και παρουσιάζει και τρεις τροποποιήσεις του που το καθιστούν ιδιαίτερα σθεναρό απέναντι στις συνήθεις κρυπταναλυτικές επιθέσεις. Δίνεται επίσης το υπολογιστικό κόστος κρυπτογράφησης και αποκρυπτογράφης του προτεινόμενου σχήματος και παρουσιάζονται πειραματικά αποτελέσματα που δείχνουν ότι η δομή των κρυπτογραφημάτων του κρυπτοσυστήματος δεν παρέχει πληροφορία για την ύπαρξη τυχόν μοτίβων στο αρχικό κείμενο. Τέλος, στην διατριβή αυτή προτείνονται δύο πρωτόκολλα για την ασφαλή ηλεκτρονική συγκέντρωση δεδομένων. Η συγκέντρωση δεδομένων από διαφορετικές βάσεις με ασφάλεια και ιδιωτικότητα θα ήταν σημαντική για την μελέτη των γνώσεων που ενυπάρχουν στα δεδομένα αυτά, με διάφορες μεθόδους εξόρυξης δεδομένων και ανάλυσης, καθώς οι γνώσεις αυτές ενδεχομένως δεν θα μπορούσαν να αποκαλυφθούν από την επιμέρους μελέτη των δεδομένων χωριστά από κάθε βάση. Τα δύο πρωτόκολλα που προτείνονται βασίζονται σε τροποποιήσεις πρωτοκόλλων ηλεκτρονικών εκλογών με τρόπο τέτοιο ώστε να ικανοποιούνται τα απαραίτητα κριτήρια ασφάλειας και ιδιωτικότητας που απαιτούνται για την συγκέντρωση των δεδομένων. Η βασική διαφορά των δύο πρωτοκόλλων είναι ότι στο ένα γίνεται χρήση έμπιστου τρίτου μέλους για την συγκέντρωση των δεδομένων, ενώ στο δεύτερο όχι. Και στις δύο περιπτώσεις, παρουσιάζεται ανάλυση της ασφάλειας των σχημάτων αλλά και της πολυπλοκότητάς τους αναφορικά με το υπολογιστικό τους κόστος. / In this PhD thesis we study problems of cryptography and cryptanalysis through Computational Intelligence methods and computational mathematics. Furthermore, we examine the establishment and security of new privacy preserving protocols for electronic data gathering. Part I is dedicated to the application of Computational Intelligence (CI) methods, namely Evolutionary Computation (EC) methods and Artificial Neural Networks (ANNs), for solving problems of cryptology. Initially, three problems of cryptanalysis are formulated as discrete optimization tasks and Evolutionary Computation methods are utilized to address them. The first conclusion derived by these experiments is that when EC methods are applied to cryptanalysis special attention must be paid to the design of the fitness function so as to include as much information as possible for the target problem. The second conclusion is that when EC methods (and CI methods in general) can be used as a quick practical assessment for the efficiency and the effectiveness of proposed cryptographic systems. We also apply EC methods for the cryptanalysis of Feistel ciphers and for designing strong Substitution boxes. The results show that the proposed methods are able to tackle theses problem efficiently and effectively with low cost and in automated way. Then, ANNs are employed for classical problems of cryptography as a measure of their robustness. The results show that although different topologies, training methods and formulation of the problems were tested, ANNs were able to obtain the solution of the problems at hand only for small values of their parameters. The performance of ANNs is also studied on the computation of a Boolean function derived from the use of elliptic curves in cryptographic applications. The results indicate that ANNs are able to adapt to the data presented with high accuracy, while their response to unknown data is slightly better than a random selection. Another important finding is that ANNs require a small amount of storage for the known patterns in contrast to the storage needed of the data itself. Finally, a theoretical study of the application of Ridge Polynomial Networks for the computation of the least significant bit of the discrete logarithm is presented. In Part II, computational mathematics are utilized for different cryptographic problems. Initially, we consider the Aitken and Neville inverse interpolation methods for a discrete exponential function and the Lucas logarithm function. The results indicate that the computational cost for addressing the problems through this approach is high; however interesting features regarding the degree of the resulting interpolation polynomials are reported. Next, a new symmetric key cryptosystem that exploits the idea of nonlinear mappings and their fixed points to encrypt information is presented. Furthermore, a measure of the quality of the keys used is introduced. The experimental results indicate that the proposed cryptosystem is efficient and secure to ciphertext-only attacks. Finally, three modifications of the basic cryptosystem that render it more robust are presented and efficiency issues are discussed. Finally, at Part III of the thesis, two protocols for privacy preserving electronic data gathering are proposed. The security requirements that must be met for data gathering with privacy are presented and then two protocols, based on electronic voting protocols, are analytically described. Security and complexity issues are also discussed.

Η βιομηχανία της ένδυσης εξακολουθεί να στηρίζεται σε πολύ μεγάλο βαθμό στην χειρωνακτική εργασία. Αυτό οφείλεται στο γεγονός ότι τα υφάσματα είναι σώματα που παρουσιάζουν πολύ μικρή δυσκαμψία με αποτέλεσμα να παραμορφώνονται εύκολα, ενώ παράλληλα έχουν ένα μεγάλο εύρος δομών και ιδιοτήτων που καθιστά δύσκολη την ανάπτυξη αξιόπιστων και ευέλικτων συστημάτων χειρισμού. Στη διατριβή αυτή παρουσιάζεται μία μέθοδος για τον διαχωρισμό και σύλληψη ενός τεμαχίου υφάσματος από στοίβα, βασισμένη στη ροή αέρα υπό πίεση πάνω από τη στοίβα. Η ροή ανασηκώνει το άνω τεμάχιο, ενώ η τυρβώδης φύση της ροής διαχωρίζει το τεμάχιο από τα υποκείμενά του. Αναπτύσσονται δύο συστήματα για τον αυτόνομο προσδιορισμό της τροχιάς άκρου εργασίας ρομπότ, για την πραγματοποίηση του χειρισμού της απλής απόθεσης τεμαχίου υφάσματος σε τράπεζα εργασίας. Αυτά τα συστήματα βασίζονται σε μεθόδους υπολογιστικής νοημοσύνης, και πιο συγκεκριμένα στην ασαφή λογική, χωρίς να απαιτούν τη χρήση επιπρόσθετων συσκευών ή τη γνώση πολλών μηχανικών ιδιοτήτων των υφασμάτων. Μελετάται ο χειρισμός του διπλώματος υφάσματος σε τράπεζα εργασίας και εισάγονται τρία στάδια στα οποία μπορεί να χωριστεί αυτός ο χειρισμός ώστε να μειωθεί η πολυπλοκότητα του συνολικού χειρισμού. Αναλύεται το κάθε στάδιο και παρουσιάζονται τα χαρακτηριστικά μορφής του υφάσματος που επιλέγονται για να περιγράψουν την κατάστασή του για κάθε στάδιο του χειρισμού. Εισάγεται μια μέθοδος για την εξαγωγή αυτών των χαρακτηριστικών με τη χρήση δύο αισθητήρων όρασης, η οποία βασίζεται στην αναζήτηση των χαρακτηριστικών αυτών σε συγκεκριμένες περιοχές του χώρου της εικόνας. Αυτό καθίσταται δυνατό χάρη στην βαθμονόμηση των αισθητήρων. Αναπτύσσεται μία στρατηγική για το δίπλωμα υφασμάτων βασισμένη σε ασαφή λογική με ανάδραση όρασης. Ο ασαφής ελεγκτής, πολλών εισόδων-εξόδων, εκπαιδεύεται με τη μέθοδο δοκιμής-και-σφάλματος και παρέχει τα κέρδη ενός Ρ-ελεγκτή. Το σύστημα παρουσιάζει ευελιξία και αξιοπιστία για υφάσματα που ικανοποιούν τους περιορισμούς που έχουν τεθεί. Παρουσιάζεται μία στρατηγική για τον έλεγχο του ενεργού διπλώματος όπου δύο ανεξάρτητα υποσυστήματα αναλαμβάνουν τον προσδιορισμό της κατάστασης στόχου του υφάσματος και την επίτευξη αυτού του στόχου αυξάνοντας με αυτόν τον τρόπο την ευελιξία του συστήματος. Οι μέθοδοι που αναπτύχθηκαν μπορούν να χρησιμοποιηθούν ως αφετηρία για την εισαγωγή αξιόπιστων και ευέλικτων αυτοματισμών με σκοπό την εκτέλεση των χειρισμών της βιομηχανίας ένδυσης από ρομπότ. / The apparel industry is still mainly based on manual labor. The main reason for the automation delay is the fact that fabrics are bodies that present very low bending rigidity, and as a result they are easily deformed. Fabrics also present a great variety of structures and properties. These facts deter the development of reliable and flexible robotic handling systems. In this thesis a method for the separation and capture of a piece of fabric from a stack is presented, based on air flow over the stack. The difference in static pressure, caused by the flow, lifts the upper piece of the fabric, while the turbulent nature of the flow separates it from its underlying pieces. Two systems are developed for the determination of the trajectory of the end-effector of a robot, for the realization of the simple laying task of a piece of fabric on a work table. These systems are based on soft computing, and particularly on fuzzy logic, and any additional apparatuses or the knowledge of many mechanical properties of the fabrics are not required. The task of folding a piece of fabric on a work table is investigated and three stages are introduced, in which the folding task can be decomposed in order to reduce the complexity of the robot controller development. Each stage is explained and the shape characteristics that are selected in order to describe the shape of the fabric for each stage are presented. A method for the extraction of the selected characteristics from two vision sensors is introduced, which is based on variable image segmentation. The calibration of the vision sensors is also presented. A strategy is developed for the folding of rectangular pieces of fabric based on fuzzy logic with vision feedback. The indirect fuzzy controller is trained via trial-and-error and provides the variable gains of a P-controller. The system presents flexibility and reliability for the fabrics that satisfy the restrictions that have been set. Finally, a strategy for the control of the true folding stage is presented, according to which two separate subsystems determine the target state of the fabric and lead the fabric towards that state, increasing thus the flexibility of the system. The methods that are developed in this thesis can be the stepping stone for the introduction of reliable and flexible automation schemes for the realization of some of the apparel industry tasks that are still labor intensive.

Αντικείμενο της Διπλωματικής εργασίας είναι η μεταφορά ενός παιχνιδιού στρατηγικής, πού έχει αναπτυχθεί με γνώμονα τους κανόνες της Ενισχυτικής Μάθησης (Reinforcement Learning) & των Νευρωνικών δικτύων (Neural Networks), σε πλατφόρμα κινητού τηλεφώνου 6ης γενιάς & μέσω διαδικτύου με σκοπό την εκπαίδευσης του συστήματος από τον απλό χρήστη. Σκοπός της διπλωματικής εργασίας είναι η σχεδίαση, ανάπτυξη του συστήματος λογισμικού βασισμένου σε τεχνολογίες διαδικτύου & κινητής τηλεφωνίας. Η Παρούσα εργασία επικεντρώνεται σε τρεις τομείς: • Έρευνα υφιστάμενων mobile τεχνολογιών • Δυνατότητα επανασχεδιασμού εφαρμογής με χρήση τεχνολογιών mobile internet • Έλεγχος υφιστάμενης δυνατότητας επανασχεδίασης και επαναϋλοποίησης του παιχνιδιού με χρήση άλλων συστημάτων (πλατφόρμων) σε συνδυασμό με χρήση ενισχυτικής μάθησης. / In this paper we review our work on th acquisition of game-playing capabilitiew by a computer , when the only source of knowledge comes from extended self-play and sparsely dispersed human-expert play. We summarily present experiment that showhow a reinforcement learning backbone coupled with neural networks for approximation can indeed serve as amechanism of the acquisition oof game playing skill and we derive game interestingness measures that are inexpensive and strightforward to compute, yert also capture the relative quality of the game playing engine.

Η παρούσα διατριβή ασχολείται με τη μελέτη, την ανάπτυξη και τη θεμελίωση νέων μεθόδων Υπολογιστικής Νοημοσύνης και Ευφυούς Βελτιστοποίησης. Συνοπτικά οργανώνεται στα ακόλουθα τρία μέρη: Αρχικά παρουσιάζεται το πεδίο της Υπολογιστικής Νοημοσύνης και πραγματοποιείται μία σύντομη αναφορά στους τρεις κύριους κλάδους της, τον Εξελικτικό Υπολογισμό, τα Τεχνητά Νευρωνικά Δίκτυα και τα Ασαφή Συστήματα. Το επόμενο μέρος αφιερώνεται στην παρουσίαση νέων, καινοτόμων οικογενειών των αλγορίθμων Βελτιστοποίησης Σμήνους Σωματιδίων (ΒΣΣ) και των Διαφοροεξελικτικών Αλγόριθμων (ΔΕΑ), για την επίλυση αριθμητικών προβλημάτων βελτιστοποίησης χωρίς περιορισμούς, έχοντας είτε ένα, είτε πολλαπλούς ολικούς βελτιστοποιητές. Οι αλγόριθμοι ΒΣΣ και ΔΕΑ αποτελούν τις βασικές μεθοδολογίες της παρούσας διατριβής. Όλες οι οικογένειες μεθόδων που προτείνονται, βασίζονται σε παρατηρήσεις των κοινών δομικών χαρακτηριστικών των ΒΣΣ και ΔΕΑ, ενώ η κάθε προτεινόμενη οικογένεια τις αξιοποιεί με διαφορετικό τρόπο, δημιουργώντας νέες, αποδοτικές μεθόδους με αρκετά ενδιαφέρουσες ιδιότητες και δυναμική. Η παρουσίαση του ερευνητικού έργου της διατριβής ολοκληρώνεται με το τρίτο μέρος στο οποίο περιλαμβάνεται μελέτη και ανάπτυξη μεθόδων ολικής βελτιστοποίησης για την εκπαίδευση Τεχνητών Νευρωνικών Δικτύων Υψηλής Τάξης, σε σειριακά και παράλληλα ή / και κατανεμημένα υπολογιστικά συστήματα. Η διδακτορική διατριβή ολοκληρώνεται με βασικά συμπεράσματα και τη συνεισφορά της. / The main subject of the thesis at hand revolves mainly around the development and foundations of new methods of computational intelligence and intelligent optimization. The thesis is organized into the following three parts: Firstly, we briefly present an overview of the field of Computational Intelligence, by describing its main categories, the Evolutionary Computation, the Artificial Neural Networks and the Fuzzy Systems. In the second part, we provide a detailed description of the newly developed families of algorithms for solving unconstrained numerical optimization problems in continues spaces with at least one global optimum. The proposed families are based on two well-known and widely used algorithms, namely the Particle Swarm Optimization (PSO) and the Differential Evolution (DE) algorithm. Both DE and PSO are the basic components for almost all methodologies proposed in the thesis. The proposed methodologies are based on common observations of the dynamics, the structural and the spacial characteristics of DE and PSO algorithms. Four novel families are presented in this part which exploit the aforementioned characteristics of the DE and the PSO algorithms. The proposed methodologies are efficient methods with quite interesting properties and dynamics. The presentation and description of our research contribution ends with the third and last part of the thesis, which includes the study and the development of novel global optimization methodologies for training Higher order Artificial Neural Networks in serial and parallel / distributed computational environments. The thesis ends with a brief summary, conclusions and discussion of the contribution of this thesis.

Η βιομηχανία παραγωγής ρούχων, ακόμα και σήμερα, αποτελεί ένα βιομηχανικό κλάδο όπου η αυτοματοποίηση είναι εν μέρει σχεδόν ανύπαρκτη και εν γένει σε εμβρυικό στάδιο. Ένα μεγάλο τμήμα της γραμμής παραγωγής αποτελεί το τμήμα κατά το οποίο κομμάτια υφάσματος ράβονται σε μία ραπτομηχανή. Το στάδιο της ραφής, παρόλο που είναι το μεγαλύτερο σε χρονική διάρκεια και το σημαντικότερο στην τελική ποιότητα, παραμένει σχεδόν εξολοκλήρου μία χειρονακτική εργασία. Οι ιδιαιτερότητες των υφασμάτων όπως: η πολύ μικρή αντίστασή τους σε κάμψη, οι μεγάλες παραμορφώσεις τους, η απρόβλεπτη στατική/δυναμική συμπεριφορά τους, η ανισότροπη και μη-γραμμική φύση τους και η ανομοιογένειά τους είναι οι κύριοι παράγοντες των έντονων δυσκολιών κατά τον χειρισμό τους. Η ρομποτική ραφή είναι ένα σχετικά νέο ερευνητικό πεδίο αλλά και εξαιρετικά πολύπλοκο πρόβλημα, όπου ελάχιστοι ερευνητές έχουν προσπαθήσει να προσεγγίσουν. Αυτή τη στιγμή, από όσο είναι δυνατόν να είναι γνωστόν, μόνο τρία ερευνητικά κέντρα ασχολούνται, σε διεθνή επίπεδο, ενώ το ένα από αυτά είναι η Ομάδα Ρομποτικής του Πανεπιστημίου Πατρών. Στόχος της διατριβής είναι η ανάπτυξη ενός ευέλικτου συστήματος το οποίο ενσωματώνει όλα εκείνα τα ευφυή χαρακτηριστικά ώστε να συμβάλει στη ρομποτική αυτοματοποίηση της ραφής υφασμάτων. Η επίτευξη αυτού του στόχου στηρίζεται σε μεθόδους υπολογιστικής νοημοσύνης, σε τακτικές εμπνευσμένες από τον τρόπο εργασίας του ίδιου του ανθρώπου και στην ποιοτική διαχείριση της γνώσης/δεδομένων που εμπεριέχουν ασάφεια. Ταυτόχρονα, επιτυγχάνεται ο έλεγχος της ραφής χωρίς τη χρήση αναλυτικών μοντέλων τόσο των υφασμάτων όσο και της διαδικασίας. Ο συντονισμός όλων των προηγουμένων επιτυγχάνεται από ένα ευέλικτο ευφυές ιεραρχικό σύστημα ελέγχου της διαδικασίας της ραφής. Στην παρούσα διατριβή αναπτύχθηκε ένα σύνολο νέων μεθόδων για την αυτοματοποιημένη ραφή υφασμάτων με ένα βιομηχανικό ρομπότ εφοδιασμένο με έναν αισθητήρα δύναμης και μία κλασσικού τύπου ραπτομηχανή. Η πρωτότυπη προσέγγιση που αποτελεί το πλαίσιο της διατριβής αποτελείται από ένα ιεραρχικό σύστημα εκτιμήσεων, αποφάσεων και ελέγχου της διαδικασίας ραφής. Γίνεται μία συστηματική μελέτη, καταγραφή και αξιολόγηση όλων των χειρισμών του υφάσματος, πριν και κατά τη διάρκεια της ραφής, ως προς τις απαιτήσεις τους σε συστήματα αισθητήρων αλλά και στρατηγικών ελέγχου. Αναπτύσσεται μία πρωτότυπη βάση δεδομένων και ένα έμπειρο σύστημα που ενσωματώνουν όλη αυτή την προγενέστερη γνώση και εμπειρία. Παρουσιάζεται η ιδέα της εφαρμογής μεθόδων υπολογιστικής νοημοσύνης στο επιστημονικό πεδίο της ραφής υφασμάτων και εφαρμογής μεθόδων ευφυούς ελέγχου, για την τάνυση των υφασμάτων, βασισμένες σε νευρωνικά δίκτυα οι οποίες, για πρώτη φορά, χρησιμοποιούν ποιοτικές εκτιμήσεις των ιδιοτήτων και των χαρακτηριστικών των υφασμάτων. Έτσι, εισάγεται η έννοια των λεκτικών μεταβλητών για την ποιοτική περιγραφή των ιδιοτήτων των υφασμάτων. Στο πλαίσιο αυτό, εκφράζεται για πρώτη φορά, ποιοτικά σαν ποσοστό, η έννοια της “εκτατότητας” (extensibility) των υφασμάτων, που είναι μία βασική και καθοριστική ιδιότητά τους κατά την εργασία της ραφής τους. Επίσης περιγράφεται η ανάπτυξη μιας νέας μεθόδου αυτοματοποιημένου πειραματικού προσδιορισμού της “εκτατότητας” των υφασμάτων. Η πρωτότυπη αυτή προσέγγιση εφαρμόστηκε σε μονά και διπλά υφάσματα ενώ τα πειράματα εφελκυσμού ενσωματώθηκαν “έξυπνα” στην ίδια τη ραπτομηχανή και λίγο πριν τη διαδικασία της ραφής. Παρουσιάζεται ένα ασαφές σύστημα εξαγωγής της επιθυμητής τάνυσης, κατά τη ραφή του κάθε υφάσματος, το οποίο βασίζεται στην ποιοτική εκτίμηση της “εκτατότητας” του υφάσματος και διαμορφώθηκε από την εμπειρία του έμπειρου χειριστή και την ασαφή συνεπαγωγή που κάνει αυτός ανάμεσα στην “εκτατότητα” και την επιθυμητή τάνυση. Αναπτύχθηκε μία νέα μέθοδος ελέγχου της τάνυσης του υφάσματος κατά τη ραφή του. Σε αυτή χρησιμοποιήθηκε ένας νευρωνικός ελεγκτής ευθείας τροφοδότησης για τον έλεγχο του ρομποτικού άκρου εργασίας με σκοπό τη διατήρηση της τάνυσης του υφάσματος σύμφωνα με την εκάστοτε επιθυμητή. Επιπροσθέτως, παρουσιάζεται η επέκταση της προτεινόμενης προσέγγισης, του νευρωνικού ελέγχου της τάνυσης, η οποία έδειξε τη δυνατότητα γενίκευσής της και σε άλλες παραπλήσιες εργασίες. Επίσης, καταγράφονται τα νέα ερευνητικά πεδία που ανοίγουν στο χώρο της συνεργασίας ανθρώπου-ρομπότ για τον χειρισμό υπερ-εύκαμπτων και εύκαμπτων αντικειμένων. Τελικά, παρουσιάζεται μία συστηματική εργαστηριακή εκτέλεση ραφών, σε μία μεγάλη ποικιλία τόσο μονών όσο και διπλών υφασμάτων, με ρομπότ ενώ συγκρίθηκαν αυτές με ραφές από έμπειρους. Μέσα από τις πειραματικές ραφές αναδεικνύεται, η αναζητούμενη ευελιξία του συστήματος και η ικανοποιητική απόκρισή του σε μία μεγάλη ποικιλομορφία υφασμάτων. / The clothing industry, even today, is an industry where automation is partly almost nonexistent and generally in their infancy stages. A large part of the production line is the part in which pieces of fabrics are sewn using a sewing machine. The sewing process, while being the largest in duration and the most important to the final quality of the cloths, remains almost entirely one handiwork. The specifics of fabrics like: their very little bending resistance, their large deformations, their unpredictable static / dynamic behavior, their anisotropic and non-linear nature and heterogeneity are the main factors of acute difficulties in their handling. The robotized sewing of fabrics is a relatively new research field but it is also an extremely complex problem, where few researchers have tried to investigate it. Right now, as far as can be known, only three research centers in international level are involved this field, while one of them is the Robotics Group of the University of Patras. The aim of this thesis is to develop a flexible system which incorporates all those intelligent features in order to help automate robotic sewing of fabrics. This objective is based on computational intelligence methods, in approaches inspired by the way a human works and finally in the qualitative management of the knowledge/data that involve uncertainties. Simultaneously, the sewing control is achieved without using analytical models of both the fabrics and process. The coordination, of all of the previous mentioned, is achieved by a flexible hierarchical intelligent control system of the sewing process. This thesis developed a set of new set of methods for automated sewing of fabrics using an industrial robot, equipped with a force sensor, and a conventional sewing machine. The novel approach, which composes the main framework of this thesis, consists of a hierarchical system of estimations, decisions and process control of the sewing task. It is a systematic study, of recording and evaluating all the fabric handling tasks before and during the sewing process, according to the necessary requirements in sensor systems and control strategies. An original database and an expert system incorporating all this prior knowledge and experience is developed. The idea of applying methods of computational intelligence to the scientific field of sewing fabrics is presented. Also, the application of intelligent control methods, for stretching the fabrics during the sewing, which is based on neural networks while using qualitative assessment of the properties and characteristics of fabrics, is presented. Therefore, the concept of using linguistic variables for the qualitative description of the properties of fabrics, is introduced. In this context, it is the first time where the concept of the "extensibility" of a fabric is expressed quantitatively as a percentage. This is an essential and determining property of a fabric that should be taken into account during the sewing process. Also, the development of a new method for the automated experimental determination of "extensibility" of fabrics is described. This original approach has been applied to single and double layers of fabrics, while the tensile experiments are ‘intelligently’ incorporated into the same sewing machine and just before the sewing process. A fuzzy system for determining the desired tension for each of the fabrics is presented. This system is based on a qualitative assessment of "extensibility" of each fabric and it is initialized by the experience of the experts and the fuzzy implication they make between "extensibility" and desired tension. A new method to control the tension of the fabric during the sewing is developed. A feedforward neural controller, to control the robotic gripper to maintain the tension of the fabric according to the respective desired, has been used. Additionally, an expansion of the proposed approach is presented, for the case of the neuro-control of the tension, which showed the controller’s ability of generalization to other similar tasks. Also, new research areas that have been opened in the field of human-robot cooperation for handling non-rigid and very flexible objects are stated. Finally, there is presented a systematic experimental robotic execution of seams in a wide variety of both single and double layers of fabrics, while the, produced by the robot, seams are compared with the seams produced by the experts. Through experimental phase and the results of the stitched fabrics it is highlighted the desired flexibility of the system and its satisfactory response in a wide variety of fabrics.