Τα τεχνητά νευρωνικά δίκτυα είναι μια μορφή τεχνητής νοημοσύνης, τα οποία αποτελούνται από ένα σύνολο απλών, διασυνδεδεμένων και προσαρμοστικών μονάδων, οι οποίες συνιστούν ένα παράλληλο πολύπλοκο υπολογιστικό μοντέλο. Μέχρι σήμερα έχουν εφαρμοστεί επιτυχημένα σε ένα ευρύ φάσμα περιοχών για την επίλυση προβλημάτων ταξινόμησης ή πρόβλεψης, όπως η βιολογία, η ιατρική, η γεολογία, η φυσική κ.ά. Σε αυτήν την εργασία θα ασχοληθούμε με την εκπαίδευση τεχνητών νευρωνικών δικτύων ανά πρότυπο εισόδου. Αυτή η προσέγγιση θεωρείται κατεξοχήν κατάλληλη για περιπτώσεις όπου η εκπαίδευση διαθέτει σημαντικό χρόνο και απαιτεί μεγάλο αποθηκευτικό χώρο, όπως συμβαίνει συχνά όταν έχουμε μεγάλα σύνολα προτύπων ή/και δίκτυα. Μέχρι σήμερα έχουν προταθεί πολλοί αλγόριθμοι εκπαίδευσης νευρωνικών δικτύων, καλύπτοντας ο ένας τα κενά του άλλου, σχεδιασμένοι ώστε να επιλύουν τα προβλήματα που παλιότερα ήταν δύσκολο να επιλυθούν. Στόχος της εργασίας είναι η εκτενής ανάλυση και αξιολόγηση των αλγορίθμων εκπαίδευσης καθώς και η ικανότητα γενίκευσης των εκπαιδευόμενων δικτύων σε μια ποικιλία προβλημάτων από τους τομείς τις ιατρικής και της βιοπληροφορικής. Επίσης επηρεασμένοι από τη δυνατότητα για την επίτευξη καλύτερης απόδοσης θα μελετήσουμε την συμβολή των νευρωνικών δικτύων στη μηχανική μάθηση. Συγκεκριμένα θα αποτιμήσουμε τη συνεισφορά των νευρωνικών δικτύων στη δημιουργία αξιόπιστων συστημάτων αποφάσεων χρησιμοποιώντας τεχνικές συνδυασμού ταξινομητών. Τέλος, θα μελετήσουμε τις δυνατότητες συνδυασμού τους με διάφορες άλλες κατηγορίες ταξινομητών μηχανικής μάθησης για την ανάπτυξη ισχυρότερων υβριδικών συστημάτων εξαγωγής πληροφορίας. / Literature review corroborates that artificial neural networks are being successfully applied in a variety of regression and classification problems. Due of their ability to exploit the tolerance for imprecision and uncertainty in real-world problems and their robustness and parallelism, artificial neural networks have been increasingly used in many applications. It is well-known that the procedure of training a neural network is highly consistent with unconstrained optimization theory and many attempts have been made to speed up this process. In particular, various algorithms motivated from numerical optimization theory have been applied for accelerating neural network training. Moreover, commonly known heuristics approaches such as momentum or variable learning rate lead to a significant improvement. In this work we compare the performance of classical gradient descent methods and examine the effect of incorporating into them a variable learning rate and an adaptive nonmonotone strategy. We perform a large scale study on the behavior of the presented algorithms and identify their possible advantages. Additionally, we propose two modifications of two well-known second order algorithms aiming to overcome the limitations of the original methods.

Αυτή η εργασία διαπραγματεύεται τη θεωρία της διοίκησης έργου, από μια τεχνική κυρίως οπτική, εξού και το «μια αλγοριθμική προσέγγιση» του τίτλου. Για το σκοπό αυτό, η εργασία ξεκινάει με μια εισαγωγή στην έννοια του έργου, η οποία ακολουθείται από την ανάλυση των βασικών στοιχείων της θεωρίας της διοίκησης έργου και τους ορισμούς των σχετικών όρων και λειτουργιών που εμπλέκονται, στο Κεφάλαιο 1. Στο Κεφάλαιο 2, αναλύεται ο Χρονικός Προγραμματισμός του έργου, που αποτελεί το σκελετό για όλη τη διαδικασία της διοίκησης ενός έργου. Παρουσιάζονται αναλυτικά οι βασικές τεχνικές της δικτυωτής απεικόνισης ενός έργου και οι βασισμένες σε αυτό τεχνικές χρονικού προγραμματισμού Κρίσιμου Μονοπατιού (Critical Path Method – CPM) και η στοχαστική τεχνική PERT (Program Evaluation and Review Technique). Στην ίδια κατηγορία ανήκει και η σχετικά νέα τεχνική της Κρίσιμης Αλυσίδας (Critical Chain Method), που παρουσιάζει σημαντικές καινοτομίες και αναπτύσσεται διεξοδικά. Στο κεφάλαιο 3 μεταβαίνουμε από την απλουστευτική περίπτωση των εργασιών με μόνο χαρακτηριστικό τους χρόνους εκτέλεσής τους στην πιο ρεαλιστική περίπτωση όπου απαιτούν τη χρήση κάποιων πόρων για την εκτέλεσή τους. Παρουσιάζεται η έννοια των πόρων και το πώς οι περιορισμοί στη χρονική ή/και ποσοτική διαθεσιμότητά τους επηρεάζει το χρονικό προγραμματισμό. Ιδιαίτερη έμφαση δίνεται στο πρόβλημα του χρονικού προγραμματισμού με περιορισμένους πόρους και εκτενής ανάλυση γίνεται στις επιστημονικές τεχνικές που υπάρχουν και είναι δόκιμες για την αντιμετώπιση του προβλήματος, που είναι πολύ δύσκολο να λυθεί με βέλτιστο τρόπο. Το κεφάλαιο 4 ασχολείται με το πρακτικότερο θέμα των ειδικών για τη διοίκηση έργου προγραμμάτων λογισμικού που κυκλοφορούν. Γίνεται συσχέτιση των λειτουργιών που πρέπει να διαθέτουν με τις αντίστοιχες λειτουργίες που επιτελούνται κατά τις διάφορες φάσεις του κύκλου ζωής ενός έργου και παρουσιάζονται με κριτική άποψη τα πιο διαδεδομένα προγράμματα αυτής της κατηγορίας. Τέλος, στο κεφάλαιο 5 παρουσιάζεται ένα παράδειγμα εταιρίας που οι ανάγκες του έκαναν απαραίτητη την εφαρμογή των αρχών και τεχνικών της διοίκησης έργου. Πρόκειται για την ΕΡΓΟΣΕ Α.Ε., την θυγατρική εταιρία του ΟΣΕ που έχει αναλάβει να διεκπεραιώνει το κατασκευαστικό έργο που αφορά το σιδηροδρομικό δίκτυο και στο τελικό αυτό κεφάλαιο βλέπουμε πως έχει δομήσει ένα ολοκληρωμένο μηχανογραφικό σύστημα βασισμένο σε ένα πρόγραμμα διοίκησης έργου. / The present diploma thesis is dealing with the theory of project management, under a mostly technical perspective- which justifies the “an algorithmic approach” end of this thesis’ title. For this purpose, this thesis begins with an introduction to the notion of “project”, which is followed by an analysis of the fundamental elements of the project management theory and the definitions of the relevant terms and functions involved, in Chapter 1. In Chapter 2, project scheduling is being analyzed. Project scheduling is the framework for the entire function of project management. Extensive analysis of the basic techniques of network representation and the techniques of time scheduling that are based on it (namely, Critical Path Method – CPM, and Program Evaluation and Review Technique – PERT) are presented. To the same category of scheduling techniques belongs the Critical Chain Method as well, therefore it is thoroughly analyzed in this chapter. In Chapter 3, we move from the simplified case of the project tasks which are characterized only by the time they need so as to complete, to the more realistic case of tasks needing various resources. The notion of resources and the way their possible time/quantity availability constraints affect project scheduling are presented. Special emphasis is laid on the resource constrained project scheduling problem, which is a very hard problem to solve in an optimal way, and extensive analysis of the suitable scientific techniques available is offered. Chapter 4 deals with the more practical issue of the project management software. A correlation of the necessary functions of the software programs to the respective ones of the project life cycle is made, and some of the most popular software programs are presented under a critical perspective. Finally, Chapter 5 illustrates the example of a company whose needs make the application of project management principles and techniques necessary. This company is ERGOSE S.A., which is the affiliated company of the mother organization OSE (the Greek rail organization) and has undertaken the construction task of Greek railroads. In this final chapter the company’s integrated information system that is based on a project management software program is presented.

Το αντικείμενο της διατριβής είναι η μελέτη μεθόδων αυτόματης εξαγωγής των συμφράσεων και των σημασιολογικών ομοιοτήτων των λέξεων από μεγάλα σώματα κειμένων. Υιοθετείται μια προσέγγιση ελάχιστων γλωσσικών πόρων που εξασφαλίζει την απεριόριστη μεταφερσιμότητα των μεθόδων σε φυσικές γλώσσες και θεματικές περιοχές. Για την αξιολόγηση των προτεινόμενων μεθόδων προτείνονται, αξιολογούνται και εφαρμόζονται μεθοδολογίες με βάση πρότυπες βάσεις λεξικής γνώσης (στην Αγγλική), όπως το WordNet. Για την εξαγωγή των συμφράσεων προτείνονται νέα μέτρα εξαγωγής στατιστικά σημαντικών διγράμμων και γενικά ν-γράμμων που αξιολογούνται θετικά. Για την εξαγωγή των λεξικών - σημασιολογικών ομοιοτήτων των λέξεων ακολουθείται καταρχήν η προσέγγιση ομοιότητας περικειμένων λέξεων με παραθυρικές μεθόδους, όπου μελετώνται το πεδίο συμφραζομένων, το φιλτράρισμα των συνεμφανίσεων των λέξεων, τα μέτρα ομοιότητας, όπου εισάγεται ο παράγοντας του αριθμού κοινών παραμέτρων, καθώς και η αντιμετώπιση συστηματικών σφαλμάτων, ενώ προτείνεται η αξιοποίηση των λειτουργικών λέξεων. Επιπλέον, προτείνεται η αξιοποίηση της ομοιότητας περικείμενων εκφράσεων, που απαντάται συχνά σε θεματικώς εστιασμένα κείμενα, με ένα αλγόριθμο βασισμένο στην ετεροσυσχέτιση ακολουθιών λέξεων. Μελετάται η μεθοδολογία αξιοποίησης των παρατακτικών συνδέσεων ενώ προτείνεται μια μέθοδος ενοποίησης ετερογενών σωμάτων γνώσης λεξικών – σημασιολογικών ομοιοτήτων. Τέλος, η εξαχθείσα γνώση μετασχηματίζεται σε σημασιολογικές κλάσεις με μια συμβολική μέθοδο ιεραρχικής ομαδοποίησης και επίσης ενσωματώνεται επιτυχώς σε ένα διαλογικό σύστημα μηχανικής μάθησης όπου ενισχύει την απόδοση της αναγνώρισης του σκοπού του χρήστη συμβάλλοντας στην εκτίμηση του ρόλου των άγνωστων λέξεων. / The research described in this dissertation regards automatic extraction of collocations and lexico-semantic similarities from large text corpora. We follow an approach based on minimal linguistic resources in order to achieve unrestricted portability across languages and thematic domains. In order to evaluate the proposed methods we propose, evaluate and apply methodologies based on English gold standard lexical resources, such as WordNet. For the extraction of collocations we propose and test a few novel measures for the identification of statistically significant bigrams and, generally, n-grams, which exhibit strong performance. For the extraction of lexico-semantic similarities we follow a distributional window-based approach. We study the contextual scope, the filtering of lexical co-occurrences and the performance of similarity measures. We propose the incorporation of the number of common parameters into the latter, the exploitation of functional words and a method for the elimination of systematic errors. Moreover, we propose a novel approach to exploitation of word sequence similarities, common in technical texts, based on cross-correlation of word sequences. We refine an approach for word similarity extraction from coordinations and we propose a method for the amalgamation of lexico-semantic similarity databases extracted via different principles and methods. Finally, the extracted similarity knowledge is transformed in the form of soft hierarchical semantic clusters and it is successfully incorporated into a machine learning based dialogue system, reinforcing the performance of user’s plan recognition by estimating the semantic role of unknown words.

- / -

Στο πρώτο κεφάλαιο περιγράφονται οι άμεσες μέθοδοι Runge – Kutta και ο προτεινόμενος ελεγκτής που είναι τύπου PI. Όταν το μέγεθος βήματος περιορίζεται από την αριθμητική ευστάθεια, ένα δυναμικό μοντέλο πρέπει να χρησιμοποιηθεί. Ένα τέτοιο μοντέλο παρήχθη και επαληθεύτηκε αριθμητικά για άμεσες μεθόδους Runge – Kutta. Εδώ περιγράφεται αυτό το δυναμικό μοντέλο. Στο δεύτερο κεφάλαιο περιγράφονται το πρόβλημα της επιλογής μεγέθους βήματος στα έμμεσα σχήματα Runge – Kutta και αναλύεται από μια άποψη ελέγχου ανατροφοδότησης. Οι ιδιότητες του νέου μοντέλου και της βελτιωμένης απόδοσης του νέου ελέγχου σφάλματος περιγράφονται χρησιμοποιώντας και ανάλυση και αριθμητικά παραδείγματα. Στο τρίτο κεφάλαιο αναλύεται και υλοποιείται σε περιβάλλον Μathematica η μη γραμμική διαφορική εξίσωση van der Ρol για μια σειρά από διαφορετικές τιμές της παραμέτρου ε. Επιπλέον σ’ αυτό το κεφάλαιο μελετάται η συμπεριφορά του συστήματος με την μέθοδο Runge-Kutta και με βάση τον ολοκληρωμένο αλγόριθμο του P ελέγχου βήματος. Στο τέταρτο κεφάλαιο περιγράφονται οι βασικές μέθοδοι για την επίλυση μη δύσκαμπτων συστημάτων συνήθων διαφορικών εξισώσεων από χαμηλές σε μεσαίες ανοχές. Εδώ δείχνεται πώς κατασκευάζονται μερικά ζεύγη χαμηλής τάξης χρησιμοποιώντας εργαλεία από την υπολογιστική άλγεβρα. Εστιάζεται η προσοχή μας πάνω σε μεθόδους που εξοπλίζονται με ανίχνευση τοπικού σφάλματος (για προσαρμοστικότητα στο μέγεθος βήματος) και με τη δυνατότητα να ανιχνευθεί η δυσκαμψία. Στο πέμπτο κεφάλαιο υλοποιείται σε περιβάλλον Mathematica η σύγκριση δυο αλγορίθμων ελέγχου (P και PI) του βήματος στην μη γραμμική διαφορική εξίσωση van der Pol υλοποιημένη σε RKclassic και RKdopri μέθοδο Στο έκτο κεφάλαιο μελετάται ένα πραγματικό σύστημα της μορφής y'=Α*y με βάση την μεθοδολογία που το προσομοιώνει η μέθοδος Runge-Kutta σε λογισμικό περιβάλλον Mathematica. Στο τελευταίο (έβδομο) κεφάλαιο γίνεται η σύγκριση του πραγματικού συστήματος και του προσομοιωμένου PI έλεγχου βήματος για τη μέθοδο Runge-Kutta. / -

Στη διπλωματική αυτή παρουσιάζεται μια μεθοδολογία για την ταξινόμηση των μουσικών κομματιών και τραγουδιών ανάλογα με το μουσικό είδος που ανήκουν. Συγκεκριμένα χρησιμοποιούνται τα ίδια τα μουσικά κομμάτια ως πηγή πληροφοριών, και μέσω γνωστών μεθόδων επεξεργασίας ακουστικών σημάτων (που βασίζονται στο μετασχηματισμό Fourier) εξάγονται κατάλληλα δεδομένα. Στη συνέχεια με χρήση γνωστών μεθόδων μάθησης με επίβλεψη (δέντρα αποφάσεων, σύνολα κανόνων, μπεϊσιανή μάθηση, τεχνητά νευρωνικά δίκτυα και μηχανές διανυσμάτων υποστήριξης), γίνεται η αντίστοιχη μουσική ταξινόμηση. Στο τέλος προτείνεται μια συνδυαστική μέθοδος ταξινόμησης (συνδυασμός αλγορίθμων μάθησης) για την βελτίωση των αποτελεσμάτων όπου θα βγουν και τα τελικά συμπεράσματα. / The present work describes a methodology for the automatic recognition of music genres, based exclusively on the audio content of the signal. We use proposed techniques to extract attributes (based on Fourier Transform). Then with familiar supervised classification techniques we classify seven different music genres (rock, metal, hard rock, classical music, jazz, beat, rempetika -rempetika is a Greek music genre). At the end we propose a combined technique to improve our results. This technique is based on stacking generalization. We propose an improvement of stacking generalization.

Η εφαρμογή των γεωδαιτικών μεθόδων στη χάραξη και παρακολούθηση των υπογείων έργων ακολουθεί σε γενικές γραμμές μια συγκεκριμένη πρακτική η οποία όμως (1) δεν έχει τεκμηριωθεί ως προς την ακρίβεια και τα όρια εφαρμογής της, και (2) τα στοιχεία που συλλέγονται στα διάφορα έργα στη συντριπτική τους πλειοψηφία δεν αξιολογούνται ή αξιοποιούνται. Η παρούσα Διατριβή στοχεύει να συνεισφέρει στο διπλό αυτό στόχο και γι’ αυτό περιλαμβάνει δύο βασικές ενότητες: Η πρώτη ενότητα στοχεύει στην τεκμηρίωση της ακρίβεια της γεωδαιτικής μεθόδου με βάση αναλυτική και πειραματική προσέγγιση και διερευνάται η ποιότητα και η αξιοπιστία διαθέσιμων παρατηρήσεων από αριθμό υπογείων έργων. Ειδικότερα, υπολογίστηκε η ακρίβεια χάραξης σηράγγων, ανάλογη του κύβου του πλήθους στάσεων σκόπευσης. Στη συνέχεια εκτιμήθηκαν οι αναλυτικές ακρίβειες στον υπολογισμό των οριζοντίων και κατακορύφων μετακινήσεων και συγκλίσεων κατά την παρακολούθηση σηράγγων και πραγματοποιήθηκαν πειραματικές μετρήσεις για την ακρίβεια των γεωδαιτικών οργάνων και μεθόδων που εφαρμόζονται. Με βάση τα αποτελέσματα η γεωδαιτική μέθοδος κρίνεται επαρκής και ακριβής για τη χάραξη και παρακολούθηση των συνήθων σηράγγων. Η δεύτερη ενότητα, βασισμένη σε παρατηρήσεις από διάφορες σήραγγες, στοχεύει στον έλεγχο της κινηματικής σημείων ή διατομών ελέγχου σηράγγων, τον έλεγχο των γεωμετρικών χαρακτηριστικών συγκλίσεων αλλά και της τυπολογίας της χρονικής εξέλιξης των μετακινήσεων. Αναλύθηκαν περιπτώσεις χωροχρονικής εξέλιξης μετακινήσεων που αποκλίνουν από την τυπική μορφή, με βασικό χαρακτηριστικό την εμφάνιση απότομων, ανεξήγητων μετακινήσεων. Ειδικότερα, η ανάλυση των διαθέσιμων στοιχείων από τις σήραγγες Τυμφρηστού, Καλλιδρόμου κ.α. οδήγησε στο συμπέρασμα ότι η υπερβολική αύξηση των μετακινήσεων τοπικά σε μια περιοχή προκαλεί κάτω από ορισμένες συνθήκες αλυσιδωτά νέες μετακινήσεις σε γειτονικές, προσωρινά σταθεροποιημένες περιοχές του έργου. / Geodetic techniques are widely used for the guidance and monitoring of underground structures, but (1) their accuracy and efficiency are not tested and (2) deformation data, collected during tunnel excavation, are not further evaluated. A contribution towards the solution of both these problems is the aim of this dissertation, which consists of two parts. In the first part the applicability and accuracy of the geodetic techniques were assessed using analytical and experimental techniques. Three main conclusions were obtained. First, that the errors of coordinates along a tunnel are proportional to the cube of the number of stations. Second, it was found that non-prismatic reflectors have a non-linear response and contributes to significant errors (>1-2mm) in convergence measurements and third, that the noise of actual monitoring measurements from several tunnels is at maximum ±4mm. In the second part of this dissertation deformation data from a number of tunnels were analyzed. Analytical methodologies were introduced for the estimation of the geometrical pattern of tunnel section distortion and mathematical, function approximation techniques are followed to model the typical pattern of tunnel deformation. Studies of monitoring data from tunnels that faced instabilities and high deformation (as Tymfristos tunnel, Kallidromo tunnel etc.) revealed that high tunnel closure locally, may induce a new phase of deformation to other nearby, previously stabilized, sections.

- / -

- / -

- / -