Οι κρυπτογραφικές συναρτήσεις κατακερματισμού αποτελούν στις μέρες μας ένα από τα δημοφιλέστερα συστατικά των κρυπτογραφικών συστημάτων, λόγω των ιδιαίτερων ιδιοτήτων τους. Λαμβάνοντας υπόψη τη συνεχή αύξηση του όγκου δεδομένων και των ταχυτήτων επικοινωνίας, η χρήση μιας συνάρτησης κατακερματισμού με χαμηλή ρυθμοαπόδοση μπορεί να επιβραδύνει το συνολικό ψηφιακό τηλεπικοινωνιακό σύστημα. Ο σχεδιασμός ενός δεδομένου αλγορίθμου κατακερματισμού ώστε να έχει τη βέλτιστη ρυθμοαπόδοση αποτελεί ζήτημα μεγάλης σημασίας. Στη συγκεκριμένη διπλωματική εργασία παρουσιάζεται μια μεθοδολογία σχεδιασμού με στόχο τη βέλτιστη ρυθμοαπόδοση κρυπτογραφικών αλγορίθμων που βασίζονται σε συγκεκριμένη επαναληπτική μορφή. Για το σκοπό αυτό αναπτύχθηκε ένα λογισμικό, που συνδυάζει δύο τεχνικές, τον επαναχρονισμό και την ξεδίπλωση, παράγοντας το βέλτιστο σχεδιαστικό αποτέλεσμα. Η μεθοδολογία εφαρμόστηκε σε δύο δημοφιλείς συναρτήσεις κατακερματισμού, τις SHA-1 και SHA-256. Οι μετασχηματισμένοι αλγόριθμοι συνθέθηκαν και υλοποιήθηκαν σε FPGA, επιβεβαιώνοντας την αποτελεσματικότητα της μεθόδου. / Nowadays, cryptographic hash functions are one of the most popular primitive components in the cryptographic systems, due to their key features. Considering that data sizes and communication speeds are increasing every year, the use of a hash algorithm with low throughput can be a bottle neck in the digital communication system. Designing a given hash algorithm to be throughput optimum is a critical issue. In this diploma thesis a design methodology is presented which oprimizes the throughput of cryptographic hash functions that rely on a specific iterative structure. For this purpose, a software was designed combining two techniques, retiming and unfolding, that generates the optimal throughput design. The methodology was applied to two popular hash algorithms, SHA-1 and SHA-256. The transformed algorithms were synthesized and implemented in a FPGA device, confirming its effectiveness.

The 21st century is considered as the era of mass communication and electronic information exchange. There is a dramatic increase in electronic communications and e-transactions worldwide. However, this advancement results in the appearance of many security issues, especially when the exchanged information is sensitive and/or confidential. A significant aspect of security is authentication, which in most of the cases is provided through a cryptographic hash function. As happens for the majority of security primitives, software design and implementation of hash functions is becoming more prevalent today. However, hardware is the embodiment of choice for military and safety-critical commercial applications due to the physical protection and increased performance that they offer. Hence, similarly to general hardware designs, regarding cryptographic hash function ones, three crucial issues, among others, arise: performance, reliability, and flexibility. In this PhD dissertation, hardware solutions regarding cryptographic hash functions, addressing the aforementionted three crucial issues are proposed. Specifically, a design methodology for developing high-throughput and area-efficient sole hardware architectures of the most widely-used cryptographic hash families, i.e. the SHA-1 and SHA-2, is proposed. This methodology incorporates several algorithmic-, system-, and circuit-level techniques in an efficient, recursive way, exploiting the changes in the design’s graph dependencies that are resulted by a technique’s application. Additionally, high-throughput and area-efficient hardware designs for the above families as well as new ones (e.g. JH and Skein), are also proposed. These architectures outperform significantly all the similar ones existing in the literature. Furthermore, a design methodology for developing Totally Self-Checking (TSC) architectures of the most widely-used cryptographic hash families, namely the SHA-1 and SHA-2 ones is proposed for the first time. As any RTL architecture for the above hash families is composed by similar functional blocks, the proposed methodology is general and can be applied to any RTL architecture of the SHA-1 and SHA-2 families. Based on the above methodology, TSC architectures of the two representatice hash functions, i.e. SHA-1 and SHA-256, are provided, which are significantlty more efficient in terms of Throughput/Area, Area, and Power than the corresponding ones that are derived using only hardware redundancy. Moreover, a design methodology for developing hardware architectures that realize more than one cryptographic hash function (mutli-mode architectures) with reasonable throughput and area penalty is proposed. Due to the fact that any architecture for the above hash families is composed by similar functional blocks, the proposed methodology can be applied to any RTL architecture of the SHA-1 and SHA-2 families. The flow exploits specific features appeared in SHA-1 and SHA-2 families and for that reason it is tailored to produce optimized multi-mode architectures for them. Based on the above methodology, two multi-mode architectures, namely a SHA256/512 and a SHA1/256/512, are introduced. They achieve high throughput rates, outperforming all the existing similar ones in terms of throughput/area cost factor. At the same time, they are area-efficient. Specifically, they occupy less area compared to the corresponding architectures that are derived by simply designing the sole hash cores together and feeding them to a commercial FPGA synthesis/P&R/mapping tool. Finally, the extracted knowledge from the above research activities was exploited in three additional works that deal with: (a) a data locality methodology for matrix–matrix multiplication, (b) a methodology for Speeding-Up Fast Fourier Transform focusing on memory architecture utilization, and (c) a near-optimal microprocessor & accelerators co-design with latency & throughput constraints. / Ο 21ος αιώνας θεωρείται η εποχή της μαζικής επικοινωνίας και της ηλεκτρονικής πληροφορίας. Υπάρχει μία δραματική αύξηση των τηλεπικοινωνιών και των ηλεκτρονικών συναλλαγών σε όλο τον κόσμο. Αυτές οι ηλεκτρονικές επικοινωνίες και συναλλαγές ποικίλουν από αποστολή και λήψη πακέτων δεδομένων μέσω του Διαδικτύου ή αποθήκευση πολυμεσικών δεδομένων, έως και κρίσιμες οικονομικές ή/και στρατιωτικές υπηρεσίες. Όμως, αυτή η εξέλιξη αναδεικνύει την ανάγκη για περισσότερη ασφάλεια, ιδιαίτερα στις περιπτώσεις όπου οι πληροφορίες που ανταλλάσονται αφορούν ευαίσθητα ή/και εμπιστευτικά δεδομένα. Σε αυτές τις περιπτώσεις, η ασφάλεια θεωρείται αναπόσπαστο χαρακτηριστικό των εμπλεκομένων εφαρμογών και συστημάτων. Οι συναρτήσεις κατακερματισμού παίζουν έναν πολύ σημαντικό ρόλο στον τομέα της ασφάλειας και, όπως συμβαίνει στην πλειοψηφία των βασικών αλγορίθμων ασφαλείας, οι υλοποιήσεις σε λογισμικό (software) επικρατούν στις μέρες μας. Παρόλα αυτά, οι υλοποιήσεις σε υλικό (hardware) είναι η κύρια επιλογή οσον αφορά στρατιωτικές εφαρμογές και εμπορικές εφαρμογές κρίσιμης ασφάλειας. Η NSA, για παράδειγμα, εξουσιοδοτεί μόνο υλοποιήσεις σε υλικό. Αυτό γιατί οι υλοποιήσεις σε υλικό είναι πολύ γρηγορότερες από τις αντίστοιχες σε λογισμικό, ενώ προσφέρουν και υψηλά επίπεδα «φυσικής» ασφάλειας λόγω κατασκευής. Έτσι, όσον αφορά τις κρυπτογραφικές συναρτήσεις κατακερματισμού, όπως ίσχυει γενικά στις υλοποιήσεις υλικού, ανακύπτουν τρία (ανάμεσα σε άλλα) κύρια θέματα: Επιδόσεις, Αξιοπιστία, Ευελιξία. Σκοπός της παρούσας διατριβής είναι να παράσχει λύσεις υλοποίησης σε υλικό για κρυπτογραφικές συναρτήσεις κατακερματισμού, στοχεύοντας στα τρία κύρια ζητήματα που αφορούν υλοποιήσεις σε υλικό, τα οποία και προαναφέρθηκαν (Επιδόσεις, Αξιοπιστία, Ευελιξία). Συγκεκριμένα, προτείνονται μεθοδολογίες σχεδιασμού αρχιτεκτονικών υλικού (καθώς και οι αρχιτεκτονικές αυτές καθαυτές) για τις οικογένειες SHA-1 και SHA-2 οι οποίες επιτυγχάνουν υψηλή ρυθμαπόδοση με λογική αύξηση της επιφάνειας ολοκλήρωσης. Επίσης, προτείνονται αρχιτεκτονικές οι οποίες επιτυγχάνουν υψηλή ρυθμαπόδοση με λογική αύξηση της επιφάνειας ολοκλήρωσης για νέες κρυπτογραφικές συναρτήσεις, δηλαδή για τις JH και Skein. Ακόμα, προτείνονται μεθοδολογίες σχεδιασμού αρχιτεκτονικών υλικού (καθώς και οι αρχιτεκτονικές αυτές καθαυτές) για τις οικογένειες SHA-1 και SHA-2 οι οποίες έχουν τη δυνατότητα να ανιχνέυουν πιθανά λάθη κατά τη λειτουργία τους ενώ επιτυγχάνουν υψηλή ρυθμαπόδοση με λογική αύξηση της επιφάνειας ολοκλήρωσης. Τέλος, προτείνονται μεθοδολογίες σχεδιασμού πολύ-τροπων αρχιτεκτονικών υλικού (καθώς και οι αρχιτεκτονικές αυτές καθ’αυτές) για τις οικογένειες SHA-1 και SHA-2 οι οποίες έχουν τη δυνατότητα να υποστηρίξουν παραπάνω από μία συνάρτηση ενώ επιτυγχάνουν υψηλή ρυθμαπόδοση με λογική αύξηση της επιφάνειας ολοκλήρωσης.

The main concern of this Dissertation is focused on the derivation of novel integral formulation for simple problems. This alternative integral representations display a rapid decay as the complex parameter involved tends to infinity and are therefore suitable for numerical computations and for the study of the asymptotic properties of those solutions. There is also another important advantage attached to the novel formulae presented. These integral representations are useful for solving changing-type boundary value problems (such as Dirichlet data on part of the boundary and Neumann data on the complementary of the boundary). The following problems are analyzed: (a) The Laplacian operator in the interior of a Square, (b) the Laplacian operator in the interior and exterior of a Sphere and, (c) the Stokes' operator concerning the irrotational flow of an incompressible, viscous fluid. Moreover, the behaviour of the Gegenbauer functions of the first and second kind of general complex degree and order on the cut (-1, +1) are examined. / Με οδηγό μια νέα μεθοδολογία επίλυσης Μερικών Διαφορικών Εξισώσεων (ΜΔΕ), προβλήματα που σχετίζονται με την θεωρία Δυναμικού όπως επίσης και με την ροή Stokes, θα αναλυθούν. Απώτερος σκοπός αποτελεί η ανάπτυξη ολοκληρωτικών αναπαραστάσεων, η οποίες χαρακτηρίζονται από ταχεία σύγκλιση, με σκοπό να χρησιμοποιηθούν στην ασυμπτωτική μελέτη, στην αριθμητική ανάλυση όπως επίσης και στην επίλυση προβλημάτων μεικτών συνοριακών συνθηκών (π.χ. δεδομένα Dirichlet στο ένα κομμάτι του συνόρου και δεδομένα Neumann στο υπόλοιπο). Συγκεκριμένα, τα ακόλουθα προβλήματα αναλύονται: (α) Εξίσωση Laplace στο εσωτερικό ενός τετραγώνου, (β) εξίσωση Laplace στο εσωτερικό και εξωτερικό μιας σφαίρας και, (γ) εξίσωση αστρόβιλης ροής Stokes στο εσωτερικό ενός σφαιρικού κελύφους το οποίο στην συνέχεια καταλήγει, με οριακές διαδικασίες, στο εσωτερικό και εξωτερικό μιας σφαίρας. Τέλος, παρουσιάζονται αναπτύγματα και ασυμπτωτικές εκφράσεις των συναρτήσεων Gegenbauer.

Τα κοκκώδη υλικά είναι αναπόσπαστο κομμάτι του κόσμου μέσα στον οποίο ζει ο άνθρωπος, και συνεπώς, για την καλύτερη κατανόηση του κόσμου αυτού, επιβάλλεται η μελέτη τους. Αυτός είναι και ο σκοπός της παρούσας διδακτορικής διατριβής. Επικεντρωνόμαστε σε διάδρομο μεταφοράς ο οποίος αποτελεί αντιπροσωπευτικό μοντέλο για πληθώρα εφαρμογών τόσο στην βιομηχανία όσο και στο φυσικό περιβάλλον. Αποτελεί επίσης χαρακτηριστικό παράδειγμα της οικογένειας ανοικτών πολυσωματιδιακών συστημάτων, η οποία βρίσκεται στην καρδιά της σύγχρονης επιστήμης της Πολυπλοκότητας. Αρχικά εισάγουμε το μοντέλο ροής στο οποίο το κοκκώδες υλικό αντιμετωπίζεται ως ένα ειδικό ρευστό (συνεχές μέσο) με εσωτερική απώλεια ενέργειας. Μελετάμε τη δυναμική ισορροπία που επικρατεί στο σύστημα υπό σταθερές συνθήκες, καθώς και την κατάρρευση της ομαλής ροής μέσω του σχηματισμού συσσωματώματος. Ειδική μνεία γίνεται στα πρόδρομα φαινόμενα της συσσωμάτωσης, τα οποία ερμηνεύουμε μέσω μίας αντίστροφης διακλάδωσης διπλασιασμού περιόδου. Διερευνώντας την εξάρτηση μεταξύ της μορφής της ροϊκής συνάρτησης και του τρόπου με τον οποίο το σύστημα μεταβαίνει σε καθεστώς συσσωμάτωσης αποκαλύπτουμε τόσο ποιοτικές όσο και ποσοτικές διαφορές σε σχέση με τον παραπάνω τύπο διακλάδωσης. Μια σημαντική παραλλαγή του συστήματος μεταφοράς προκύπτει εφαρμόζοντας ανατροφοδότηση του πρώτου δοχείου με το συνολικό υλικό που εκρέει από το τελευταίο. Η μαθηματική επεξεργασία αποδεικνύει ότι σε αυτήν την περίπτωση η δημιουργία συσσωματώματος συντελείται μέσω μιας διακλάδωσης Hopf αντί για διακλάδωσης διπλασιασμού περιόδου. Επιστρέφοντας στο αρχικό μας σύστημα, μελετάμε και το συνεχές όριο, θεωρώντας το διάδρομο μεταφοράς να έχει «άπειρο» μήκος. Η δυναμική ισορροπία, που ισοδυναμεί με το ισοζύγιο της μάζας ανάμεσα σε διαδοχικά δοχεία του διακριτού συστήματος, τώρα παίρνει τη μορφή μιας μη γραμμικής μερικής διαφορικής εξίσωσης δεύτερης τάξης με μη σταθερούς συντελεστές. Η προσεκτική μελέτη της εξίσωσης και των συντελεστών της, σε συνδυασμό πάντα με τις συνοριακές συνθήκες στην είσοδο και έξοδο του διαδρόμου, μας επιτρέπει όχι μόνο να αναπαραγάγουμε τα προηγούμενα αποτελέσματα υπό το πρίσμα του συνεχούς ορίου αλλά και να τα ερμηνεύσουμε βάσει φυσικών διεργασιών όπως είναι η μεταφορά (drift) και η διάχυση (diffusion). Ειδικότερα, η συσσωμάτωση συμβαίνει σε καθεστώς αρνητικής διάχυσης (antidiffusion). Κλείνουμε την διατριβή προτείνοντας γενικεύσεις των συστημάτων που ερευνήσαμε. Επεκτείνουμε το διάδρομο μεταφοράς σε πλέγματα δύο διαστάσεων και μελετάμε άλλα μοντέλα που σχετίζονται με ροές διακριτών σωματιδίων όπως είναι η κυκλοφορία οχημάτων στους αυτοκινητοδρόμους. / Granular materials are ubiquitous in nature and in our daily lives, and understanding their behavior is therefore of crucial importance. The present thesis wants to contribute to this. We focus on a conveyor belt, which is not only a representative model for numerous applications both in industry and the natural environment, but also a prime example of an open multi-particle system prone to spontaneous pattern formation. This places our study right in the center of the modern science of complexity. Initially we introduce the flux model, in which the granular material is treated as a special fluid (a continuous medium) with internal energy losses. We examine the dynamic equilibrium that exists in the system under steady state conditions and also the breakdown of this equilibrium when the inflow rate exceeds a certain critical threshold value, resulting in the formation of a cluster and the obstruction of the conveyor belt. We focus especially on the pre-clustering phenomena and find that these can be described mathematically by a reverse period doubling bifurcation. Investigating the relation between the precise form of the flux function and the way in which the transition to the clustered state takes place, we reveal that the above scenario via a reverse period doubling bifurcation is not universal. Also other bifurcation types are possible. An important variation of our transport system is obtained by applying a feedback mechanism: All the particles that flow out from the last compartment are inserted into the first, making the system closed with respect to matter (mass conservation). The mathematical analysis proves that in this case the cluster formation occurs via a Hopf bifurcation instead of a period doubling. Returning to our original system, we study its continuum limit by considering a conveyor belt of ‘infinite’ length. The dynamics of the system is now described by a second-order nonlinear partial differential equation with non-constant coefficients. A careful analysis of this PDE and its coefficients, in combination with the special boundary conditions at the entrance and exit of the system, allows us not only to reproduce the results of the discrete system in the setting of differential equations but also to interpret these results in terms of physical processes such as drift and diffusion. In particular, the clustering occurs when the diffusion coefficient becomes negative, which gives antidiffusion. We close this thesis by discussing several generalizations of the system investigated. Among other things we expand the one-dimensional conveyor belt to a two-dimensional lattice. We further propose to use a similar flux model for the study of other, non-granular instances of discrete particle flows, such as vehicles on a highway.

Η παρούσα διατριβή ασχολείται με την μελέτη και την εκπαίδευση Τεχνητών Νευρωνικών Δικτύων (ΤΝΔ) με μεθόδους Βελτιστοποίησης και τις εφαρμογές αυτών. Η παρουσίαση των επιμέρους θεμάτων και αποτελεσμάτων της διατριβής αυτής οργανώνεται ως εξής : Στο κεφάλαιο 1 παρέχουμε τους βασικούς ορισμούς και περιγράφουμε τη δομή και τη λειτουργία των ΤΝΔ. Στη συνέχεια, παρουσιάζουμε μια συντομή ιστορική αναδρομή, αναφέρουμε μερικά από τα πλεονεκτήματα της χρήσης των ΤΝΔ και συνοψίζουμε τους κύριους τομείς όπου τα ΤΝΔ εφαρμόζονται. Τέλος, περιγράφουμε τις βασικές κατηγορίες μεθόδων εκπαίδευσης. Το κεφάλαιο 2 αφιερώνεται στη μαθηματική θεμελίωση της εκπαίδευσης ΤΝΔ. Περιγράφουμε τη γνωστή μέθοδο της οπισθοδρομικής διάδοσης του σφάλματος (Backpropagation) και δίνουμε αποδείξεις σύγκλισης για μια κλάση μεθόδων εκπαίδευσης που χρησιμοποιούν μονοδιάστατες ελαχιστοποιήσεις. Στο τέλος του κεφαλαίου παρουσιάζουμε κάποια θεωρητικά αποτελέσματα σχετικά με την ικανότητα των ΤΝΔ να προσεγγίζουν άγνωστες συναρτήσεις. Στο κεφάλαιο 3 προτείνουμε μια νέα κλάση μεθόδων εκπαίδευσης ΤΝΔ και αποδεικνύουμε ότι αυτές έχουν την ιδιότητα της ευρείας σύγκλισης , δηλαδή συγκλίνουν σε ένα ελάχιστο της αντικειμενικής συνάρτησης σχεδόν από οποιαδήποτε αρχική συνθήκη. Τα αποτελέσματα μας δείχνουν ότι η προτεινόμενη τεχνική μπορεί να βελτιώσει οποιαδήποτε μέθοδο της κλάσης της οπισθοδρομικής διάδοσης του σφάλματος. Στο επόμενο κεφάλαιο παρουσιάζουμε τη γνωστή μέθοδο Quick-Prop και μελετάμε τις ιδιότητες σύγκλισής της. Με βάση το θεωρητικό αποτέλεσμα που προκύπτει, κατασκευάζουμε μια νέα τροποποίηση της μεθόδου Quick-Prop, που έχει την ιδιότητα της ευρείας σύγκλισης και βελτιώνει σημαντικά την κλασίκη Quick-Prop μέθοδο. Στα επόμενα δύο κεφάλαια μελετάμε την εκπαίδευση ΤΝΔ με μεθόδους ολικής Βελτιστοποίησης. Πιο συγκεκριμένα, στο Κεφάλαιο 5 προτείνουμε και μελετάμε διεξοδικά μια νέα κλάση μεθόδων που είναι ικανές να εκπαιδεύσουν ΤΝΔ με περιορισμένα ακέραια βάρη. Στη συνέχεια, επεκτείνουμε τις μεθόδους αυτές έτσι ώστε να υλοποιούνται σε παράλληλους υπολογιστές και να εκπαιδεύουν ΤΝΔ με χρήση συναρτήσεων κατωφλιών. Το κεφάλαιο 6 πραγματεύεται την εφαρμογή γνωστών μεθόδων όπως οι Γενετικοί Αλγόριθμοι, η μέθοδος της προσομοιωμένης ανόπτησης ( Simulated Annealing ) και η μέθοδος βελτιστοποίησης με σμήνος σωματιδίων (Particle Swarm Optimization) στην εκπαίδευση ΤΝΔ. Επίσης, παρουσιάζουμε νέους μετασχηματισμούς της αντικειμενικής συνάρτησης με σκοπό την σταδιακή εξάλειψη των τοπικών ελαχίστων της. Στο κεφάλαιο 7 κάνουμε μια σύντομη ανασκόπηση της στοχαστικής μεθόδου της πιο απότομης κλίσης (stochastic gradient descent) για την εκπαίδευση ΤΝΔ ανά πρότυπο εισόδου και προτείνουμε μια νέα τέτοια μέθοδο . Η νέα μέθοδος συγκρίνεται με άλλες γνωστές μεθόδους και τα πειράματά μας δείχνουν ότι υπερτερεί. Η παρουσίαση του ερευνητικού έργου για αυτή τη διατριβή ολοκληρώνεται με το Κεφάλαιο 8, όπου προτείνουμε και μελετάμε εκτενώς μη μονότονες μεθόδους εκπαίδευσης ΤΝΔ. Η τεχνική που προτείνουμε μπορεί να εφαρμοστεί σε κάθε μέθοδο της κλάσης της οπισθοδρομικής διάδοσης του σφάλματος με αποτέλεσμα η τροποποιημένη μέθοδος να έχει την ικανότητα , πολλές φορές, να αποφεύγει τοπικά ελάχιστα της αντικειμενικής συνάρτησης. Η παρουσίαση της διατριβής ολοκληρώνεται με το κεφάλαιο 9 και δύο Παραρτήματα. Το Κεφάλαιο 9 περιέχει τα γενικά συμπεράσματα της διατριβής. Στο παράρτημα Α παρουσιάζουμε συνοπτικά μερικά από τα προβλήματα εκπαίδευσης που εξετάσαμε στα προηγούμενα κεφάλαια και τέλος στο Παράρτημα Β δίνουμε την απόδειξη της μεθόδου της οπισθοδρομικής διάδοσης του σφάλματος. / -

Σε αυτή την εργασία, μελετάμε την κλάση των Υψηλής Τάξης Νευρωνικών Δικτύων και ειδικότερα των Πι—Σίγμα Νευρωνικών Δικτύων. Η απόδοση των Πι—Σίγμα Νευρωνικών Δικτύων αξιολογείται με την εφαρμογή τους σε διάφορα πολύ γνωστά χαρακτηριστικά προβλήματα εκπαίδευσης νευρωνικών δικτύων. Στα πειράματα που πραγματοποιήθηκαν, για την εκπαίδευση των Πι—Σίγμα Νευρωνικών Δικτύων υλοποιήθηκαν και εφαρμόστηκαν Σειριακοί και Παράλληλοι/Κατανεμημένοι Εξελικτικοί Αλγόριθμοι. Πιο συγκεκριμένα χρησιμοποιήθηκαν οι σειριακές καθώς και οι παράλληλες/κατανεμημένες εκδοχές των Διαφοροεξελικτικών Αλγόριθμων. Η προτεινόμενη μεθοδολογία βασίστηκε σε αυτές τις εκδοχές και εφαρμόστηκε για την εκπαίδευση των Πι—Σίγμα δικτύων χρησιμοποιώντας συναρτήσεις ενεργοποίησης «κατώφλια». Επιπρόσθετα, όλα τα βάρη και οι μεροληψίες των δικτύων περιορίστηκαν σε ένα μικρό εύρος ακέραιων αριθμών, στο διάστημα [-32, 32]. Συνεπώς, τα εκπαιδευμένα Πι—Σίγμα νευρωνικά δίκτυα μπορούν να αναπαρασταθούν με ακεραίους των 6-bits. Αυτής της μορφής τα δίκτυα είναι πιο κατάλληλα για την εφαρμογή τους σε «υλικό» (hardware), από νευρωνικά δίκτυα με πραγματικά βάρη. Τα πειραματικά αποτελέσματα μας δείχνουν ότι η διαδικασία εκπαίδευσης είναι γρήγορη, σταθερή και αξιόπιστη. Ακόμα η εφαρμογή των παράλληλων/κατανεμημένων Εξελικτικών Αλγορίθμων για την εκπαίδευση των Πι—Σίγμα δικτύων μας επιδεικνύει αρκετά καλές ικανότητες γενίκευσης των εκπαιδευμένων δικτύων καθώς και προσφέρει επιτάχυνση στην διαδικασία εκπαίδευσης τους. / In this contribution, we study the class of Higher-Order Neural Networks and especially the Pi-Sigma Networks. The performance of Pi-Sigma Networks is evaluated through several well known neural network training benchmarks. In the experiments reported here, Evolutionary Algorithms and Parallel/Distributed Evolutionary Algorithms are implemented for Pi-Sigma neural networks training. More specifically the serial as well as a parallel/distributed version of the Differential Evolution have been employed. The proposed approach is applied to train Pi-Sigma networks using threshold activation functions. Moreover, the weights and biases were confined to a narrow band of integers, constrained in the range [-32, 32]. Thus the trained Pi-Sigma neural networks can be represented by just 6 bits. Such networks are better suited for hardware implementation than the real weight ones. Experimental results suggest that this training process is fast, stable and reliable and the trained Pi-Sigma networks, with both serial and parallel/distributed algorithms, exhibited good generalization capabilities. Furthermore, the usage of a distributed version of the Differential Evolution, has demonstrated a speedup of the training process.

Το αντικείμενο της διατριβής αφορά την ανάλυση και τον έλεγχο δυναμικών συστημάτων με περιορισμούς στο διάνυσμα της εισόδου ή/ και στις μεταβλητές κατάστασης. Τα θεωρητικά εργαλεία που χρησιμοποιήθηκαν για την εξαγωγή των αποτελεσμάτων προέρχονται από τη θεωρία ευστάθειας Lyapunov, την αρχή σύγκρισης συστημάτων και τη θεωρία συνόλων, και οδήγησαν στην εδραίωση συνθηκών ευστάθειας και την ανάπτυξη συστηματικών μεθόδων εύρεσης λύσης στο πρόβλημα ελέγχου συγκεκριμένων κατηγοριών δυναμικών συστημάτων με περιορισμούς. Πιο συγκεκριμένα, για την κατηγορία των γραμμικών συστημάτων συνεχούς και διακριτού χρόνου, προτάθηκε μια νέα μέθοδος επίλυσης του προβλήματος ευσταθειοποίησης συνόλου αρχικών συνθηκών και του υπολογισμού του μέγιστου θετικά αμετάβλητου ή αμετάβλητου με έλεγχο συνόλου παρουσία περιορισμών στις εισόδους ή/και στις καταστάσεις. Τα αποτελέσματα επεκτάθηκαν και στην κατηγορία των γραμμικών συστημάτων με πολυτοπικη αβεβαιότητα. Επίσης, μελετήθηκε η κατηγορία των αυτοανάδρομων μοντέλων κινούμενου μέσου όρου (ARMA models). Αρχικά εδραιώθηκαν συνθήκες που εγγυώνται ευστάθεια για ένα συγκεκριμένο σύνολο αρχικών συνθηκών παρουσία περιορισμών. Τα αποτελέσματα αυτά εφαρμόστηκαν στην κατηγορία των δικτυωμένων συστημάτων ελέγχου (NCS), όπου υπολογίστηκε ένας κοινός γραμμικός νόμος ελέγχου ανατροφοδότησης κατάστασης για όλο το εύρος της καθυστέρησης της εισόδου. Τέλος, μελετήθηκε η κατηγορία των διγραμμικών συστημάτων συνεχούς και διακριτού χρόνου. Αρχικά διατυπώθηκαν ικανές συνθήκες ύπαρξης πολυεδρικών συναρτήσεων Lyapunov για αυτήν την κατηγορία συστημάτων. Το πρόβλημα που μελετήθηκε είναι η ευσταθειοποίηση μιας συγκεκριμένης περιοχής του χώρου κατάστασης παρουσία περιορισμών στις εισόδους και τις καταστάσεις και προτάθηκε μια υποβέλτιστη λύση που οδηγεί στον υπολογισμό γραμμικού νόμου ελέγχου ανατροφοδότησης κατάστασης. Όλα τα αποτελέσματα προκύπτουν από την επιλογή πολυεδρικών συναρτήσεων Lyapunov οι οποίες οδηγούν στο χαρακτηρισμό πολυεδρικών εκτιμήσεων της περιοχής ελκτικότητας και θετικά αμετάβλητων συνόλων. Τα κυριότερα οφέλη της επιλογής τέτοιων συναρτήσεων είναι η μη συντηρητική εκτίμησης της περιοχή ευστάθειας και η εδράιωση συνθηκών που οδηγούν σε συστηματικές μεθόδους επίλυσης των προβλημάτων ανάλυσης και ελέγχου, η λύση των οποίων προκύπτει από τη λύση γραμμικών προβλημάτων βελτιστοποίησης. / This dissertation considers the problem of stability analysis and control of dynamical systems under constraints in the input and/or state vector. The theoretical tools used arise from Lyapunov stability theory, comparison systems theory and set theoretic methods and lead to the determination of stability conditions and development of systematic methods that solve the control problem of constrained systems of particular type. In specific, for linear discrete or continuous time systems, a novel method that leads to the solution of the initial condition set stabilization problem as well as the maximal controlled invariant set computation problem is presented. These results have been extended for the case of linear systems with polytopic uncertainty. Also, the category of auto regressive moving average (ARMA) models is investigated. First, conditions that guarantee stability for a preassigned initial conditions set for constrained ARMA models are established. These results are applied to the category of networked control systems (NCS), were a single linear state feedback control law is computed for the whole range of the input delay. Finally, the category of bilinear discrete-time or continuous-time systems is investigated. Initially, sufficient conditions which guarantee existence of polyhedral Lyapunov functions are presented. The problem studied here is the stabilization of an initial condition set in the presence of input and state constraints. The solution proposed is suboptimal and leads to the determination of a linear state feedback control law. The choice of Lyapunov functions leads to the determination of a polyhedral approximation of the domain of attraction as well as polyhedral positively invariant sets. The main benefits of choosing this type of functions is the nonconservative estimation of the domain of attraction and the establishment of stability conditions that lead to systematic control design methods through the solution of linear programming problems.

Η πληθώρα των εφαρμογών που μπορεί να εξυπηρετήσει η τεχνολογία Υπερευρείας Ζώνης (UWB), από τα ασύρματα προσωπικά δίκτυα υψηλών ταχυτήτων, μέχρι τα ασύρματα δίκτυα αισθητήρων με δυνατότητες ακριβούς εντοπισμού θέσης, και τα ασύρματα δίκτυα ιατρικών αισθητήρων, έχει προκαλέσει έντονο ερευνητικό ενδιαφέρον γύρω από τις υλοποιήσεις UWB συστημάτων. Η ασυνήθιστα μεγάλη περιοχή συχνοτήτων που έχει ανατεθεί στο UWB, από τα 3.1-10.6 GHz, επιτρέπει την επίτευξη υψηλών ταχυτήτων με απλά σχήματα διαμόρφωσης, ωστόσο, λόγω της διαμοίρασης του φάσματος με τις υφιστάμενες τεχνολογίες ασύρματης δικτύωσης, οι UWB εκπομπές πρέπει να περιορίζονται σε ισχύ κάτω από το κατώφλι των -41.3 dBm/MHz, ικανοποιώντας πολύ αυστηρές μάσκες εκπομπής που εισάγουν έντονες προκλήσεις στη σχεδίαση των πομπών. Η υλοποίηση αναδιατάξιμων UWB πομπών σε σύγχρονες CMOS τεχνολογίες, με υψηλή φασματική ευελιξία, ταχύτητα και ποιότητα διαμόρφωσης, καθώς και με χαμηλή κατανάλωση, αποτέλεσε το αντικείμενο της συγκεκριμένης διατριβής. Υιοθετώντας την αρχιτεκτονική Multi-Band Impulse-Radio (MB-IR) σε συνδυασμό με την τεχνική Direct Sequence BPSK, η έρευνα προσανατολίστηκε προς την ανάπτυξη καινοτόμων μονάδων βασικής ζώνης, με στόχο την ενεργειακά αποδοτική αντιστροφή Γκαουσιανών μορφοποιημένων παλμών υψηλής ποιότητας φάσματος και διάρκειας μικρότερης ακόμα και από 1 nsec. Προς αυτή την κατεύθυνση, αναπτύχθηκε μια καινοτόμα γεννήτρια Γκαουσιανών παλμών με πολύ χαμηλούς πλευρικούς λοβούς στο φάσμα, τυπικά κάτω από -40 dB, ώστε να υποστηρίζονται οι αυστηρότερες μάσκες εκπομπής ή και μελλοντικές. Η σχεδίασης της προτεινόμενης γεννήτριας είχε ως κριτήριο την ευέλικτη ρύθμιση της διάρκειας των παραγόμενων παλμών, και αξιοποίησε τη χαρακτηριστική μεταφοράς τάσης ενός ωμικά φορτωμένου, ασύμμετρου CMOS αντιστροφέα. Η γεννήτρια βασίζεται κυρίως σε ψηφιακά κυκλώματα πολύ χαμηλής τάσης και, σε σύγκριση με τις υφιστάμενες υλοποιήσεις, παρουσιάζει σημαντικό προβάδισμα στον τομέα της ταχύτητας, καθώς και στο πλάτος εξόδου, η μεγάλη τιμή του οποίου χαλαρώνει σημαντικά τη σχεδίαση του RF front end. Η γεννήτρια μελετήθηκε διεξοδικά, διεξήχθη ανάλυση κλιμάκωσης, έγινε εξαγωγή σχεδιαστικών εξισώσεων και αναπτύχθηκαν εργαλεία λογισμικού για την αυτοματοποιημένη σχεδίασή της. Για περαιτέρω αύξηση της ταχύτητας των παλμικών σημάτων εφαρμόσθηκε ειδική σχεδίαση, η οποία αντιπραγματεύεται την ταχύτητα με το επίπεδο των λοβών του φάσματος. Για την αποδοτική BSPK διαμόρφωση των Γκαουσιανών παλμών αναπτύχθηκε ειδική τοπολογία “Μεταγωγής Σήματος Πυροδότησης Πλήρους Ισορροπίας με Up-Conversion”. Η τοπολογία αυτή, σε αντίθεση με τις ανταγωνιστικές τοπολογίες, αποφεύγει την αντιστροφή του παλμού με αναλογικά κυκλώματα υψηλής κατανάλωσης, αλλά και την αναλογική μεταγωγή, καθώς η διαμόρφωση λαμβάνει χώρα πριν από την παραγωγή των παλμών. Παράλληλα, επιτυγχάνονται υψηλοί ρυθμοί, καθώς και υψηλή ποιότητα διαμόρφωσης λόγω των ισορροπημένων μονοπατιών της τοπολογίας. Η γεννήτρια μαζί με το διαμορφωτή αποτελούν τις καινοτόμες παρεμβάσεις στη μονάδα Βασικής Ζώνης του προτεινόμενου πομπού. Για την ολοκλήρωση της λειτουργικότητας του πομπού, αναπτύχθηκε ένα RF front end, το οποίο αποτελείται από έναν διπλά ισορροπημένο μίκτη, έναν LO buffer, ένα μετατροπέα διαφορικού σήματος σε απλό, και έναν ενισχυτή ισχύος, ο οποίος είναι προσαρμοσμένος στα 50 Ohms, χωρίς να απαιτεί κανένα εξωτερικό στοιχείο. Το RF front end ολοκληρώθηκε μαζί με τη μονάδα βασικής ζώνης, και ο ολοκληρωμένος πομπός κατασκευάστηκε σε τεχνολογία CMOS 130 nm. Το ολοκληρωμένο προσαρτήθηκε στην RF πλακέτα συστήματος με την τεχνική Chip on Board. Για την επιτυχία του συστήματος με την πρώτη προσπάθεια έγινε συσχεδίαση σε επίπεδο IC-Package-PCB, δίνοντας ιδιαίτερη έμφαση στα ζητήματα Signal/Power Integrity. Ο πομπός παρουσίασε την υψηλότερη ταχύτητα από τις ανταγωνιστικές MB-IR UWB υλοποιήσεις, ίση με 1.5 Gbps, με αντίστοιχη ενεργειακή αποδοτικότητα 21 pJoule/bit και μέτρο διανυσματικού σφάλματος 5.5%. Ο πομπός βελτίωσε τους πλευρικούς λοβούς στο φάσμα περισσότερο από 10 dB, ενώ η διατριβή, εκμεταλλευόμενη την αναδιαταξιμότητα του πομπού, παρουσιάζει, επιπλέον, τις πρώτες μετρήσεις σε ταχύτητες εκατοντάδων Mbps για ικανοποίηση της χαμηλής ζώνης της πρόσφατα θεσμοθετημένης, και εξαιρετικά αυστηρής, ευρωπαϊκής μάσκας εκπομπής. / The multitude of applications that Ultra-Wideband (UWB) technology can serve, from high-speed Wireless Personal Area Networks, to Wireless Sensor Networks with precision Geolocation abilities, and Wireless Medical Networks, has attracted intense research interest in the implementation of UWB systems. The unusually wide range of frequencies assigned to UWB, from 3.1-10.6 GHz, allows UWB systems employing low order modulation schemes to enjoy high throughput at low power consumption. However, since UWB shares the spectrum with existing wireless networking technologies, UWB emissions must be limited to a power spectral density below the threshold of -41.3 dBm/MHz, satisfying very stringent emission masks and introducing great challenges in the design of UWB transmitters. The subject of this thesis is the design of low power, fully integrated, reconfigurable CMOS UWB transmitters, with high spectral flexibility, high speed and high modulation quality. Adopting the Multi-Band Impulse-Radio architecture, in conjunction with the Direct Sequence BPSK modulation, the research focused on the development of a baseband unit, able to precisely invert Gaussian shaped, subnanosecond pulses. The key contributions of this thesis are a CMOS Gaussian Pulse Generator and a BSPK modulation topology, which jointly constitute the proposed baseband unit. The Pulse Generator (PG) is based on non-linear shaping, so as to facilitate the configurability of the output pulse duration, and exploits the voltage transfer characteristic of a Resistive Loaded Asymmetrical CMOS Inverter, which results in spectral sidelobes typically better than -40 dB. The PG incorporates mostly-digital low voltage circuits, while the MOSFET devices that undertake the pulse shaping avoid exclusive operation in weak inversion, in contrast to previous implementations. Consequently, the proposed CMOS PG is able to support higher throughput, as well as higher output amplitude, which relaxes considerably the design of the RF front end. This thesis presents a systematic design procedure and a scaling analysis of the non-linear pulse shaper. Moreover, in order to further increase the speed, a special PRF boost technique is proposed, which trades off speed and spectral efficiency for the spectral sidelobes level. Regarding the BPSK modulator, this work introduces the “Trigger Switching Fully Balanced Up-Conversion” topology, which avoids the use of power-hungry and distortion-prone analog circuits for the accurate inversion of the subnanosecond shaped pulses, as well as avoids the application of analog waveform switching to the baseband pulses, since the baseband modulation takes place before the generation of the pulses. The digital nature of the switching lends itself to high data rates, while the balanced paths of the topology ensure high modulation quality with minimal design effort. Wafer probing measurements confirmed the high performance of the baseband unit. The functionality of the transmitter was completed by the development of an RF front end which consists of a double balanced mixer, an LO buffer, a differential to single-ended (DtoSE) converter, and a power amplifier which is ready to drive a 50 Ohms load without requiring any off-chip components. The integrated transmitter, which incorporates the proposed baseband unit and the RF front end, was fabricated in 130 nm CMOS technology. The transmitter RFIC was directly attached to the system RF PCB using the Chip-on-Board packaging option. The First-Pass success of the system was ensured by paying particular attention to Signal/Power Integrity issues and following an IC-Package-PCB co-design procedure. The transmitter was measured up to 1.5 Gbps, which, to the author’s knowledge, was the highest speed amongst the competitive Multi-Band Impulse-Radio UWB implementations in the literature. The corresponding energy efficiency was 21 pJoule/bit and the Error Vector Magnitude (EVM) 5.5%, while the proposed transmitter improved the spectral sidelobes by over 10 dB. Exploiting the reconfigurability of the transmitter, this thesis presents the first measurements at multi-Mbps speeds that completely meet the final version of the European spectrum emission mask.