The Nyquist WDM system realizes a terabit high spectral efficiency transmission system by allocating several subcarriers close to or equal to the baud rate. This system achieves optimal performance by maintaining both temporal and spectral orthogonality. However, ISI and ICI effects are inevitable in practical Nyquist WDM implementations due to the imperfect channel response and tight channel spacing and may cause significant performance degradations. Our primary research goals are to combat the ISI effects via the transmitter digital pre-shaping and to remove the ICI impairments at the receiver using MIMO signal processing. First we propose two novel blind channel estimation techniques that enable the transmitter pre-shaping design for the ISI effects mitigation. Both numerical and experimental results demonstrate that the two methods are very effective in compensating the narrow band filtering and are very robust to channel estimation noise. Besides pre-shaping, the DAC-enabled transmitter chromatic dispersion compensation is also demonstrated in a system with high LO laser linewidth. Next a novel “super-receiver” structure is proposed, where different subchannels are synchronously sampled, and the baseband signals from three adjacent subchannels are processed jointly to remove ICI penalty. Three different ICI compensation methods are introduced and their performances compared. The important pre-processes that enable a successful ICI compensation are also elaborated. Despite ICI compensation, the joint carrier phase recovery based on the Viterbi-Viterbi algorithm is also studied in the carrier phase locked systems. In-band crosstalk arises from the imperfect switch elements in the add-drop process of ROADM-enabled DWDM systems and may cause significant performance degradation. Our third research topic is to demonstrate a systematic way to analyze and predict the in-band crosstalk-induced penalty. In this work, we propose a novel crosstalk-to-ASE noise weighting factor that can be combined with the weighted crosstalk weighting metric to incorporate the in-band crosstalk noise into the Gaussian noise model for performance prediction and analysis. With the aid of the Gaussian noise model, the in-band crosstalk-induced nonlinear noise is also studied. Both simulations and experiments are used to validate the proposed methods.

Το ερευνητικό αντικείμενο της παρούσας διατριβής υπάγεται στον «Έλεγχο Σφαλμάτων» (Error Control), έναν επιστημονικό χώρο με καθοριστικής σημασίας συνεισφορά στην εξέλιξη των ψηφιακών τηλεπικοινωνιών. Πιο συγκεκριμένα, η παρούσα διατριβή πραγματεύεται την εφαρμογή του «ελέγχου σφαλμάτων» στην οπτική μετάδοση. Κατά τη διάρκεια της τελευταίας δεκαπενταετίας (‘93-‘08), τρεις γενιές «άμεσης διόρθωσης σφαλμάτων» (FEC) έχουν διαδεχθεί η μία την άλλη, σε ανταπόκριση προς τις ολοένα απαιτητικότερες προδιαγραφές των οπτικών ζεύξεων (υψηλότεροι ρυθμοί μετάδοσης και πυκνότερα οπτικά πλέγματα). Κατά κανόνα, οι μέθοδοι FEC κωδικοποιούν τα δεδομένα εισόδου χωρίς να έχουν γνώση γι’ αυτά (π.χ. δομή, πρωτόκολλο) και χωρίς να επεμβαίνουν σ’ αυτά. Η προσέγγιση αυτή καλείται «κωδικοποίηση εκτός ζώνης» (Out-Band Coding – OBC) και συνεπάγεται αύξηση του ρυθμού μετάδοσης στο οπτικό κανάλι σε σχέση με το ρυθμό των δεδομένων εισόδου, ανάλογα με το ποσοστό πλεονασμού του κώδικα. Ωστόσο, ο τελικός ρυθμός μετάδοσης στο κανάλι μπορεί να διατηρηθεί αμετάβλητος, αν το πρωτόκολλο μετάδοσης προβλέπει την ύπαρξη πλεονάσματος και μέρος αυτού μπορεί να διατεθεί για κωδικοποίηση FEC. Η εναλλακτική αυτή προσέγγιση καλείται «κωδικοποίηση εντός ζώνης» (In-Band Coding – IBC). Η «σύγχρονη ψηφιακή ιεραρχία» (SDH) και το «σύγχρονο οπτικό δίκτυο» (SONET) είναι τα πρότυπα, που σήμερα κυριαρχούν στις οπτικές τηλεπικοινωνίες. Με αφθονία πλεονάσματος στα πλαίσια μετάδοσης, τα παραπάνω σύγχρονα δίκτυα προσφέρονται για την IBC. Στα πλαίσια της παρούσας διατριβής, τα SDH & SONET αναλύθηκαν από κοινού για την εύρεση της βέλτιστης μεθόδου IBC με βάση έναν αριθμό από κριτήρια. Καταρχήν εξετάστηκε διεξοδικά το πλεόνασμα μετάδοσης για να εντοπιστούν τα διαθέσιμα bytes και να αιτιολογηθεί η δέσμευσή τους για την IBC. Στη συνέχεια, αναζητήθηκε ο βέλτιστος κώδικας FEC για τα δεδομένα πλαίσια μετάδοσης και με το δεδομένο πλεόνασμα (για την αποθήκευση των bits ισοτιμίας του κώδικα). Η βελτιστοποίηση κάλυψε όλους τους γραμμικούς και συστηματικούς κώδικες ανά κατηγορίες – ο χωρισμός τους σε κατηγορίες έγινε με βάση τις εξής βασικές ιδιότητες: α) την αλφάβητο: «δυαδικοί» έναντι «μη-δυαδικών», και β) τη διορθωτική ικανότητα: κώδικες κατάλληλοι για «τυχαία» (μεμονωμένα) σφάλματα έναντι κατάλληλων για «ομοβροντίες» (ριπές) σφαλμάτων. iii Από την παραπάνω διαδικασία βελτιστοποίησης προέκυψε μία μέθοδος IBC, που βασίζεται στο συρρικνωμένο Reed-Solomon κώδικα RS(240,236,9). Πρόκειται για μία εντελώς νέα μέθοδο και δικαιολογεί τη διάκρισή της ως βέλτιστη, έχοντας σαφή πλεονεκτήματα έναντι των μεθόδων, που είχαν προταθεί στο παρελθόν. Στα πλαίσια της παρούσας διατριβής, η παραπάνω βέλτιστη μέθοδος προτείνεται με το όνομα «FOCUS» για την κωδικοποίηση IBC στα δίκτυα SDH/SONET. Με στόχο την ακριβή πειραματική αξιολόγηση της προτεινόμενης μεθόδου FOCUS, υλοποιήθηκε κατόπιν ένας αριθμός από πρωτότυπα συστήματα, χρησιμοποιώντας τις διαθέσιμες μικροκυματικές κάρτες «10g-Tester». Αναλυτικότερα, η μοντελοποίηση έγινε στη γλώσσα περιγραφής υλικού VHDL και η υλοποίηση με προγραμματιζόμενη λογική (Xilinx® XC2V3000-4 FPGA). Τέλος, η πειραματική αξιολόγηση της προτεινόμενης μεθόδου FOCUS πραγματοποιήθηκε σε δύο διαδοχικές φάσεις: Στην πρώτη φάση, το σύστημα FOCUS αξιολογήθηκε ως μία «ανεξάρτητη» μέθοδος κωδικοποίησης FEC (stand-alone IBC evaluation). Η αξιολόγηση έγινε με ρυθμό μετάδοσης STM-64 σε κατάλληλα διαμορφωμένη, πειραματική οπτική ζεύξη «από-σημείο σε-σημείο» (point-to-point optical link), συνολικού μήκους ~88 χμ. Στην παραπάνω ζεύξη μετρήθηκαν οι επιδόσεις του FOCUS κατά την αντιστάθμιση των κυριότερων ατελειών της οπτικής μετάδοσης: α) της χρωματικής διασποράς (CD), β) της «παρασιτικής» ενίσχυσης του θορύβου από οπτικούς ενισχυτές (ASE) και γ) της μη-γραμμικής συμπεριφοράς (WDM -NL). Στη δεύτερη φάση, το σύστημα FOCUS αξιολογήθηκε ως μία «αναβάθμιση» για οπτικές ζεύξεις, οι οποίες διαθέτουν ήδη κωδικοποίηση OBC (evaluation of IBC and OBC in concatenation). Πιο συγκεκριμένα, το σύστημα FOCUS συνδέθηκε σε σειρά (ως εξωτερικός κώδικας) με το κατά ITU-T G.975 (2000) πρότυπο σύστημα κωδικοποίησης (OBC). Σε αυτή τη συνδεσμολογία, το σύστημα FOCUS αποτελεί τη δικλείδα ασφαλείας, που επεμβαίνει όταν ο εσωτερικός αποκωδικοποιητής (G.975) υπερχειλίζεται από τα σφάλματα του καναλιού. Η αξιολόγηση της υβριδικής αυτής μεθόδου κωδικοποίησης έγινε με ρυθμό μετάδοσης 10.66 Gb/s (SDH STM-64 x 15/14) σε μία καθαρά οπτική διάταξη μετατροπής μήκους κύματος, που αποτελείται από δύο οπτικούς ενισχυτές πυριτίου (SOA-based MZI). Ειδικότερα, μετρήθηκαν: α) η μείωση της ευαισθησίας της οπτικής διάταξης στις (τυχαίες) μεταβολές φάσης των δύο σημάτων εισόδου και β) η καθαρή συνεισφορά του συστήματος FOCUS, όταν αυτό επεμβαίνει ως δικλείδα ασφαλείας. Το FOCUS συγκεντρώνει σημαντική καινοτομία, τόσο στην επινόηση όσο και στην υλοποίηση. Όλα τα συμπεράσματα της αξιολόγησης έχουν δημοσιευτεί σε έγκυρα διεθνή περιοδικά και συνέδρια. / This Ph.D. thesis falls into “Error Control”, a scientific field with key contribution to the evolution of digital telecommunications. In specific, this thesis treats optical transmission in terms of “Error Control”. Noteworthy is the fact that during the last fifteen years (‘93-‘08), three generations of “Forward Error Correction” (FEC) methods for optical transmission have succeeded one another, in response to the increasingly demanding optical link specifications (higher transmission rates, denser wavelength mesh). In general, FEC-methods assume no prior knowledge of the input data (e.g. structure, protocol); in addition, input data are not modified at all (i.e. under normal channel conditions, output-data will be identical to the input data). This approach is called “Out-Band Coding” (OBC) and incurs an increase of the optical channel data-rate relatively to the input data-rate, inversely proportional to the coding-rate. Notwithstanding, the rate of the optical-channel can be kept unchanged, on condition that the transmission protocol provides “overhead” and part of this “overhead” can be allocated for parity-information. This alternative approach is called “In-Band Coding” (IBC). The “Synchronous Digital Hierarchy” (SDH) and the “Synchronous Optical Network” (SONET) are currently the dominant standards in optical communications. The abundance of overhead in transmission-frames renders these synchronous networks suitable for IBC. In this thesis, SDH and SONET were analyzed together to determine the optimum IBC method with respect to a number of criteria. Firstly, SDH/SONET transmission-overhead was scrutinized in order to identify available bytes and justify their commitment to implement IBC. Next, the optimum FEC-code was sought, given the size of the transmission-frames and the availability of overhead (to allocate the parity bits). Optimization spanned all linear and systematic codes. The codes were divided in groups according to the following fundamental properties: a) the underlying alphabet: “binary” versus “non-binary” codes, and b) the corrective power: codes, appropriate for “random” (isolated) errors versus codes, appropriate for “burst-form” errors. Optimization resulted in an IBC-method, which relies on the shortened Reed-Solomon code RS(240,236,9). This IBC-method is completely novel and its optimality can be verified by the clear advantages, it presents over methods that were proposed in the past. In this thesis, the above IBC-method is given the name “FOCUS” and proposed for IBC in SDH/SONET networks. In order to accurately measure the performance of the proposed method “FOCUS”, a number of prototypes were implemented by making use of microwave cards, called “10gv Tester”. More specifically, “FOCUS” was modelled in the “VHDL” hardware description language and its prototypes were implemented by means of a Xilinx® “XC2V3000-4” FPGA. The experimental evaluation of the proposed method was conducted in two successive phases: During the first phase, “FOCUS” was evaluated as an independent (stand-alone) FEC method. This evaluation took place at an STM-64 transmission-rate in a suitable experimental “point-to-point” optical link, whose length was ~88 km. In the above link, the performance of “FOCUS” was measured, in compensating the principal impairments of optical transmission: a) the chromatic dispersion (CD), b) the parasitic amplification of noise by optical amplifiers (ASE), and c) the non-linear behavior (WDM-NL). During the second phase, “FOCUS” was evaluated as an “upgrade” for optical links, which have already been equipped with OBC (evaluation of IBC and OBC in concatenation). Specifically, “FOCUS” was concatenated with the OBC-method, which has been proposed in rec. G.975 (ITU-T, 2000) with “FOCUS” as the outer- and “G.975” as the inner-code. In this arrangement, “FOCUS” plays the role of the “safety-valve”, which prevents the inner decoder (G.975) from deteriorating the error-rate of the optical link, when it is overwhelmed by severe channel-conditions. The evaluation of this hybrid coding-method took place at a transmissionrate of 10.66 Gb/s (SDH STM-64 x 15/14) in a purely optical wavelength conversion device, which consists of two silicon optical amplifiers (SOA-based MZI). In the above wavelengthconversion device, the following measurements were obtained: a) the reduction of sensitivity of the optical wavelength converter to the (random) phase-changes of the two input signals, and b) the net contribution of “FOCUS”, when acting as a “safety valve”. “FOCUS” has many innovative aspects, both in its conception and the implementation of its prototypes. All conclusions of the above two-phased experimental evaluation have been published in international journals and conferences.