Η παρούσα διατριβή εστιάζεται σε οπτικά τηλεπικοινωνιακά συστήματα με σύμφωνο δέκτη, τετραδική διαμόρφωση φάσης και πολύπλεξη κατά πόλωση. Το κυριότερο πλεονέκτημα αυτών των συστημάτων σε σύγκριση με τα συμβατικά οπτικά τηλεπικοινωνιακά συστήματα με δέκτες άμεσης φώρασης είναι οι αυξημένες δυνατότητες ψηφιακής επεξεργασίας σήματος στο δέκτη, που καθιστά εφικτή την εξίσωση των φαινομένων διάδοσης και την αποπολύπλεξη πόλωσης με ηλεκτρονικά μέσα. Μελετώνται διατάξεις ηλεκτρονικής επεξεργασίας σήματος. Η μελέτη διεξάγεται με χρήση προσομοίωσης με τη βοήθεια ηλεκτρονικού υπολογιστή. Προτείνεται η χρήση δύο πρωτότυπων μεθόδων αποπολύπλεξης σημάτων πολυπλεγμένων κατά πόλωση, με πλεονεκτήματα ως προς την απόδοση, την αξιοπιστία και την ταχύτητα σύγκλισης σε σύγκριση με τις μεθόδους που έχουν προταθεί στη βιβλιογραφία Στη συνέχεια μελετάται η απόδοση των ηλεκτρονικών εξισωτών ελαχίστου μέσου τετραγώνου (least-mean square) και σταθερής περιβάλλουσας (constant modulus algorithm) στην εξίσωση της χρωματικής διασποράς και της διασποράς τρόπων πόλωσης, τόσο μεμονωμένα, όσο και από κοινού. Στη μελέτη μας συμπεριλαμβάνουμε το θόρυβο φάσης και την ενδιάμεση συχνότητα, αίροντας αντίστοιχες απλοποιήσεις που συνήθως γίνονται στη βιβλιογραφία. Ακολούθως αναφερόμαστε στο πρόβλημα του εκφυλισμού του πίνακα συντελεστών των εξισωτών ελαχίστου μέσου τετραγώνου και σταθερής περιβάλλουσας παρουσία έντονης διεξασθένησης. O πίνακας συντελεστών στον οποίο έχει συγκλίνει ο εξισωτής ονομάζεται εκφυλισμένος όταν παράγεται η ίδια απεσταλμένη ακολουθία συμβόλων και στις δύο εξόδους του εξισωτή. Προτείνουμε τη χρήση του πολυχρηστικού εξισωτή σταθερής περιβάλλουσας (multiuser constant modulus algorithm equalizer). Η λύση που προτείνεται έχει πλεονεκτήματα αξιοπιστίας και απλότητας σε σχέση με αντίστοιχες προτάσεις στη βιβλιογραφία, και αποδεικνύεται η άριστη απόδοσή της. Στη συνέχεια, γίνεται αναφορά στο φαινόμενο της ανισοσταθμίας ορθογωνιότητας που παρατηρείται στα οπτικά συστήματα με σύμφωνους δέκτες και αποτελεί ένα φαινόμενο το οποίο, κατά κανόνα, παραβλέπεται στις μελέτες της βιβλιογραφίας και αποδεικνύεται το ότι οι συμβατικοί ηλεκτρονικοί εξισωτές δεν μπορούν να το αντιμετωπίσουν. Τέλος, παραθέτουμε αποτελέσματα από την επεξεργασία πραγματικών πειραματικών δεδομένων, για την επαλήθευση των συμπερασμάτων που προέκυψαν θεωρητικά. / This PhD dissertation focuses on optical communication systems utilizing coherent receiver, quadrature phase modulation and polarization multiplexing. Their main advantage compared to conventional systems is the ability to perform extended digital signal processing, in order to compensate for transmission effects and to successfully demultiplex polarization multiplexed signals. We study such DSP modules with the help of computer simulations. We propose two novel polarization demultiplexing algorithms, with advantages in performance reliability and convergence speed compared to conventional methods. One of the two methods utilizes training procedure, an approach not yet studied enough in the literature. Next, we study the performance of least mean square and constant modulus algorithm equalizers in mitigating chromatic dispersion and polarization mode dispersion, both separately and in combination. We include in our study phase noise and intermediate frequency offset, without the simplifications usually found in the literature. Next, we address the subject of equalizer degeneration, which describes the phenomenon when both equalizer outputs transmit one of the two polarization multiplexed signals. We propose the use of multi-user constant modulus algorithm, which is an enhanced version of the conventional constant modulus algorithm. We prove that our solution has excellent performance as well as reliability and simplicity advantages compared to other methods. Next, we prove that quadrature imbalance is a ubiquitous phenomenon that cannot be addressed with conventional electronic equalizers and should not be omitted as is often the case. Finally, we present results derived from the application of some of the proposed algorithms on real experimental data, and prove the consistency of the theoretical derived results.