Μια σχετικά νέα περιοχή έντονης ερευνητικής δραστηριότητας ασχολείται με τη μελέτη των οπτικών ιδιοτήτων κβαντικών συστημάτων (ατόμων/μορίων και ημιαγώγιμων κβαντικών τελειών) συζευγμένων με πλασμονικές (μεταλλικές) νανοδομές. Τα ισχυρά πεδία και ο έντονος περιορισμός του φωτός που σχετίζονται με τους πλασμονικούς συντονισμούς οδηγούν σε ισχυρή αλληλεπίδραση μεταξύ των ηλεκτρομαγνητικών πεδίων και των κβαντικών συστημάτων κοντά σε πλασμονικές νανοδομές. Επιπλέον, χρησιμοποιώντας τα κβαντικά συστήματα μπορεί να επιτευχθεί εξωτερικός έλεγχος των οπτικών ιδιοτήτων της υβριδικής φωτονικής δομής. Στη διδακτορική διατριβή μελετάται θεωρητικά και υπολογιστικά η οπτική απόκριση συμπλεγμάτων κβαντικών συστημάτων με μεταλλικές νανοδομές, δίνοντας έμφαση σε μη-γραμμικές και κβαντικές οπτικές διαδικασίες. Στα συστήματα αυτά τα επιφανειακά πλασμόνια των μεταλλικών νανοδομών επηρεάζουν σημαντικά, τόσο το ηλεκτρομαγνητικό πεδίο που αλληλεπιδρούν τα κβαντικά συστήματα, όσο και το ρυθμό αυθόρμητης εκπομπής των κβαντικών συστημάτων. Μελετάμε απλές και πολύπλοκες μεταλλικές νανοδομές, όπως μια μεταλλική νανοσφαίρα και μια διδιάστατη διάταξη διηλεκτρικών νανοσφαιρών επικαλυμμένων με μέταλλο (μεταλλικοί νανοφλοιοί). Τα κβαντικά συστήματα είναι άτομα/μόρια και κυρίως ημιαγώγιμες κβαντικές τελείες και περιγράφονται από συστήματα δύο, τριών και τεσσάρων ενεργειακών επιπέδων. Δείχνουμε ότι, φαινόμενα όπως δημιουργία κβαντικής συμβολής στην αυθόρμητη εκπομπή, σύμφωνη ελεγχόμενη αναστροφή πληθυσμού, οπτική διαφάνεια και κέρδος χωρίς αναστροφή πληθυσμού, δημιουργία αργού φωτός, τροποποιημένη οπτική μη-γραμμικότητα Kerr και μίξη τεσσάρων κυμάτων, όπως και φαινόμενα ελέγχου μέσω φάσης, εμφανίζονται στα κβαντικά συστήματα και τροποποιούνται σημαντικά λόγω της ύπαρξης της μεταλλικής νανοδομής. / A relatively new area of active research involves the study of the optical properties of quantum systems (atoms/molecules and semiconductor quantum dots) coupled to plasmonic (metallic) nanostructures. The large fields and the strong light confinement associated with the plasmonic resonances enable strong interaction between the electromagnetic field and quantum systems near plasmonic nanostructures. In addition, using the quantum system one may achieve external control of the optical properties of the hybrid photonic structure. In this thesis we analyze both theoretically and computationally the optical response of hybrid nanosystems comprised of quantum emitters and plasmonic nanostructures. We put emphasis on the study of nonlinear and quantum optical processes. In these systems the spontaneous decay rate and the electromagnetic field that interacts with the quantum emitter is significantly modified by the surface plasmons of the plasmonic nanostructures. We study cases of both simple and more involved plasmonic nanostructures. An example of a simple plasmonic nanostructure considered in this thesis is a metallic nanosphere, while a more involved one is a two-dimensional array of metal-coated dielectric nanospheres. The quantum systems are atoms/molecules and especially semiconductor quantum dots and are described by two-level, three-level or four-level systems. We find that several coherent optical phenomena that happen in the quantum systems can be strongly influenced by the presence of the plasmonic nanostructure. Specifically, we show that effects such as quantum interference in spontaneous emission, controlled population inversion, optical transparency and gain without inversion, slow light, enhanced nonlinear optical Kerr effect and four-wave mixing as well as phase-dependent absorption and dispersion profiles can be created and modified.