Besides attenuation, dispersion is the major limiting factor in high data rate fiber optical transmission systems. Dispersion compensation techniques have to be deployed in order to increase the data bandwidth or the reach of fiber optical links. Typically fixed value dispersion compensators are used. However at channel bit rates of 40 GBit/s and beyond adjustable residual dispersion compensator modules (DCM) are needed to guarantee an error free transmission under changing environmental conditions. In this thesis dispersion techniques were investigated which exploit the special propagation properties of higher order modes in custom-designed optical fibers. After a short introduction of state-of-the-art dispersion techniques and their parameters (chapter 2) the modeling and calculation of propagation properties of a particular mode in an optical fiber with an arbitrary, rotation-symmetric refractive index profile is shown (chapter 3). A converter from the fundamental mode and back is needed in order to exploit the propagation properties of a higher order mode (HOM). In this work long-period gratings (LPG) were considered as mode converters (chapter 4) as they can excite selective and nearly lossless a higher order mode. The modeling und calculation of these gratings, based on the fiber calculation of chapter 3, is presented in the first part of chapter 4. Afterwards the manufacturing methods developed during this work are introduced. The spectral properties of realized long-period gratings are discussed and the influence of such factors as strain and temperature on tuning the mode conversion is shown. A dispersion compensator type utilizing only the waveguide dispersion of a certain mode in a custom few mode fiber (FMF) is the subject of chapter 5. The working principle, the fiber design process and first measurements of a realized HOM-DCM with almost completely coupling FMF-LPG are presented. Subsequently the principle of a novel dispersion compensator with an arbitrary dispersion function for a higher or the fundamental mode is explained. In chapter 6 another type of dispersion compensator is investigated consisting of equally distributed long-period gratings along an optical fiber. The fiber pieces between the gratings create a certain time delay between the fundamental mode and the considered higher order mode. It is shown in simulations and in an experiment, that by tuning the mode conversion of each grating and the optical phase relation between the two signal paths in each fiber piece this finite impulse filter structure is so adjusted to function as a tunable residual dispersion compensator.

In dieser Arbeit werden verschiedene Methoden zur Erhöhung der Systemtoleranz optischer Übertragungssysteme theoretisch analysiert, durch numerische Simulationen untersucht und in Experimenten und Feldversuchen praktisch überprüft. Der Schwerpunkt lag dabei auf empfängerseitigen elektronischen sowie optischen Entzerrern. Diese Entzerrer verbessern die Signalübertragung, in dem sie die Augenöffnung des Signals am Empfänger vergrößern oder in dem sie durch digitale Logikschaltungen das gesendete Signal aus einem gestörten Signal rekonstruieren. Der Schwerpunkt dieser Arbeit liegt jedoch auf der Untersuchung der Entzerrer auf Systemebene, d.h. es wird das Verhalten in einem kompletten optischen Übertragungssystem bestehend aus Sender, Glasfaserstrecke und Empfänger bewertet. Zur Untersuchung wurde eine Simulationsumgebung in der Programmiersprache FORTRAN erstellt, in der die unterschiedlichen Entzerrer in verschiedenen Netz-Szenarien untersucht wurden. Zur praktischen Untersuchung wurde außerdem eine Testumgebung im verlegten Glasfasernetz aufgebaut und eine Realisierung eines Entzerrers experimentell untersucht. / In this thesis, several methods for the enhancement of the tolerance of optical transmission systems are analyzed theoretically, investigated in numerical simulations and evaluated in experiments and field trials. The investigations were thereby focused on receiver sided electronic and optical equalizers. Those devices improve the signal transmission by increasing the eye-opening at the receiver or by reconstructing the original signal from the distorted received signal by the use of digital signal processing. However, this thesis is focused on the investigation of different equalizers on a system level where the performance of a complete transmission system consisting of a transmitter, transmission fiber and receiver is evaluated. For those studies a simulation environment was created using the programming language FORTRAN where the different equalizers were evaluated in different network scenarios. For practical investigations, a test environment was created using the deployed fiber infrastructure and specific equalizer realization were evaluated experimentally.

In den letzten Jahrzehnten ist das globale Kommunikationssystem in einem immer größerem Maße ein integraler Bestandteil des täglichen Lebens geworden. Optische Kommunikationssysteme sind die technologische Basis für diese Entwicklung. Nur Fasern können die riesige benötigte Bandbreite bereitstellen. Während für die ersten optischen Übertragungssysteme die Faser als "flacher" Kanal betrachtet werden konnte, machen Wellenlängenmultiplex und steigende Übertragungsraten die Einbeziehung von immer mehr physikalischen Effekten notwendig. Bei einer Erhöhung der Kanaldatenrate auf 40 Gbit/s und mehr ist die statische Kompensation von chromatischer Dispersion nicht mehr ausreichend. Die intrinsische Toleranz der Modulationsformate gegenüber Dispersion nimmt quadratisch mit der Symbolrate ab. Daher können beispielsweise durch Umwelteinflüsse hervorgerufene Dispersionsschwankungen die Dispersionstoleranz der Modulationsformate überschreiten. Dies macht eine adaptive Dispersionskompensation notwendig, was gleichzeitig auch Dispersionsmonitoring erfordert, um den adaptiven Kompensator steuern zu können. Vorhandene Links können mit Restdispersionskompensatoren ausgestattet werden, um sie für Hochgeschwindigkeitsübertragungen zu ertüchtigen. Optische Kompensationstechniken sind unabhängig von der Kanaldatenrate. Daher wird eine Erhöhung der Datenrate problemlos unterstützt. Optische Kompensatoren können WDM-fähig gebaut werden, um mehrere Kanäle auf einmal zu entzerren. Das Buch beschäftigt sich mit optischen Delay-Line-Filtern als eine Klasse von optischen Kompensatoren. Die Filtersynthese von solchen Delay-Line-Filtern wird behandelt. Der Zusammenhang zwischen optischen Filtern und digitalen FIR-Filtern mit komplexen Koeffizienten im Zusammenhang mit kohärenter Detektion wird aufgezeigt. Iterative und analytische Methoden, die die Koeffizienten für dispersions- und dispersions-slope-kompensierende Filter produzieren, werden untersucht. Genauso wichtig wie die Kompensation von Dispersion ist die Schätzung der Dispersion eines Signals. Mit Delay-Line-Filtern können die Restseitenbänder eines Signals genutzt werden, um die Dispersion zu messen. Alternativ kann nichtlineare Detektion angewandt werden, um die Pulsverbreiterung, die hauptsächlich von der Dispersion herrührt, zu schätzen. Mit gemeinsamer Dispersionskompensation und Dispersionsmonitoring können Dispersionskompensatoren auf die Signalverzerrungen eingestellt werden. Spezielle Eigenschaften der Filter zusammen mit der analytischen Beschreibung können genutzt werden, um schnelle und zuverlässige Steueralgorithmen zur Filtereinstellung bereitzustellen. Schließlich wurden Prototypen derartiger faseroptischen Kompensatoren von chromatischer Dispersion und Dispersions-Slope hergestellt und charakterisiert. Die Einheiten und ihr Systemverhalten wird gezeigt und diskutiert. / Over the course of the past decades, the global communication system has become a central part of people's everyday lives. Optical communication systems are the technological basis for this development. Only fibers can provide the huge bandwidth that is required. Where the fiber could be regarded as a flat channel for the first optical transmission systems wavelength multiplexing and increasing line rates made it necessary to take more and more physical effects into account. When the line rates are increased to 40 Gbit/s and higher static chromatic dispersion compensation is not enough. The modulation format's intrinsic tolerance for dispersion decreases quadratically with the symbol rate. Thus, environmentally induced chromatic dispersion fluctuations may exceed the dispersion tolerance of the modulation formats. This makes an adaptive dispersion compensation necessary implying also the need for a monitoring scheme to steer the adaptive compensator. Legacy links that are CD-compensated by DCFs can be upgraded with residual dispersion compensators to make them ready for high speed transmission. Optical compensation is independent from the line rate. Hence, increasing the data rates is inherently supported. Optical compensators can be built WDM ready compensating multiple channels at once. The book deals with optical delay line filters as one class of optical compensators. The filter synthesis of such delay line filters is addressed. The connection between optical filters and digital FIR filters with complex coefficients that are used in conjunction with coherent detection could be shown. Iterative and analytical methods that produce the coefficients for dispersion (and also dispersion slope) compensating filters are researched. As important as the compensation of dispersion is the estimation of the dispersion of a signal. Using delay line filters, the vestigial sidebands of a signal can be used to measure the dispersion. Alternatively, nonlinear detection can be used to estimate the pulse broadening which is caused mainly by dispersion. With dispersion compensation and dispersion monitoring, dispersion compensators can be adapted to the signal's impairment. Special properties of the filter in conjunction with an analytical description can be used to provide a fast and reliable control algorithm for setting the filter to a given dispersion and centering it on a signal. Finally, prototypes of such fiber optic chromatic dispersion and dispersion slope compensation filters were manufactured and characterized. The device and system characterization of the prototypes is presented and discussed.