Return to search

Conception and realisation of a photogrammetric multisensor system for an uncrewed water vehicle

Due to climate change, extreme weather events and their effects like flash floods have become more frequent in recent years, causing major damages to landscapes and infrastructure, and endangering human lives. This is one of the reasons why it is desirable to monitor rivers and fluvial processes. Besides gauging water levels and flow velocities, it is necessary to know the morphology of the river as precisely as possible. In hydrodynamic flood modelling, for example, high-resolution river models are needed for a prediction of the flooded areas. By comparing the river profile before and after a flood event, conclusions can be drawn about changes in the landscape. River surveys need to record both, the banks above the water level, and the river bottom below the water level. This dissertation presents the conception and implementation of a photogrammetric multisensor system on an uncrewed water vehicle (UWV). It proofs that a well-equipped UWV is a useful measurement system for recording the topography of rivers above and below the water level providing relevant information about the river morphology.
For deriving accurate 3D information above the water level, a camera and a mobile lidar are attached to the platform. For the bathymetric measurement of the river profile, a single beam echo sounder is initially used. The individual sensors record data in different coordinate systems. For a combined model of the river, these measurements need to be fused in one coordinate system. Therefore, a calibration method is presented that enables the determination of the relative orientations between all sensors.
Lidar measurements provide detailed information about the riverbanks. Since the sensor is used on a moving platform, georeferencing of the lidar points is a crucial issue of the method. Thus, position and orientation of the scanner must be known during the entire acquisition. This is usually solved with an inertial navigation system (INS), consisting of an IMU (inertial measurement unit) and a GNSS (global navigation satellite system) receiver. However, due to shadowing from vegetation on the banks and multipath effects from the water surface, satellite positioning is likely to be error prone on rivers. IMUs are furthermore influenced by electric fields on the small platform, resulting in drifts in the orientation determination. Therefore, an independent method for determining the position and orientation of the platform is developed. For this purpose, time-lapse images of the camera on the UWV are used. Their orientation is determined with photogrammetric multi-image methods. Based on a relative orientation between the camera and the scanner coordinate system, these orientations are used for georeferencing the lidar points. This calibration method enables a fast and highly accurate determination of the relative orientation.
For the monitoring of the river bathymetry, the UWV carries a single beam echo sounder. However, echo sounding has principal limitations in shallow waters. This issue can be solved with a laser triangulation sensor combining the contrary properties of both sensors. Laser triangulation enables highly accurate line scans in close range applications and is an established method in optical industrial surveying. In order to use the method for underwater measurements, the sensor system, consisting of a camera and a laser line projector, must first be placed in a waterproof glass housing. The lightsheet emitted by the laser line projector is then refracted several times at the interfaces from air to glass and from glass to water. A method for the exact modelling and calibration of these ray paths is presented. In addition, the accuracy potential is evaluated in a theoretical assessment. In practical tests, which were first carried out in the laboratory, the previously estimated submillimetre accuracy was confirmed.
The results of the previously presented methods offer approaches for further developments. A comparison of INS and image-based methods shows the advantages of a potential combination of both approaches. The integration of the laser triangulation sensor into the set-up of the UWV confirms the potential of the combination of echo sounder and triangulation measurements. An exemplary multi temporal river survey approves the capability of the UWV for deformation analyses. Further, an improved laser triangulation sensor with a multi-line laser diode may enable more extensive underwater measurements.:Contents
1 Introduction 1
1.1 Objectives of this Thesis 1
1.2 Outline of this Thesis 1
2 Development of the Uncrewed Water Vehicle 3
2.1 Development 3
2.2 Sensor Configuration 4
2.2.1 INS and GNSS 4
2.2.2 Panorama Camera 4
2.2.3 RGB Camera 5
2.2.4 Mobile Lidar 5
2.2.5 Echo sounder 5
2.2.6 Underwater Laser Triangulation 5
2.3 System architecture 5
Sardemann et al., 2018: Acquisition of geometrical Data of small Rivers with an Unmanned Water Vehicle 7
Abstract 9
1. Introduction 9
2. The Unmanned Water Vehicle 9
2.1 Components 9
2.2 Time Synchronization 9
2.3 Calibration 10
3. Data Acquisition 10
4. Data Processing and Results 11
4.1 Lidar 11
4.2 Echo Soundings 12
4.3 Fusion with UAV data 12
5. Summary and Outlook 12
Acknowledgements 12
References 12
Sardemann et al., 2023: Camera-aided orientation of mobile lidar point clouds acquired from an uncrewed water vehicle 15
Abstract 17
1 Introduction 17
1.1 Uncrewed Water Vehicles as Multisensor Platforms 17
1.2 Camera based Orientation 18
1.3 Outline and Innovations of this Article 19
2 Platform Orientation Determination 19
3 Calibration of Lidar to Camera Orientation 20
3.1 Geometric Calibration 20
3.2 Time Synchronization 22
4 Lidar Point Transformation 22
5 Experiments 23
5.1 Reference Point Cloud 24
5.2 Calibration and Synchronization results 24
5.3 Transformation of mobile lidar point clouds 25
6 Accuracy Analysis 27
6.1 Theoretical Accuracy 27
6.2 Experimental Results 29
7 Conclusions 31
References 32
Sardemann et al., 2021: Strict geometric calibration of an underwater laser triangulation system 35
Abstract 37
1 State of the art 37
2 Method 37
2.1 Set-Up 37
2.2 Line Detection 38
2.3 Depth Determination 38
2.4 Calibration 38
2.5 Measurement Volume 39
3 Experiments and Results 39
3.1 Calibration 39
3.2 Measurements 40
4 Summary and Outlook 40
Acknowledgements 40
References 40
Sardemann et al., 2022: Accuracy Analysis of an Oblique Underwater Laser Lightsheet Triangulation System 41
Abstract 43
Zusammenfassung 43
1 Introduction 44
2 Background and State of the Art 44
3 System Design 46
4 Measurement Method 47
4.1 Line Measurement 47
4.2 Determination of 3D coordinates 48
4.3 Calibration 49
5 Measurement Volume 50
6 Statistical Accuracy Analysis 50
6.1 Influence of image measurement 51
6.2 Influence of Camera IOR 51
6.3 Influence of Camera EOR 51
6.4 Influence of Laser EOR 51
6.5 Influence of Refractive Index 51
6.6 Summarized Estimation of Accuracies 51
7 Experiments and de Facto Achieved Accuracies 52
7.1 Reference Objects 52
7.2 Single Profile Scan 52
7.3 Scanning Mode 53
8 Summary and Outlook 54
9 Declaration 54
References 54
3 Syntheses 59
3.1 Comparison of INS- and Camera-based Orientation 59
3.1.1 Boresight alignment and lever-arm calibration 59
3.1.2 Theoretical error estimation 60
3.1.3 De facto achieved accuracies 60
3.1.4 Comparison of both approaches 61
3.2 Integrating the underwater laser triangulation sensor 62
4 Ongoing and Future Work 64
4.1 Deformation Analysis 64
4.2 Multiline Underwater Laser Triangulation 65
4.2.1 Calibration 66
5 Conclusion 69
6 Literature 71
List of Figures 77
List of Tables 81
List of Abbreviations 83 / Bedingt durch den Klimawandel treten seit einigen Jahren vermehrt extreme Wetterereignisse auf. Deren Auswirkungen, wie Sturzfluten, verursachen große Schäden an Landschaften und Infrastruktur und gefährden Menschenleben. Um Sturzfluten besser modellieren zu können, ist die Überwachung von Flüssen und fluvialen Prozessen erforderlich. Neben der Messung von Wasserständen und Fließgeschwindigkeiten an Pegeln, muss die Morphologie des Flusses so genau wie möglich bekannt sein. Bei der hydrodynamischen Hochwassermodellierung werden beispielsweise hochaufgelöste Flussmodelle für eine Vorhersage der überfluteten Gebiete benötigt. Durch den Vergleich des Flussprofils vor und nach einem Hochwasserereignis können Rückschlüsse auf Veränderungen in der Landschaft gezogen werden. Für umfassende Flussvermessungen müssen sowohl die Ufer oberhalb als auch die Flusssohle unterhalb der Wasseroberfläche erfasst werden. In dieser Dissertation wird die Konzeptionierung und Umsetzung eines photogrammetrischen Multisensorsystems auf einem unbemannten Wasserfahrzeug (uncrewed water vehicle – UWV) vorgestellt. Die Arbeit zeigt, dass ein UWV ein nützliches Messsystem zur Erfassung der Topographie von Flüssen ober- und unterhalb des Wasserspiegels ist und somit die Erfassung der Morphologie des Flusses ermöglicht.
Um präzise 3D-Informationen der Ufer zu erhalten, werden eine Kamera und ein mobiler Laserscanner an der Plattform angebracht. Für die Vermessung des Flussprofils wird zunächst ein Einzelpunkt-Echolot eingesetzt. Die einzelnen Sensoren zeichnen ihre Daten in unterschiedlichen Koordinatensystemen auf. Für ein kombiniertes Modell des Flusses müssen diese Messungen in einem gemeinsamen Koordinatensystem fusioniert werden. Daher wird eine Kalibriermethode vorgestellt, die die Bestimmung der relativen Orientierungen zwischen den Sensoren ermöglicht.
Laserscanner-Messungen liefern detaillierte Informationen über die Uferbereiche. Da der Sensor auf einer beweglichen Plattform eingesetzt wird, ist die Georeferenzierung der 3D-Punkte von großer Bedeutung. Dafür müssen Position und Orientierung des Scanners während der gesamten Erfassung bekannt sein. Dies wird üblicherweise mit einem inertialen Navigationssystem (INS) gelöst, das aus einer IMU (Inertial Measurement Unit) und einem GNSS-Empfänger (Global Navigation Satellite System) besteht. Aufgrund von Abschattungen durch die Ufervegetation und Mehrwegeeffekten an der Wasseroberfläche ist die Satellitenortung auf Flüssen jedoch oft fehleranfällig. Darüber hinaus werden IMUs durch elektrische Felder auf der kleinen Plattform beeinflusst, was zu Drifts bei der Orientierungsbestimmung führt. Daher wird eine unabhängige Methode zur Bestimmung der Position und Orientierung der Plattform vorgestellt. Dazu werden die Bilder der auf dem UWV angebrachten Kamera verwendet. Deren Orientierung wird mit photogrammetrischen Mehrbildverfahren bestimmt. Basierend auf einer relativen Orientierung zwischen Kamera- und Scanner-Koordinatensystem werden diese Orientierungen zur Georeferenzierung der Laserscannerpunkte verwendet. Die entwickelte Kalibriermethode ermöglicht eine schnelle und hochgenaue Bestimmung der relativen Orientierung
Das Echolot liefert aufgrund des Messprinzips in flachen Gewässern üblicherweise keine exakten Daten. Mittels eines Lasertriangulationssensors können auch in diesen Bereichen Gewässertiefen gemessen werden, weshalb eine Kombination beider Verfahren aufgrund ihrer gegensätzlichen Eigenschaften sinnvoll ist. Die Lasertriangulation ermöglicht hochgenaue linienhafte Abtastungen im Nahbereich und ist eine etablierte Methode in der optischen Industrievermessung. Um das Verfahren für Unterwassermessungen nutzen zu können, muss das Sensorsystem, bestehend aus einer Kamera und einem Linienlaser, zunächst in einem wasserdichten Glasgehäuse untergebracht werden. Das von der Laserdiode emittierte Licht wird dann an den Grenzflächen von Luft zu Glas und von Glas zu Wasser mehrfach gebrochen. Es wird eine Methode zur exakten Modellierung und Kalibrierung dieser Strahlengänge vorgestellt. Außerdem wird das theoretische Genauigkeitspotenzial evaluiert. In praktischen Versuchen, die zunächst im Labor durchgeführt wurden, konnte die zuvor abgeschätzte Submillimeter-Genauigkeit des Systems bestätigt werden.
Die Ergebnisse der vorgestellten Methoden bieten Ansätze für Weiterentwicklungen. Ein Vergleich von INS- und bildbasierten Verfahren zeigt die Vorteile der potenziellen Kombination beider Ansätze. Die Integration des Lasertriangulationssensors in den Messaufbau des UWV zeigt das Potential der Kombination von Echolot- und Triangulationsmessungen. Eine beispielhaft durchgeführte multitemporale Flussvermessung bestätigt die Leistungsfähigkeit des UWV für Deformationsanalysen. Darüber hinaus könnte ein verbesserter Lasertriangulationssensor mit einer Mehrlinien-Laserdiode flächenhafte Unterwassermessungen ermöglichen.:Contents
1 Introduction 1
1.1 Objectives of this Thesis 1
1.2 Outline of this Thesis 1
2 Development of the Uncrewed Water Vehicle 3
2.1 Development 3
2.2 Sensor Configuration 4
2.2.1 INS and GNSS 4
2.2.2 Panorama Camera 4
2.2.3 RGB Camera 5
2.2.4 Mobile Lidar 5
2.2.5 Echo sounder 5
2.2.6 Underwater Laser Triangulation 5
2.3 System architecture 5
Sardemann et al., 2018: Acquisition of geometrical Data of small Rivers with an Unmanned Water Vehicle 7
Abstract 9
1. Introduction 9
2. The Unmanned Water Vehicle 9
2.1 Components 9
2.2 Time Synchronization 9
2.3 Calibration 10
3. Data Acquisition 10
4. Data Processing and Results 11
4.1 Lidar 11
4.2 Echo Soundings 12
4.3 Fusion with UAV data 12
5. Summary and Outlook 12
Acknowledgements 12
References 12
Sardemann et al., 2023: Camera-aided orientation of mobile lidar point clouds acquired from an uncrewed water vehicle 15
Abstract 17
1 Introduction 17
1.1 Uncrewed Water Vehicles as Multisensor Platforms 17
1.2 Camera based Orientation 18
1.3 Outline and Innovations of this Article 19
2 Platform Orientation Determination 19
3 Calibration of Lidar to Camera Orientation 20
3.1 Geometric Calibration 20
3.2 Time Synchronization 22
4 Lidar Point Transformation 22
5 Experiments 23
5.1 Reference Point Cloud 24
5.2 Calibration and Synchronization results 24
5.3 Transformation of mobile lidar point clouds 25
6 Accuracy Analysis 27
6.1 Theoretical Accuracy 27
6.2 Experimental Results 29
7 Conclusions 31
References 32
Sardemann et al., 2021: Strict geometric calibration of an underwater laser triangulation system 35
Abstract 37
1 State of the art 37
2 Method 37
2.1 Set-Up 37
2.2 Line Detection 38
2.3 Depth Determination 38
2.4 Calibration 38
2.5 Measurement Volume 39
3 Experiments and Results 39
3.1 Calibration 39
3.2 Measurements 40
4 Summary and Outlook 40
Acknowledgements 40
References 40
Sardemann et al., 2022: Accuracy Analysis of an Oblique Underwater Laser Lightsheet Triangulation System 41
Abstract 43
Zusammenfassung 43
1 Introduction 44
2 Background and State of the Art 44
3 System Design 46
4 Measurement Method 47
4.1 Line Measurement 47
4.2 Determination of 3D coordinates 48
4.3 Calibration 49
5 Measurement Volume 50
6 Statistical Accuracy Analysis 50
6.1 Influence of image measurement 51
6.2 Influence of Camera IOR 51
6.3 Influence of Camera EOR 51
6.4 Influence of Laser EOR 51
6.5 Influence of Refractive Index 51
6.6 Summarized Estimation of Accuracies 51
7 Experiments and de Facto Achieved Accuracies 52
7.1 Reference Objects 52
7.2 Single Profile Scan 52
7.3 Scanning Mode 53
8 Summary and Outlook 54
9 Declaration 54
References 54
3 Syntheses 59
3.1 Comparison of INS- and Camera-based Orientation 59
3.1.1 Boresight alignment and lever-arm calibration 59
3.1.2 Theoretical error estimation 60
3.1.3 De facto achieved accuracies 60
3.1.4 Comparison of both approaches 61
3.2 Integrating the underwater laser triangulation sensor 62
4 Ongoing and Future Work 64
4.1 Deformation Analysis 64
4.2 Multiline Underwater Laser Triangulation 65
4.2.1 Calibration 66
5 Conclusion 69
6 Literature 71
List of Figures 77
List of Tables 81
List of Abbreviations 83

Identiferoai:union.ndltd.org:DRESDEN/oai:qucosa:de:qucosa:88975
Date11 January 2024
CreatorsSardemann, Hannes
ContributorsMaas, Hans-Gerd, Iwaszczuk, Dorota, Luhmann, Thomas, Technische Universität Dresden
Source SetsHochschulschriftenserver (HSSS) der SLUB Dresden
LanguageEnglish
Detected LanguageEnglish
Typeinfo:eu-repo/semantics/publishedVersion, doc-type:doctoralThesis, info:eu-repo/semantics/doctoralThesis, doc-type:Text
Rightsinfo:eu-repo/semantics/openAccess

Page generated in 0.0156 seconds