1 |
[pt] ADAPTAÇÃO DE DOMINIO BASEADO EM APRENDIZADO PROFUNDO PARA DETECÇÃO DE MUDANÇAS EM FLORESTAS TROPICAIS / [en] DEEP LEARNING-BASED DOMAIN ADAPTATION FOR CHANGE DETECTION IN TROPICAL FORESTSPEDRO JUAN SOTO VEGA 20 July 2021 (has links)
[pt] Os dados de observação da Terra são freqüentemente afetados pelo fenômeno
de mudança de domínio. Mudanças nas condições ambientais, variabilidade
geográfica e diferentes propriedades de sensores geralmente tornam quase
impossível empregar classificadores previamente treinados para novos dados
sem experimentar uma queda significativa na precisão da classificação.
As técnicas de adaptação de domínio baseadas em modelos de aprendizado
profundo têm se mostrado úteis para aliviar o problema da mudança de domínio.
Trabalhos recentes nesta área fundamentam-se no treinamento adversárial
para alinhar os atributos extraídos de imagens de diferentes domínios
em um espaço latente comum. Outra forma de tratar o problema é empregar
técnicas de translação de imagens e adaptá-las de um domínio para outro de
forma que as imagens transformadas contenham características semelhantes
às imagens do outro domínio. Neste trabalho, propõem-se abordagens
de adaptação de domínio para tarefas de detecção de mudanças, baseadas
em primeiro lugar numa técnica de traslação de imagens, Cycle-Consistent
Generative Adversarial Network (CycleGAN), e em segundo lugar, num modelo
de alinhamento de atributos: a Domain Adversarial Neural Network
(DANN). Particularmente, tais técnicas foram estendidas, introduzindo-se
restrições adicionais na fase de treinamento dos componentes do modelo
CycleGAN, bem como um procedimento de pseudo-rotulagem não supervisionado
para mitigar o impacto negativo do desequilíbrio de classes no
DANN. As abordagens propostas foram avaliadas numa aplicação de detecção
de desmatamento, considerando diferentes regiões na floresta amazônica
e no Cerrado brasileiro (savana). Nos experimentos, cada região corresponde
a um domínio, e a precisão de um classificador treinado com imagens e referências
de um dos domínio (fonte) é medida na classificação de outro
domínio (destino). Os resultados demonstram que as abordagens propostas
foram bem sucedidas em amenizar o problema de desvio de domínio no
contexto da aplicação alvo. / [en] Earth observation data are frequently affected by the domain shift phenomenon.
Changes in environmental conditions, geographical variability and
different sensor properties typically make it almost impossible to employ
previously trained classifiers for new data without a significant drop in classification
accuracy. Domain adaptation (DA) techniques based on Deep Learning
models have been proven useful to alleviate domain shift. Recent
improvements in DA technology rely on adversarial training to align features
extracted from images of the different domains in a common latent space.
Another way to face the problem is to employ image translation techniques,
and adapt images from one domain in such a way that the transformed
images contain characteristics that are similar to the images from the other
domain. In this work two different DA approaches for change detection
tasks are proposed, which are based on a particular image translation technique,
the Cycle-Consistent Generative Adversarial Network (CycleGAN),
and on a representation matching strategy, the Domain Adversarial Neural
Network (DANN). In particular, additional constraints in the training
phase of the original CycleGAN model components are proposed, as well as
an unsupervised pseudo-labeling procedure, to mitigate the negative impact
of class imbalance in the DANN-based approach. The proposed approaches
were evaluated on a deforestation detection application, considering different
sites in the Amazon rain-forest and in the Brazilian Cerrado (savanna)
biomes. In the experiments each site corresponds to a domain, and the accuracy
of a classifier trained with images and references from one (source)
domain is measured in the classification of another (target) domain. The
experimental results show that the proposed approaches are successful in
alleviating the domain shift problem.
|
2 |
[pt] SEGMENTAÇÃO DE FALHAS SÍSMICAS USANDO ADAPTAÇÃO DE DOMÍNIO NÃO SUPERVISIONADA / [en] SEISMIC FAULT SEGMENTATION USING UNSUPERVISED DOMAIN ADAPTATIONMAYKOL JIAMPIERS CAMPOS TRINIDAD 28 November 2023 (has links)
[pt] A segmentação de falhas sísmicas apresenta uma tarefa desafiadora edemorada na geofísica, especialmente na exploração e extração de petróleo egás natural. Métodos de Aprendizado Profundo (Deep Learning) têm mostradoum grande potencial para enfrentar esses desafios e oferecem vantagens emcomparação com métodos tradicionais. No entanto, abordagens baseadas emAprendizado Profundo geralmente requerem uma quantidade substancial dedados rotulados, o que contradiz o cenário atual de disponibilidade limitadade dados sísmicos rotulados. Para lidar com essa limitação, pesquisadores têmexplorado a geração de dados sintéticos como uma solução potencial paradados reais não rotulados. Essa abordagem envolve treinar um modelo emdados sintéticos rotulados e, posteriormente, aplicar diretamente ao conjuntode dados real. No entanto, a geração de dados sintéticos encontra o problemade deslocamento de domínio devido à complexidade das situações geológicasdo mundo real, resultando em diferenças na distribuição entre conjuntosde dados sintéticos e reais. Para mitigar o problema de deslocamento dedomínio na detecção de falhas sísmicas, propomos uma nova abordagem queutiliza técnicas de Adaptação de Domínio Não Supervisionada ou UnsupervisedDomain Adaptation (UDA). Nossa proposta envolve o uso de um conjunto dedados sintéticos para treinamento do modelo e sua adaptação a dois conjuntosde dados reais disponíveis publicamente na literatura. As técnicas de UDAescolhidas incluem Maximum Mean Discrepancy (MMD), Domain-AdversarialNeural Networks (DANN) e Fourier Domain Adaptation (FDA). MMD eDANN visam alinhar características em um espaço de características comumde n dimensões, minimizando discrepâncias e aumentando a confusão dedomínio por meio do treinamento adversarial, respectivamente. Por outro lado,FDA transfere o estilo de amostras reais para sintéticas usando TransformadaRápida de Fourier. Para os experimentos, utilizamos uma versão menor doUNet e sua variante Atrous UNet, que incorpora camadas convolucionaisdilatadas em seu gargalo. Além disso, o DexiNed (Dense Extreme InceptionNetwork), um modelo do estado da arte para detecção de bordas, foi empregadopara fornecer uma análise mais abrangente. Além disso, estudamos a aplicaçãode ajuste fino ou fine-tuning em conjuntos de dados rotulados para investigarseu impacto no desempenho, pois muitos estudos o têm utilizado para reduziro deslocamento de domínio.Os resultados finais demonstraram melhorias significativas no desempenho de detecção de falhas ao aplicar técnicas de UDA, com aumento médio deaté 13 por cento em métricas de avaliação como Intersection over Union e F1-score.Além disso, a abordagem proposta obteve detecções mais consistentes de falhassísmicas com menos falsos positivos, indicando seu potencial para aplicações nomundo real. Por outro lado, a aplicação de ajuste fino não demonstrou ganhossignificativos no desempenho, mas reduziu o tempo de treinamento. / [en] Seismic fault segmentation presents a challenging and time-consuming
task in geophysics, particularly in the exploration and extraction of oil and
natural gas. Deep Learning (DL) methods have shown significant potential to
address these challenges and offer advantages compared to traditional methods.
However, DL-based approaches typically require a substantial amount of labeled data, which contradicts the current scenario of limited availability of labeled
seismic data. To address this limitation, researchers have explored synthetic
data generation as a potential solution for unlabeled real data. This approach
involves training a model on labeled synthetic data and subsequently applying
it directly to the real dataset. However, synthetic data generation encounters
the domain shift problem due to the complexity of real-world geological situations, resulting in differences in distribution between synthetic and real datasets.
To mitigate the domain shift issue in seismic fault detection, we propose a novel
approach utilizing Unsupervised Domain Adaptation (UDA) techniques. Our
proposal involves using a synthetic dataset for model training and adapting it
to two publicly available real datasets found in the literature. The chosen UDA
techniques include Maximum Mean Discrepancy (MMD), Domain-Adversarial
Neural Networks (DANN), and Fourier Domain Adaptation (FDA). MMD
and DANN aim to align features in a common n-dimensional feature space by
minimizing discrepancy and increasing domain confusion through adversarial
training, respectively. On the other hand, FDA transfers the style from real to
synthetic samples using Fast Fourier Transform. For the experiments, we utilized a smaller version of UNet and its variant Atrous UNet, which incorporates
Dilated Convolutional layers in its bottleneck. Furthermore, DexiNed (Dense
Extreme Inception Network), a state-of-the-art model for edge detection, was
employed to provide a more comprehensive analysis. Additionally, we studied
the application of fine-tuning on labeled datasets to investigate its impact on
performance, as many studies have employed it to reduce domain shift.
The final results demonstrated significant improvements in fault detection performance by applying UDA techniques, with up to a 13 percent increase
in evaluation metrics such as Intersection over Union and F1-score on average. Moreover, the proposed approach achieved more consistent detections
of seismic faults with fewer false positives, indicating its potential for realworld applications. Conversely, the application of fine-tuning did not show a
significant gain in performance but did reduce the training time.
|
Page generated in 0.1622 seconds