1 |
[en] SIGNAL PROCESSING TECHNIQUES FOR ENERGY EFFICIENT DISTRIBUTED LEARNING / [pt] TÉCNICAS DE PROCESSAMENTO DE SINAIS PARA APRENDIZAGEM DISTRIBUÍDA COM EFICIÊNCIA ENERGÉTICAALIREZA DANAEE 11 January 2023 (has links)
[pt] As redes da Internet das Coisas (IdC) incluem dispositivos inteligentes que contêm muitos sensores que permitem interagir com o mundo físico, coletando e processando dados de streaming em tempo real. O consumo total de energia e o custo desses sensores afetam o consumo de energia
e o custo dos dispositivos IdC. O tipo de sensor determina a precisão da
interface analógica e a resolução dos conversores analógico-digital (ADCs). A
resolução dos ADCs tem um compromisso entre a precisão de inferência e o
consumo de energia, uma vez que o consumo de energia dos ADCs depende
do número de bits usados para representar amostras digitais.
Nesta tese, apresentamos um esquema de aprendizado distribuído com eficiência
energética usando sinais quantizados para redes da IdC. Em particular,
desenvolvemos algoritmos de gradiente estocástico com reconhecimento de
quantização distribuído (DQA-LMS) e de mínimos quadrados recursivos com
reconhecimento de quantização distribuído (DQA-RLS) que podem aprender
parâmetros de maneira eficiente em energia usando sinais quantizados com
poucos bits, exigindo um baixo custo computacional. Além disso, desenvolvemos
uma estratégia de compensação de viés para melhorar ainda mais o
desempenho dos algoritmos propostos. Uma análise estatística dos algoritmos
propostos juntamente com uma avaliação da complexidade computacional
das técnicas propostas e existentes é realizada. Os resultados numéricos
avaliam os algoritmos com reconhecimento de quantização distribuída em
relação às técnicas existentes para uma tarefa de estimação de parâmetros
em que os dispositivos IdC operam em um modo ponto a ponto.
Também apresentamos um esquema de aprendizado federativo com eficiência
energética usando sinais quantizados para redes de IdC. Desenvolvemos o
algoritmo federated averaging LMS (QA-FedAvg-LMS) com reconhecimento
de quantização para redes IdC estruturadas por configuração de aprendizado
federativo em que os dispositivos IdC trocam suas estimativas com um
servidor. Uma estratégia de compensação de viés para QA-FedAvg-LMS é
proposta junto com sua análise estatística e a avaliação de desempenho em
relação às técnicas existentes com resultados numéricos. / [en] Internet of Things (IoT) networks include smart devices that contain many sensors that allow them to interact with the physical world, collecting and processing streaming data in real time. The total energy-consumption and cost of these sensors affect the energy-consumption and the cost of IoT
devices. The type of sensor determines the accuracy of the analog interface and the resolution of the analog-to-digital converters (ADCs). The ADC resolution requirement has a trade-off between sensing performance and energy consumption since the energy consumption of ADCs strongly depends
on the number of bits used to represent digital samples. In this thesis, we present an energy-efficient distributed learning framework using coarsely quantized signals for IoT networks. In particular, we develop
a distributed quantization-aware least-mean square (DQA-LMS) and a distributed quantization-aware recursive least-squares (DQA-RLS) algorithms that can learn parameters in an energy-efficient fashion using signals quantized with few bits while requiring a low computational cost. Moreover, we
develop a bias compensation strategy to further improve the performance of the proposed algorithms. We then carry out a statistical analysis of the proposed algorithms along with a computational complexity evaluation of the proposed and existing techniques. Numerical results assess the distributed
quantization-aware algorithms against existing techniques for distributed parameter estimation where IoT devices operate in a peer-to-peer mode. We also introduce an energy-efficient federated learning framework using coarsely quantized signals for IoT networks, where IoT devices exchange
their estimates with a server. We then develop the quantization-aware federated averaging LMS (QA-FedAvg-LMS) algorithm to perform parameter estimation at the clients and servers. Furthermore, we devise a bias compensation strategy for QA-FedAvg-LMS, carry out its statistical analysis,
and assess its performance against existing techniques with numerical results.
|
Page generated in 0.0457 seconds