MACHINE LEARNING ALGORITHMS FOR BEAM COMPENSATION AND TRACKING IN FREE-SPACE OPTICS SYSTEMS

Abstract

Free-space optics (FSO) communication has emerged as a key enabling technology for next-generation wireless networks due to its potential to support extremely high data rates, license-free operation, and inherent security. In addition, FSO links can be rapidly deployed compared with wired infrastructure, as they do not require ground excavation or right-of-way authorization on poles or ducts, making them attractive for fast installation of high-capacity links. However, the performance and reliability of terrestrial FSO links are fundamentally limited by line-of-sight constraints, pointing errors, and atmospheric turbulence, which introduce wavefront distortions, beam wander, beam spreading, and signal fading. The objective of this thesis is to investigate and experimentally demonstrate machine learning (ML) assisted optical techniques for enhancing the FSO communication systems at the physical layer, with particular emphasis on acquisition, tracking, and pointing (ATP) mechanisms deployed at the receiver side. The thesis proposes and validates a set of three complementary experimental subsystems, each addressing a critical impairment in FSO links. First, a ML-based beam tracking approach is developed using optical power triangulation with low-cost phototransistors, replacing conventional analytical solvers to improve the tracking range and reduce the response time by up to 98.5% compared with traditional methods, while maintaining robustness for signal-to-noise ratios down to 10 dB. Second, atmosphericturbulence-induced wavefront distortions are mitigated through a convolutional neural network (CNN) integrated with a spatial light modulator (SLM), enabling dynamic wavefront compensation and restoration of a quasi-Gaussian beam profile at the receiver, increasing the received mean optical power from approximately 35–40% to 85–90% relative to the ideal no-turbulence scenario. Third, a generative CNN-driven SLM-based pointing-error compensation scheme is introduced for fine optical steering, providing non-mechanical correction of beam misalignments and pointing-gain improvements of up to 34 dB. All approaches are validated through laboratory experiments that emulate key FSO propagation impairments. Overall, the results demonstrate that ML-based control of optical devices reduces response latency and improves control decision-making, thereby enhancing the robustness of the ATP process and enabling more stable, adaptive, and resilient FSO communication systems. Part of the experimental development and analysis was conducted in international collaboration with the University of Aveiro and the University of Coimbra, contributing to the validation and consolidation of the results presented in this thesis.

A comunicação óptica em espaço livre (FSO) tem emergido como uma tecnologia habilitadora fundamental para redes sem fio de próxima geração, devido ao seu potencial para suportar taxas de dados extremamente elevadas, operação isenta de licenciamento e segurança intrínseca. Além disso, enlaces FSO apresentam rápida e simples implementação quando comparados a infraestruturas cabeadas, pois não requerem escavação do solo nem solicitação de direito de passagem em postes ou dutos, constituindo uma alternativa atrativa para implantação ágil de enlaces de alta capacidade. Entretanto, o desempenho e a confiabilidade de enlaces FSO terrestres são fundamentalmente limitados por restrições de linha de visada, erros de apontamento e turbulência atmosférica, que introduzem distorções de frente de onda, deslocamento do feixe, alargamento e desvanecimento do sinal. O objetivo desta tese é investigar e demonstrar experimentalmente técnicas ópticas assistidas por aprendizado de máquina para aumentar a resiliência de sistemas de comunicação FSO na camada física, com ênfase particular nos mecanismos de aquisição, rastreamento e apontamento implementados no lado do receptor. Para esse fim, a tese propõe e valida um conjunto de três subsistemas experimentais complementares, cada um voltado à mitigação de uma limitação crítica em enlaces FSO. Primeiramente, é desenvolvida uma abordagem de rastreamento de feixe baseada em aprendizado de máquina, utilizando triangulação de potência óptica com fototransistores de baixo custo, substituindo solucionadores analíticos convencionais para ampliar a faixa de rastreamento, reduzindo em até 98,5% o tempo de resposta em comparação com métodos tradicionais e apresentando robustez para razões sinal-ruído de até 10 dB. Em segundo lugar, as distorções de frente de onda induzidas pela turbulência atmosférica são mitigadas por meio de uma rede neural convolucional (CNN) integrada a um modulador espacial de luz (SLM), possibilitando a compensação dinâmica da frente de onda e a restauração de um perfil de feixe quase gaussiano no receptor, com aumento da potência óptica média recebida de aproximadamente 35–40% para 85–90% quando comparado ao cenário ideal sem turbulência. Por fim, é introduzido um esquema de compensação de erros de apontamento baseado em SLM, acionado por uma CNN generativa, para o ajuste fino do direcionamento óptico, proporcionando correção não mecânica de desalinhamentos do feixe e ganhos de compensação de apontamento de até 34 dB. Todas as abordagens são validadas por meio de experimentos em laboratório que emulam os principais efeitos de propagação em comunicações ópticas em espaço livre. De forma geral, os resultados demonstram que o controle de dispositivos ópticos baseado em aprendizado de máquina é capaz de reduzir a latência de resposta e aprimorar a tomada de decisão de controle, aumentando a robustez do processo de aquisição, rastreamento e apontamento (ATP) e resultando em sistemas FSO mais estáveis, adaptativos e resilientes. Parte do desenvolvimento experimental e da análise científica foi realizada em

colaboração internacional com a Universidade de Aveiro e a Universidade de Coimbra, contribuindo para a validação e consolidação dos resultados obtidos nesta tese.