Inferência da força de interação nos fenômenos físicos/biológicos é objetivo comum a diversas áreas da ciência. Em particular, nas neurociências tem-se assistido a uma mudança no paradigma experimental em que a atenção tem-se voltado à compreensão da interação entre grupamentos neuronais. Em vista desta demanda surgiram naturalmente diversos métodos estatísticos de medida de dependência entre grupamentos neurais. Alguns foram desenhados para inferência de fluxo de informação, sem contudo precisar o que se entende por fluxo de informação, gerando consequentemente controvérsias na literatura. O principal objetivo deste trabalho é aplicar os conceitos da Teoria da Informação na análise de processos estacionários de segunda ordem para precisar as idéias de fluxo de informação utilizadas na literatura de forma ad hoc e obter um melhor entendimento da relação existente entre as diferentes medidas de dependência propostas. / We study the relationship between different measures of causality or information flow. We show that the concept of partial measures of dependence are related to the definition of inverse random variables.

The main goal of this study is to propose a methodology that measures directed relations between locally stationary processes. Unlike stationary processes, locally stationary processes may present sudden pattern changes and have local characteristics in specific intervals. This behavior causes instability in measures based on Fourier transforms. The relevance of this study relies on considering these processes and propose robust methodologies that are not affected by outliers, sudden pattern changes or local behavior. We start reviewing the Partial Directed Coherence (PDC) and the Wavelet Coherence. PDC measures the directed relation between components of a multivariate stationary Vector Autoregressive (VAR) model in the frequency domain, while Wavelet Coherence is based on complex wavelets decomposition. We then propose a causal wavelet decomposition of the covariance structure for bivariate locally stationary processes: the Directed Wavelet Covariance (DWC). Compared to Fourier-based quantities, wavelet-based estimators are more appropriate for non-stationary processes and processes with local patterns, outliers and rapid regime changes like in EEG experiments with the introduction of stimuli. We then propose its estimators and calculate its expectation and analyze its variance. Next we propose a decomposition for the variance of multivariate processes with more than two components: the Partial Directed Wavelet Covariance (pDWC). Considering a N-variate locally stationary process, the pDWC calculates the Directed Wavelet Covariance of X_1(t) with X_2(t) eliminating the effect of the other components X_3(t), ... ,X_N(t). We propose two approaches to this situation. First we filter the multivariate process to remove all the exogenous influences and then we calculate the directed relation between the components. In the second case, as in Partial Directed Coherence, we consider the multivariate process as a time-varying Vector Autoregressive Model (tv-VAR) and use its coefficients in the decomposition of the covariance function to isolate the effects of the other components. We also compare results of the PDC, Wavelet Coherence and Directed Wavelet Covariance with simulated data. Finally, we present an application of the proposed Directed Wavelet Covariance and Partial Directed Wavelet Covariance on EEG data. Simulation results show that the proposed measures capture the simulated relations. The pDWC with linear filter has shown more stable estimations than the proposed pDWC considering the tv-VAR. Future studies will discuss the DWC\'s and pDWC\'s asymptotic distributions and significance tests. The proposed Directed Wavelet Covariance decomposition is a different approach to deal with non-stationary processes in the context of causality. The use of wavelets is a gain and adds to the number of studies that can be addressed when Fourier transform does not apply. The pDWC is an alternative for multivariate processes and it removes linear influences from observed external components. / O objetivo deste trabalho é propor uma metodologia para mensurar o impacto direcionado entre processos localmente estacionários. Diferente de processos estacionários, processos localmente estacionários podem apresentar mudanças bruscas e características específicas em determinados intervalos. Tal comportamento pode causar instabilidade em medidas baseadas na transformada de Fourier. A importância deste estudo se dá em englobar processos com tais características, propondo metodologias robustas que não são afetadas pela existência de mudanças bruscas, pontos discrepantes e comportamentos locais. Inicialmente apresentamos conceitos já existentes na literatura, como a Coerência Parcial Direcionada (PDC) e a Coerência de Ondaletas. A PDC mede o impacto direcionado entre componentes de um modelo vetorial autoregressivo (VAR) no domínio da frequência. A coerência de ondaletas é baseada em transformadas complexas de ondaletas. Propomos então uma decomposição no domínio de ondaletas para a estrutura de covariância de processos bivariados localmente estacionários: a Covariância Direcionada de Ondaletas (DWC). Em comparação com as quantidades baseadas na tranformada Fourier, os estimadores baseados em ondaletas são mais apropriados para processos não estacionários com padrões locais, pontos discrepantes ou mudanças rápidas de regime, como em experimentos de eletroencefalograma (EEG) com a introdução de estímulo. Ainda, propomos um estimador para a DWC, calculamos a esperança deste estimador e avaliamos sua variância. Em seguida, propomos uma quantidade análoga à DWC para processos multivariados com mais de duas componentes: a Covariância Parcial Direcionada de Ondaletas (pDWC). Considerando um processo N-variado localmente estacionário, a pDWC calcula a Covariância Direcionada de Ondaletas entre X_1(t) e X_2(t) eliminando o efeito das outras componentes X_3(t), ... , X_N(t). Propomos duas abordagens para a pDWC: na primeira, a pDWC é calculada após a aplicação de um filtro linear que remove o efeito das variáveis exógenas. No segundo caso, a exemplo da Coerência Parcial Direcionada, consideramos o processo multivariado como um Modelo Autoregressivo de Vetorial variante no tempo (tv-VAR) e usamos seus coeficientes na decomposição da função de covariância para isolar os efeitos das demais componentes. Também comparamos os resultados da PDC, Coerência de Ondaletas e Covariância Direcionada de Ondaletas com dados simulados. Por fim, apresentamos uma aplicação da DWC e da pDWC em dados de EEG. Identificamos nas simulações que tanto as medidas já existentes na literatura quanto as quantidades propostas identificaram as relações simuladas. A pDWC proposta com filtros lineares apresentou estimações mais estáveis do que a pDWC considerando os modelos tv-VAR. Estudos futuros discutirão as propriedades assintóticas e testes de significância da DWC e pDWC.

The main goal of this study is to propose a methodology that measures directed relations between locally stationary processes. Unlike stationary processes, locally stationary processes may present sudden pattern changes and have local characteristics in specific intervals. This behavior causes instability in measures based on Fourier transforms. The relevance of this study relies on considering these processes and propose robust methodologies that are not affected by outliers, sudden pattern changes or local behavior. We start reviewing the Partial Directed Coherence (PDC) and the Wavelet Coherence. PDC measures the directed relation between components of a multivariate stationary Vector Autoregressive (VAR) model in the frequency domain, while Wavelet Coherence is based on complex wavelets decomposition. We then propose a causal wavelet decomposition of the covariance structure for bivariate locally stationary processes: the Directed Wavelet Covariance (DWC). Compared to Fourier-based quantities, wavelet-based estimators are more appropriate for non-stationary processes and processes with local patterns, outliers and rapid regime changes like in EEG experiments with the introduction of stimuli. We then propose its estimators and calculate its expectation and analyze its variance. Next we propose a decomposition for the variance of multivariate processes with more than two components: the Partial Directed Wavelet Covariance (pDWC). Considering a N-variate locally stationary process, the pDWC calculates the Directed Wavelet Covariance of X_1(t) with X_2(t) eliminating the effect of the other components X_3(t), ... ,X_N(t). We propose two approaches to this situation. First we filter the multivariate process to remove all the exogenous influences and then we calculate the directed relation between the components. In the second case, as in Partial Directed Coherence, we consider the multivariate process as a time-varying Vector Autoregressive Model (tv-VAR) and use its coefficients in the decomposition of the covariance function to isolate the effects of the other components. We also compare results of the PDC, Wavelet Coherence and Directed Wavelet Covariance with simulated data. Finally, we present an application of the proposed Directed Wavelet Covariance and Partial Directed Wavelet Covariance on EEG data. Simulation results show that the proposed measures capture the simulated relations. The pDWC with linear filter has shown more stable estimations than the proposed pDWC considering the tv-VAR. Future studies will discuss the DWC\'s and pDWC\'s asymptotic distributions and significance tests. The proposed Directed Wavelet Covariance decomposition is a different approach to deal with non-stationary processes in the context of causality. The use of wavelets is a gain and adds to the number of studies that can be addressed when Fourier transform does not apply. The pDWC is an alternative for multivariate processes and it removes linear influences from observed external components. / O objetivo deste trabalho é propor uma metodologia para mensurar o impacto direcionado entre processos localmente estacionários. Diferente de processos estacionários, processos localmente estacionários podem apresentar mudanças bruscas e características específicas em determinados intervalos. Tal comportamento pode causar instabilidade em medidas baseadas na transformada de Fourier. A importância deste estudo se dá em englobar processos com tais características, propondo metodologias robustas que não são afetadas pela existência de mudanças bruscas, pontos discrepantes e comportamentos locais. Inicialmente apresentamos conceitos já existentes na literatura, como a Coerência Parcial Direcionada (PDC) e a Coerência de Ondaletas. A PDC mede o impacto direcionado entre componentes de um modelo vetorial autoregressivo (VAR) no domínio da frequência. A coerência de ondaletas é baseada em transformadas complexas de ondaletas. Propomos então uma decomposição no domínio de ondaletas para a estrutura de covariância de processos bivariados localmente estacionários: a Covariância Direcionada de Ondaletas (DWC). Em comparação com as quantidades baseadas na tranformada Fourier, os estimadores baseados em ondaletas são mais apropriados para processos não estacionários com padrões locais, pontos discrepantes ou mudanças rápidas de regime, como em experimentos de eletroencefalograma (EEG) com a introdução de estímulo. Ainda, propomos um estimador para a DWC, calculamos a esperança deste estimador e avaliamos sua variância. Em seguida, propomos uma quantidade análoga à DWC para processos multivariados com mais de duas componentes: a Covariância Parcial Direcionada de Ondaletas (pDWC). Considerando um processo N-variado localmente estacionário, a pDWC calcula a Covariância Direcionada de Ondaletas entre X_1(t) e X_2(t) eliminando o efeito das outras componentes X_3(t), ... , X_N(t). Propomos duas abordagens para a pDWC: na primeira, a pDWC é calculada após a aplicação de um filtro linear que remove o efeito das variáveis exógenas. No segundo caso, a exemplo da Coerência Parcial Direcionada, consideramos o processo multivariado como um Modelo Autoregressivo de Vetorial variante no tempo (tv-VAR) e usamos seus coeficientes na decomposição da função de covariância para isolar os efeitos das demais componentes. Também comparamos os resultados da PDC, Coerência de Ondaletas e Covariância Direcionada de Ondaletas com dados simulados. Por fim, apresentamos uma aplicação da DWC e da pDWC em dados de EEG. Identificamos nas simulações que tanto as medidas já existentes na literatura quanto as quantidades propostas identificaram as relações simuladas. A pDWC proposta com filtros lineares apresentou estimações mais estáveis do que a pDWC considerando os modelos tv-VAR. Estudos futuros discutirão as propriedades assintóticas e testes de significância da DWC e pDWC.

Essa dissertação apresenta o desenvolvimento métodos para caracterização da conectividade entre séries temporais neurofisiológicas. Utilizam-se metodologias provenientes da Teoria da Informação Entropias Aproximada e Amostral para representar a complexidade da série no tempo, o que permite inferir como sua variabilidade se transfere a outras sequências, através do uso da coerência parcial direcionada. Para cada sistema analisado: (1) Faz-se uma transformação em outro, relacionando-o às medidas de entropia, (2) Estima-se a conectividade pela coerência parcial direcionada e (3) Avalia-se a robustez do procedimento via simulações de Monte Carlo e análise de sensibilidade. Para os exemplos simulados, a técnica proposta é capaz de oferecer resultados plausíveis, através da correta inferência da direção de conectividade em casos de acoplamento não-linear (quadrático), com número reduzido de amostras temporais dos sinais, em que outras abordagens falham. Embora de simples implementação, conclui-se que o processo mostra-se como uma extensão da causalidade de Granger para o caso não-linear. / The purpose of this work is to present the development of methods for characterizing the connectivity between nonlinear neurophysiological time series. Methodologies from Information Theory Approximate and Sample Entropies are used to represent the complexity of the series in a period of time, which allows inferring on how its variability is transferred to other sequences, using partial directed coherence. Methods: For each system under consideration, (1) It is done a transformation in another, relating it to measures of entropy, (2) The connectivity is estimated by the use of partial directed coherence and (3) The robustness of the procedure is analyzed via Monte Carlo simulations and sensitivity analysis. Results: For the simulated examples, the proposed technique is able to offer plausible results, through the correct inference of the connectivity direction, in cases of nonlinear coupling (quadratic), with a reduced number of signals samples, where other approaches fail. Conclusion: The process proves to be an extension of the Granger causality to the nonlinear case.

Essa dissertação apresenta o desenvolvimento métodos para caracterização da conectividade entre séries temporais neurofisiológicas. Utilizam-se metodologias provenientes da Teoria da Informação Entropias Aproximada e Amostral para representar a complexidade da série no tempo, o que permite inferir como sua variabilidade se transfere a outras sequências, através do uso da coerência parcial direcionada. Para cada sistema analisado: (1) Faz-se uma transformação em outro, relacionando-o às medidas de entropia, (2) Estima-se a conectividade pela coerência parcial direcionada e (3) Avalia-se a robustez do procedimento via simulações de Monte Carlo e análise de sensibilidade. Para os exemplos simulados, a técnica proposta é capaz de oferecer resultados plausíveis, através da correta inferência da direção de conectividade em casos de acoplamento não-linear (quadrático), com número reduzido de amostras temporais dos sinais, em que outras abordagens falham. Embora de simples implementação, conclui-se que o processo mostra-se como uma extensão da causalidade de Granger para o caso não-linear. / The purpose of this work is to present the development of methods for characterizing the connectivity between nonlinear neurophysiological time series. Methodologies from Information Theory Approximate and Sample Entropies are used to represent the complexity of the series in a period of time, which allows inferring on how its variability is transferred to other sequences, using partial directed coherence. Methods: For each system under consideration, (1) It is done a transformation in another, relating it to measures of entropy, (2) The connectivity is estimated by the use of partial directed coherence and (3) The robustness of the procedure is analyzed via Monte Carlo simulations and sensitivity analysis. Results: For the simulated examples, the proposed technique is able to offer plausible results, through the correct inference of the connectivity direction, in cases of nonlinear coupling (quadratic), with a reduced number of signals samples, where other approaches fail. Conclusion: The process proves to be an extension of the Granger causality to the nonlinear case.

Esta tese examina o problema de detecção de conectividade entre séries temporais no sentido de Granger no caso em que a natureza não linear das interações não permite sua determinação por meio de modelos auto-regressivos lineares vetoriais. Mostra-se que é possível realizar esta detecção com auxílio dos chamados métodos de Kernel, que se tornaram populares em aprendizado por máquina (\'machine learning\') já que tais métodos permitem definir formas generalizadas de teste de Granger, coerência parcial direcionada e função de transferência direcionada. Usando simulações, mostram-se alguns exemplos de detecção nos quais fica também evidente que resultados assintóticos deduzidos originalmente para estimadores lineares podem ser generalizados de modo análogo, mostrando-se válidos no presente contexto kernelizado. / This work examines the connectivity detection problem between time series in the Granger sense when the nonlinear nature of interactions determination is impossible via linear vector autoregressive models, but is, nonetheless, feasible with the aid of the so-called Kernel methods that are popular in machine learning. The kernelization approach allows defining generalised versions for Granger tests, partial directed coherence and directed transfer function, which the simulation of some examples shows that the asymptotic detection results originally deducted for linear estimators, can also be employed under kernelization if suitably adapted.

Esta tese examina o problema de detecção de conectividade entre séries temporais no sentido de Granger no caso em que a natureza não linear das interações não permite sua determinação por meio de modelos auto-regressivos lineares vetoriais. Mostra-se que é possível realizar esta detecção com auxílio dos chamados métodos de Kernel, que se tornaram populares em aprendizado por máquina (\'machine learning\') já que tais métodos permitem definir formas generalizadas de teste de Granger, coerência parcial direcionada e função de transferência direcionada. Usando simulações, mostram-se alguns exemplos de detecção nos quais fica também evidente que resultados assintóticos deduzidos originalmente para estimadores lineares podem ser generalizados de modo análogo, mostrando-se válidos no presente contexto kernelizado. / This work examines the connectivity detection problem between time series in the Granger sense when the nonlinear nature of interactions determination is impossible via linear vector autoregressive models, but is, nonetheless, feasible with the aid of the so-called Kernel methods that are popular in machine learning. The kernelization approach allows defining generalised versions for Granger tests, partial directed coherence and directed transfer function, which the simulation of some examples shows that the asymptotic detection results originally deducted for linear estimators, can also be employed under kernelization if suitably adapted.