Made available in DSpace on 2016-04-28T18:22:51Z (GMT). No. of bitstreams: 1 Mario Augusto de Souza Fontes.pdf: 4762004 bytes, checksum: c7ff5cc05505a43e5e72d43d7e407eb1 (MD5) Previous issue date: 2014-04-29 / This thesis examines the vocal and visual links involved in emotion expression by developing a perceptual and acoustic experiment whose main objective is investigating the functions of the gestural prosody (vocal and visual) in the appraisal of seven basic emotions (Anger, Distaste, Fear, Happiness, Joy, Sadness and Shame) and valence (positive, neutral and negative). Its specific objectives are twofold: investigating the role of the vocal and visual gestures in identifying the basic emotions and discussing the interaction between the visual, vocal and semantic dimensions in the evaluation of the utterances constituting the research corpus so as to explore the links between gestural prosody and emotive expression. The research hypothesis is that there will be differences in the interpretation if visual or vocal cues are considered in isolation or together and that depending on the nature of the emotion or the semantic load of the utterance the visual or the vocal aspects will have a stronger influence on perceptual judgments. The relations between gestural prosody and emotional expression are investigated with the following analytical procedures and methods: acoustic analysis by means of measures extracted by the ExpressionEvaluator Script developed by Barbosa (2009); perceptual evaluation tests applied to a group of 34 judges using the Gtrace developed by MCKeownetal (2011) to identify valence (positiveness or negativeness) and a set of 7 basic emotions (joy, happiness, anger, shame, fear, sadness and distress); visual gestural description based on a visual profile which takes into account facial movements and their directionality; description of the voice quality settings by means of the application of the VPAS developed by Laver and Mackenzie (2007) as adapted to Portuguese by Camargo and Madureira (2008). The correlation among the variables was made by non-parametric tests applying the FAMD, MCA, PCA,HCPC and MFA methods. The results indicate that the VPAS variables Raised Larynx and High Pitch and the acoustic measures mednf0 and quan995f0 had a stronger influence in the correlations between the vocal gestures and the emotional expression. As evidences of the variables which emerged with wider significance and showed their strength in the formation of utterance clusters, vocal gestuality was interpreted in terms of metaphors of the emotions expressed in speech. The analysis of the role of the vocal and visual gestures in the identification of valence and emotions showed that VPAS variables and the Expression Evaluator measures were quite influential. VPAS had a weight to represent the vector space of the variables under study. Our hypothesis related to the integration between the semantic and vocal and visual dimensions were confirmed. Both visual and vocal prosody interact with the semantic domain, emphasizing or changing the semantic load of the utterances. The differences concerning the interpretation of visual or vocal cues taken in isolation or together were pointed out. It was also found that the identification of emotions and valence varied depending on the emotion category or on the specificity attributed to valence. As a conclusion the contributions of this work to evaluate the communicative relevance of the voice qualities in the expression of emotions in speech and the utterances better representing the analyzed emotions were discussed and the path taken in building up the work was traced / Esta tese aborda relações entre os gestos vocal e visual e a expressão emotiva por meio do desenvolvimento de uma pesquisa de natureza experimental que tem como objetivo geral investigar, com base na interpretação de resultados de testes de avaliação perceptiva e caracterização de propriedades fonético-acústicas e visuais, as funções da prosódia gestual (vocal e visual) na avaliação de sete emoções básicas (Alegria, Desgosto, Felicidade, Medo, Raiva, Tristeza, Vergonha) e da valência (positiva, negativa e neutra). Como objetivos específicos temos: investigar o papel do gestos vocal e visual na identificação das emoções básicas, refletir sobre a interação dos planos visual, vocal e semântico na avaliação das produções dos enunciados que constituem o corpus de pesquisa e as correlações entre a prosódia gestual e a expressão emotiva. Como hipóteses de pesquisa, postulamos que serão encontradas diferenças de interpretação se consideradas pistas visuais ou vocais isoladamente ou em conjunto e que, dependendo da natureza da emoção ou da carga semântica do enunciado, os aspectos visuais ou vocais poderão adquirir maior peso nos julgamentos. As correlações entre prosódia gestual e expressão emotiva são investigadas com base nos seguintes procedimentos e métodos analíticos: análise fonético-acústica por meio da aplicação do ExpressionEvaluator, script desenvolvido por Barbosa (2009); testes de avaliação perceptiva da valência e das sete emoções básicas realizados com o auxílio do ambiente GTrace, desenvolvido por McKeown et al (2012), e realizados por 34 juízes; descrição dos gestos visuais por meio de consideração das variáveis concernidas em termos de movimentação e direcionalidade em roteiro para avaliação de gestos faciais; descrição dos ajustes de qualidades de voz por meio do VPAS, desenvolvido por Laver et al (2007), com adaptação para o português por Camargo e Madureira (2008), o VPAS-PB. A correlação entre as variáveis é realizada por meio de testes não paramétricos com a utilização dos métodos de FAMD, MCA, PCA, HCPC e MFA. Os resultados revelam que as variáveis laringe elevada e pitch elevado avaliadas pelo VPAS e as medidas acústicas, mednf0 e quan995f0 apresentaram maior peso no estabelecimento das correlações entre a gestualidade vocal e a expressão de emoções na fala. Como evidências das variáveis que emergiram com maior significância e exerceram sua força na formação de clusters de enunciados, interpretamos a gestualidade vocal em termos de metáforas das emoções expressas na fala. A análise do papel dos gestos vocal e visual na identificação da valência e das emoções mostrou que as variáveis do VPAS e do ExpressionEvaluator foram muito influentes. O VPAS revelou-se com a maior força de representação do espaço vetorial das variáveis estudadas. Confirmamos nossas hipóteses de pesquisa em relação à interação do plano semântico e da prosódia visual e vocal. Tanto a prosódia visual quanto a vocal interagiram com o plano semântico, intensificando ou alterando a carga semântica dos enunciados. Foram encontradas diferenças de interpretação se consideradas pistas visuais ou vocais isoladamente ou em conjunto. Verificou-se que, para a identificação de emoções e para a aferição da positividade ou negatividade, a maior ou menor influência dos aspectos visuais ou vocais variou, dependendo da natureza da emoção e da especificidade da valência. Como conclusão, consideramos as contribuições deste trabalho para avaliar a relevância comunicativa da qualidade de voz na expressão de emoções na fala, apresentamos os enunciados que melhor representaram as emoções analisadas e avaliamos o percurso trilhado na construção da tese