The neotropical lizard genus Anolis is an important model system for studies of the ecology and evolution of animal diversity. One of the most striking elements of Anolis diversity is found in the morphology of the dewlap, an extensible flap of colored skin on the throat that anoles use to communicate during social interactions. The evolutionary forces that have promoted the evolution of dewlap diversity are poorly understood. A study of reproductive success in A. carolinensis showed for the first time that dewlap color is currently under selection in an anole (Chapter 1). However, this is unlikely to be a result of intrasexual competition because neither dewlap morphology nor reproductive success are related to male territory size or quality. Instead the dewlap may be under intersexual selection from female mate choice. In addition to sexual selection, the dewlap may evolve in response to a variety of other processes such as species recognition, predation, sensory drive, or a combination of these. A study of variation among populations of a single species, A. sagrei, revealed that the dewlap may be undergoing rapid adaptive diversification driven by several of these processes simultaneously (Chapter 2), while a study of variation among species in dewlap size showed that similar processes are likely shaping the evolution of the dewlap in female anoles (Chapter 3). In a case study of male-female pair formation in the Costa Rican anole A. limifrons, dewlap size or color were not good predictors of which males would form pairs and which would not, though males and females that were similar in size were found to form pairs more often than animals that were dissimilar in size (Chapter 4). Finally, a study of the correlated evolution of traits related to locomotion in anoles found that morphology, behavior, and habitat use evolve in tandem among 31 species of anoles from the Greater Antilles (Chapter 5). Together, these studies suggest that the evolutionary ecology of anoles is more complex than previously thought, and that future studies of the dewlap may provide more general insight into the evolution of diversity of animal ornaments.

Animal communication transmits information using different sensory signals that have particular purposes (e.g. courtship, territorial defense, maintaining groups together and minimizing predation) and are susceptible to habitat pressures (Sensory Drive Hypothesis - SDH). In birds, some studies on acoustic and visual signals showed that song structure is associated with sound transmission capacity in different habitats and some plumage features (e.g. color, brightness and pattern) seem to vary according to light conditions of the environment. In addition to habitat effects, other factors such as energetic limits, predation, and parasitism risk can limit the investment in more than one type of sensory signal. Due to this high cost, it was proposed the existence of an evolutionary trade-off between the different types of sensory signals termed Transfer (TH) or Trade-off hypothesis. Few studies that have tested the TH in birds showed contrasting results, being corroborated only in two studies. Also, there is a low in the number of studies that have considered habitat conditions as covariates (SDH). Here, we assess the TH between acoustic and visual signals, while simultaneously considering potential effects of habitat conditions (SDH) in a diverse group of Neotropical suboscine birds, commonly known as antbirds (Thamnophilidae). Specifically, we integrated a genome-scale phylogeny of the tribe Formicivorini (36 species) with vocal, plumage, ecological, and behavioral data within a phylogenetic comparative framework to simultaneously test the TH and SDH while assessing the influence of mixed-species flocking foraging behavior on the structural diversity of acoustic and visual signals. Whereas in both sexes we found significant trade-offs between some plumage and vocal traits (e.g. dorsal luminance versus frequency slope), providing support for the TH, we found a non-significant opposite trend between plumage and vocal sexual dimorphism. All these relationships are influenced by habitat conditions and behavioral traits as covariates, corroborating the SDH and mixed-species flocking behavior influence in the evolution of visual and acoustic signals / A comunicação animal transmite informações usando diferentes tipos de sinais sensoriais que possuem propósitos específicos (e.g. cortejo, defesa territorial, manutenção de grupos unidos e minimização da predação) e estão suscetíveis a pressões do habitat (Hipótese de Condução Sensorial - HCS). Em aves, alguns estudos de sinais acústicos e visuais demonstraram que a estrutura do canto está associada com a capacidade de transmissão do som em diferentes habitats e alguns aspectos de plumagem (e.g. coloração, brilho e padrão) parecem variar de acordo com as condições de iluminação do ambiente. Além dos efeitos de habitat, outros fatores como limitação energética, risco de predação e de parasitismo podem limitar o investimento em mais de um tipo de sinal sensorial. Devido a esse alto custo, foi proposta a existência de uma demanda conflitante (trade-off) evolutiva entre os diferentes tipos de sinais sensoriais denominada Hipótese de Transferência (HT) ou de \"Trade-off\". Os poucos estudos que testaram a HT em aves apresentaram resultados contrastantes, sendo corroborada apenas em dois trabalhos. Além disso, há uma baixa quantidade de trabalhos que consideraram as condições de habitat como covariáveis. Assim, nós avaliamos a HT entre os sinais acústicos e visuais, considerando simultaneamente os efeitos potenciais das condições de habitat (HCS) em um diverso grupo de aves subóscines neotropicais, comumente conhecidas como papa-formigas (Thamnophilidae). Especificamente, nós integramos a filogenia em escala genômica da tribo Formicivorini (36 espécies) com dados vocais, de plumagem, ecológicos e comportamentais utilizando uma abordagem comparativa filogenética para testar simultaneamente a HT, a HCS e também considerando a influência do comportamento de formação de bandos mistos na diversidade da estrutura dos sinais acústicos e visuais. Enquanto que demandas conflitantes significativas entre algumas medidas de plumagem e de canto foram encontradas em ambos os sexos (e.g. luminância dorsal contra declive de frequência) corroborando a HT, uma tendência oposta não significativa foi encontrada entre o dimorfismo sexual de plumagem e canto. Todas essas relações são influenciadas por condições de habitat e comportamento como covariáveis, corroborando a HCS e a influência do comportamento de bandos mistos na evolução da estrutura dos sinais acústicos e visuais

Physical properties of the environment may shape signalling traits by determining how effective signals are in influencing the behaviour of other individuals. Evidence abounds of signalling environment driving the evolution of colours and sounds, yet little is known about its influence upon gestural displays. Here, we performed a continent-wide phylogenetic comparative analysis to test the hypothesis that habitat structure drives the evolution of aerial sexual displays in passerine birds. We found that aerial displays are seven times more likely to evolve in open-habitat passerines than in forest ones, likely as a result of physical properties that allow aerial displays to transmit more broadly in open habitats. Our results provide an emblematic example of how environmental factors may help predict the direction of evolution of otherwise unpredictable sexual traits. The broader range of aerial displays in open habitats may also mean that females can sample more males, potentially leading to more intense sexual selection in open-habitat, aerial-displaying males / Propriedades físicas do ambiente podem influenciar a evolução de sinais ao determinar quão efetivos eles são em influenciar o comportamento de outro indivíduo. Diversos estudos mostram a influência do ambiente sobre a evolução de cores e sons. Entretanto, pouco se sabe de sua influência sobre sinais motores (i.e., displays). Nesse trabalho, conduzimos uma análise comparativa filogenética para testar a hipótese de que a estrutura do hábitat influencia a evolução de displays sexuais aéreos em aves Passeriformes. Descobrimos que display aéreos têm uma probabilidade sete vezes maior de evoluir em passeriformes de ambiente aberto do que nos florestais, provavelmente decorrente de propriedades físicas que permitem que displays aéreos sejam transmitidos mais amplamente em ambientes abertos. Nossos resultados são um exemplo emblemático de como fatores ambientais podem ajudar a prever a direção de evolução de caracteres sexuais, frequentemente tidos como imprevisíveis. O raio mais amplo de displays aéreos em ambientes abertos também pode permitir que fêmeas consigam amostrar mais machos da população, potencialmente intensificado a seleção sexual sobre machos de ambiente aberto que exibem displays aéreos