Les moteurs thermoacoustiques sont des résonateurs acoustiques dans lesquels l'interaction des oscillations acoustiques et thermiques au voisinage d'un empilement localisé de parois solides (stack) soumises à un fort gradient de température engendre une conversion d'énergie thermique en énergie acoustique, qui se traduit par le déclenchement d'oscillations acoustiques auto-entretenues de fort niveau. Depuis une dizaine d'années, un important effort de recherche a été consacré à l'étude des processus non linéaires responsables de la saturation en amplitude de l'onde acoustique ; les observations expérimentales restaient non seulement mal maîtrisées et limitées, mais encore inexpliquées en raison de l'absence de modèles pertinents en regard de la complexité des phénomènes. C'est ainsi que l'objet des travaux présentés dans ce mémoire est de répertorier expérimentalement, de classifier, d'interpréter de façon analytique et de modéliser les différents régimes transitoires dans un moteur thermoacoustique annulaire.<br /><br />Les résultats expérimentaux, obtenus sous diverses conditions de chauffage, montrent des régimes transitoires complexes: régime périodique de déclenchement-arrêt de l'onde acoustique, oscillations basse-fréquence de l'amplitude de l'onde, double déclenchement de l'instabilité thermoacoustique... Ces observations, auxquelles sont associées des évolutions significatives du champ de température, indiquent qu'en plus des processus classiques de cascade harmonique ou de pertes mineures aux extrémités du stack (génération de tourbillons), les effets non linéaires d'interaction entre champ acoustique et champ de température jouent un rôle important sur la dynamique des régimes transitoires observés. En particulier, le développement d'un champ acoustique de niveau élevé est source d'un flux d'enthalpie thermoacoustique (équivalent à une augmentation acoustiquement induite de la conductivité thermique des parois du stack), et d'un vent acoustique modifiant la forme du champ de température.<br /><br />Une étude analytique de l'influence de la forme du champ de température sur l'amplification thermoacoustique est proposée, qui montre que la distribution du champ acoustique (pression, vitesse et phase), et par suite l'amplification thermoacoustique du son, dépendent de façon critique de la forme du champ de température. Puis une description analytique des effets non linéaires précédemment cités et de l'interaction en régime transitoire entre champ acoustique et champ de température est présentée: elle mène à des de résultats de simulations très proches des résultats expérimentaux, ce qui confirme le rôle majeur joué par la conductivité acoustiquement induite et le vent acoustique. Enfin, une description qualitative du régime transitoire sous forme d'un système d'équations différentielles ordinaires est proposée, qui permet finalement d'extraire les processus physiques prépondérants.<br /><br />Parce qu'ils apportent une compréhension nouvelle des processus fondamentaux qui régissent la saturation de l'onde, ces travaux apportent à nos yeux une contribution aux avancées pratiques qui visent à améliorer l'efficacité des machines thermoacoustiques.