Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

La formule de trace est un outil privilégié pour l'étude du problème spectral inverse puisqu'elle établit, sur une variété riemannienne compacte, une relation entre le spectre du laplacien et les longueurs des géodésiques périodiques. Cette thèse étend ce type de formule dans deux situations présentant des singularités ponctuelles. Dans ces deux cas, on commence par étudier l'équation des ondes et par établir la propagation des singularités associée. Sur une variété $M$ de dimension $3$, on place un potentiel Dirac en un point $p$. Cela revient à considérer une extension autoadjointe du laplacien, défini sur ${\cal C}^\infty( M\backslash \{p\} )$, différente du laplacien riemannien de $M.$ Le propagateur de l'équation des ondes associée est construit en faisant apparaître des diffractions successives au point $p$, ce qui donne alors la propagation des singularités. La formule de trace en découle~; on montre notamment que les courbes obtenues en suivant successivement un ou plusieurs lacets géodésiques joignant $p$ à $p$ donnent une contribution dont on calcule la partie principale. Sur une surface euclidienne à singularités coniques, il faut commencer par étendre la notion de géodésique en admettant le passage par les points coniques. Au voisinage d'une géodésique $g$, la géométrie locale de l'ensemble des géodésiques (éventuellement) diffractives dépend d'un nombre (appelé {\it complexité classique\/}) que l'on relie à la suite des angles de diffractions le long de $g.$ On montre alors que la propagation des singularités se fait en suivant ces géodésiques généralisées. La trace fait alors apparaître la contribution de géodésiques périodiques diffractives dont on calcule la partie principale sous certaines hypothèses.

Grâce à leurs propriétés spécifiques (homogénéité de l'épaisseur, de la densité bidimensionnelle et de la tension), les films de cristaux liquides smectiques forment des membranes bidimensionnelles idéales obéissant à l'équation d'onde de Helmholtz, avec les conditions de Dirichlet au bord. Dans cette thèse, une nouvelle expérience a été mise au point, qui permet, pour un film tendu sur un contour donné, de mesurer non seulement son spectre de fréquences propres, mais aussi la forme géométrique des modes. Le rôle de la forme de la membrane a ainsi pu être analysé. On a commencé par étudier une forme "préfractale", constituée par une courbe de Koch quadratique, dont la construction a été arrêtée à un ordre d'itération fini. L'accord entre les résultats expérimentaux et des résultats numériques obtenus par d'autres auteurs, tant sur le spectre que sur l'allure des modes propres, est excellent. Deux mécanismes de localisation des fonctions d'onde, d'origines physiques différentes, ont été mis en évidence. L'autre question étudiée est un problème mathématique que l'on peut résumer par : "Peut-on entendre la forme d'un tambour?" La réponse prévue par les mathématiciens est "non", c'est-à-dire qu'il existe des formes géométriques différentes, conduisant à des spectres de fréquences propres identiques ; ces formes sont appelées "isospectrales". On a ainsi vérifié expérimentalement l'isospectralité de deux contours avec une bonne précision. On a également montré en détail que seules les symétries de construction de ces deux contours, basées sur la théorie des groupes, importaient.