Cette thèse cherche à définir des configurations trop souvent confondues - mise en abyme et réflexivité — et à comprendre leurs effets (eux aussi confondus) - bris de l'illusion référentielle, trouble - ainsi qu'à proposer des typologies pouvant permettre non seulement de rendre compte de leurs diverses manifestations - en littérature, et surtout au cinéma - mais de rationaliser les effets qu'elles peuvent ou non avoir sur le spectateur. Nous verrons, d'une part, que la mise en abyme (qui ne sera en définitive qu'une configuration réflexive parmi d'autres) pourra être tantôt fortement réflexive, tantôt faiblement réflexive (selon qu'elle affichera ou rendra sensible plus ou moins explicitement renonciation de l'œuvre même). Mais nous verrons aussi, d'autre part, que la mise en abyme pourra tantôt créer, tantôt briser l'illusion référentielle (selon qu'elle cherchera à se désigner comme discours ou à se déguiser en histoire). Enfin, nous tenterons de voir comment et pourquoi, réflexive ou non, illusionniste ou non, la mise en abyme sera parfois troublante, parfois non. Questionnant l'observation de Christian Metz selon laquelle le propre du film « classique » (ou « illusionniste », dirons-nous) est « d'effacer les marques d'énonciation et de se déguiser en histoire» (1977 : 113), nous établirons que, pour rompre cette illusion qu'il cherche souvent à créer, le film pourra non seulement se désigner comme discours, mais aussi, entre autres, se désigner comme histoire et que, pour être pleinement « illusionniste », il devra non seulement effacer les marques de son énonciation, mais aussi de son invention. Creusant aussi la remarque de Lucien Dàllenbach selon laquelle nous pouvons trouver dans une œuvre une «mise en spectacle» de renonciation (1977 : 100), nous distinguerons renonciation « du » film et renonciation « dans » le film. Puis, tirant profit de la typologie de Jacques Gerstenkorn (1987), nous poserons trois définitions de la réflexivité : un sens « large » {tout retour du film sur lui-même), un sens « étroit » {procédé qui consiste à montrer ou à rendre sensible renonciation) et un sens « particulier » propre à la mise en abyme {une œuvre dans une œuvre réfléchissant un aspect de l'œuvre même). Cherchant ensuite à investiguer une autre assertion de Dàllenbach selon laquelle la mise en abyme a pour effet de « saper l'illusion référentielle » (1997 : 13), il apparaîtra que s'il est des configurations qui cherchent en effet à la briser, il en est d'autres au contraire qui cherchent plutôt à l'entretenir. Puis, nous aidant des diverses définitions de la réflexivité, nous tâcherons d'établir les différents critères nous permettant de préciser en quoi une même configuration sera plus ou moins réflexive. Enfin, cherchant à déceler la nature du « trouble » que la mise en abyme pourrait causer, nous nous intéresserons d'abord à recenser les divers présupposés que nous acceptons pour croire dans la fiction et nous nous ingénierons ensuite à rendre clair qu'une œuvre sera troublante tantôt parce qu'elle mettra en crise l'un ou l'autre de ces présupposés, tantôt au contraire parce qu'elle les respectera. Nous serons alors conduit à conclure que, troublante ou non, chaque mise en abyme pourra, d'une part, soit créer, soit briser l'illusion référentielle et être, d'autre part, soit fortement, soit faiblement réflexive.