Cette thèse est consacrée à l'étude de la convection turbulente pour des nombres de Rayleigh (Ra) pouvant atteindre 10^14 grâce à l'utilisation de l'hélium cryogénique. Nous nous intéressons plus particulièrement au régime de convection apparaissant pour Ra≈10^12. Ce régime a été observé et interprété à Grenoble il y a une dizaine d'années, comme la transition vers le Régime Ultime de la convection prédit par R. Kraichnan en 1962. Deux signatures de ce régime avaient alors été observées : une augmentation du nombre de Nusselt (Nu) ainsi qu'un changement qualitatif sur les fluctuations de température dans le cœur de la cellule, cette dernière signature ayant été contestée en invoquant un effet de taille de capteurs. Dans un premier temps, nous confirmons la transition déjà observée sur les mesures locales de température, à partir de mesures réalisées avec un thermomètre dix fois plus petit. Ce résultat est complété par une étude de l'influence de la taille des thermomètres sur les mesures. Des thermomètres dont la taille varie de 17 microns à 2 mm ont été fabriqués dans ce but. Ensuite, nous observons indirectement une instabilité de la couche limite thermique, en accord avec les prédictions sur le Régime Ultime. Cette observation est réalisée à partir de mesures des fluctuations de température de la plaque inférieure de la cellule. Cette transition et celle sur Nu interviennent pour le même Ra. Enfin, nous écartons l'hypothèse selon laquelle la transition observée sur le transfert thermique serait associée à une transition de l'écoulement à grande échelle dans la cellule, grâce à une caractérisation de cet écoulement avant et après la transition.

Ce mémoire analyse le phénomène de convection turbulente dans diverses cellules de Rayleigh-Bénard remplies d'hélium gazeux et liquide. Une des spécificités de cette étude est sa mise en oeuvre en environnement cryogénique, afin de bénéficier de conditions expérimentales optimales, tant en terme de contrôle thermique qu'en terme de plage de variation des paramètres de contrôle : les Nombres de Prandtl (Pr) et de Rayleigh. Ce dernier est en particulier exploré sur plus de 11 décades. Trois contributions principales se dégagent de cette étude. Tout d'abord, la mise en évidence d'un effet de conduction déterminant dû à la paroi latérale. Négligé dans les travaux antérieurs, cet effet est étudié expérimentalement puis modélisé. Il permet de lever certaines incohérences apparues dans des publications de références. En outre, le ré-examen de publications antérieures conforte l'idée que le Nombre de Nusselt (Nu) dépend du Nombre de Rayleigh suivant une loi de puissance d'exposant supérieur à 0,3, plutôt que 2/7 par exemple. La deuxième contribution porte sur l'influence du Nombre de Prandtl, analysée sur une décade et demie (0,7