Dans le domaine pétrolier, l'exploitation de pétroles bruts de plus en plus lourds nécessite de développer des procédés de conversion de ces coupes lourdes en bases carburants valorisables. Parmi ces procédés, l'hydrocraquage permet d'obtenir à partir d'une coupe distillat sous vide (DSV) des gazoles de grande qualité. Afin d'améliorer la compréhension de ce procédé catalytique, une caractérisation détaillée des charges et effluents de ce procédé est nécessaire. Les techniques existantes n'étant pas assez performantes, ce travail de thèse s'est focalisé sur l'utilisation de la chromatographie en phase gazeuse bidimensionnelle haute température (GC×GC-HT) et de la spectrométrie de masse haute résolution à transformée de Fourier (FT-ICR/MS). Il a ainsi été montré que la GC×GC-HT pouvait être utilisée pour éluer des composés ayant des points d'ébullition équivalents au nC68 (641 °C). Ce travail a également permis de proposer une méthode de caractérisation des composés soufrés par familles en GC×GC-HT-SCD dont les résultats sont cohérents avec les données obtenues par FT-MS. Pour les composés azotés, les limites de la GC×GC en terme de séparation ont été atteintes malgré la mise en place d'une pré-séparation en ligne par SFC. Une méthodologie de quantification par famille à partir de la FT-MS a alors été proposée pour étudier sélectivement les composés azotés basiques (mode ESI+) ou neutres (mode ESI-). Ce travail a permis de proposer de nouveaux outils analytiques de caractérisation des DSV et de confirmer la nature chimique des familles les plus réfractaires à l'hydrotraitement, à savoir les composés fortement alkylés de type dibenzothiophène et carbazole. / Converting heavy petroleum cuts into valuable fuels becomes a strong necessity for the refining industry as crude oil quality globally decreases. Among all the conversion processes, vacuum gas oil (VGO) hydrocracking is certainly the most suitable process to convert VGOs into high quality diesel fuel.In order to improve the understanding of this catalytic process, a detailed characterization of VGO feeds and products is needed. As existing analytical methods are not currently powerful enough, this work focused on the use of high-temperature comprehensive bidimensional gas chromatography (HT-GC×GC) and Fourier-transform high resolution mass spectrometry (FT-ICR/MS). First, it was shown that HT-GC×GC can elute heavy boiling point compounds up to nC68 (641 °C). Moreover, a HT-GC×GC-SCD method was developed to characterize sulfurcontaining compounds according to their chemical family. The obtained results were in accordance with parallel FT-ICR/MS measurements for sulfur compounds. For nitrogen-containing compounds, separation limits of HTGC×GC-NCD were reached despite the use of an additional online pre-separation by supercritical fluid chromatography (SFC). Therefore, a FT-MS based methodology was proposed to quantify nitrogen-containing chemical families and study basic and neutral compounds with ESI(+) and ESI(-) respectively.Hence, this work proposed innovative analytical tools for the characterization of vacuum gas oils. It also confirmed that highly-alkylated dibenzothiophenes and carbazoles were the most refractory sulfur and nitrogen-containing compounds towards hydrotreatment.