Cette thèse porte sur l'étude des chalcogénures de bore sous conditions extrêmes. Après un bref examen de la littérature (Chapitre I) sur le bore et ses composés sous haute pression (HP), la partie expérimentale (Chapitre II) donne une description des appareils HP utilisés dans ce travail de thèse. Les techniques d'analyses employées sont décrites ainsi que les grands principes des calculs théoriques ab initio utilisés. La partie suivante est consacrée à β-B2O3 et r-BS. Le chapitre III présente les résultats de diffraction X in situ à HP et les mesures de phonons (Raman et IR) de β-B2O3 à température ambiante. Les données expérimentales ont été examinées et complétées par des calculs ab initio. Avec le jeu de données obtenues, les descriptions complètes des modifications sous pression de la structure de β-B2O3 et du comportement des phonons en compression à température ambiante ont été faites. Le chapitre IV présente les résultats de diffraction X in situ à HP et de spectroscopie vibrationnelle sur r-BS à température ambiante. En combinaison avec les calculs théoriques, la structure et la nature des phonons de r-BS sur une large plage de pression à température ambiante sont décrites. En outre, la formation d'une nouvelle phase HP métastable de BS est présentée et sa structure probable ainsi que son équation d’état sont discutés. Le chapitre V concerne la première étude in situ de diffraction X sous HP-HT du système B-Se. Selon les résultats de diffraction X et des mesures Raman effectuées sur les échantillons récupérés, un nouveau composé a été synthétisé. Ce composé est métastable à l’ambiante. Sa composition chimique et sa structure probable sont discutées. / This thesis deals with the study of the boron chalcogenides under extreme conditions. After a short review of boron and boron compounds under extreme conditions (Chapter I), the experimental part (Chapter II) provides a brief description of the high-pressure devices used in this PhD work. The employed analytical techniques are described as well as the main principles of the performed ab initio theoretical calculations. The following part is devoted to our experimental and theoretical studies of β-B2O3 and r-BS. Chapter III presents the results of in situ high pressure XRD and phonon measurements (Raman and IR) of β-B2O3 at room temperature. The experimental data were considered and completed with results of ab initio calculations. Based on the total obtained dataset the complete description of β-B2O3 structure change and phonon behavior under compression at room temperature are detailled. Chapter IV contains the results of in situ high pressure XRD and vibrational spectroscopy studies on r-BS at room temperature. In combination with results of theoretical calculations the structure and phonon nature of r-BS in a wide pressure range at ambient temperature are described. Also, the formation of a new metastable high-pressure phase of BS is described and its probable structure and EoS are discussed. The last part (Chapter V) concerns the primary in situ XRD HP-HT studies in B-Se system. Based on the results of XRD and Raman measurements of the recovered samples, a new compound was synthesized. This compound was found to be metastable at ambient conditions. Its probable chemical composition and structure are discussed.