Un des défis pour les futurs projets en physique basé sur les accélérateurs de particules est le besoin de faisceaux à hautes intensités. Les effets collectifs sont cependant une limitation majeure qui peuvent détériorer la qualité du faisceau ou limiter l'intensité maximale à cause des pertes. Le CERN SPS, qui est le dernier injecteur pour le LHC, n'est actuellement pas en mesure de délivrer les faisceaux requis pour les futurs projets à cause des instabilités longitudinales.Les nombreux équipements dans la machine (les cavités RF accélératrices, les aimants d'injection et d'extraction, les brides de vide, etc.) entrainent des variations dans la géométrie et les matériaux de la chambre dans laquelle le faisceau transite. Les interactions électromagnétiques internes au faisceau (charge d'espace) et du faisceau avec son environnement sont représentées par une impédance de couplage qui affectent le mouvement des particules et mènent à des instabilités pour des intensités élevées de faisceau. Par conséquent, les sources d'impédance critiques doivent être identifiées et des solutions évaluées. Pour avoir un modèle d'impédance fiable d'un accélérateur, les contributions de tous les équipements dans l'anneau doivent être évaluées à partir de simulations et de mesures électromagnétiques. Dans cette thèse, le faisceau lui-même est utilisé comme une sonde de l'impédance de la machine en mesurant le déplacement de la fréquence synchrotronique avec l'intensité et la longueur du paquet, ainsi que la modulation de longs paquets injectés avec la tension RF éteinte. Ces mesures sont comparées avec des simulations par macroparticules en utilisant le modèle d'impédance du SPS existant, et les déviations sont étudiées pour identifier les sources d'impédance manquantes pour raffiner le modèle.L'étape suivante consiste à reproduire en simulations les instabilités mesurées pour un paquet unique durant l'accélération. Grâce à l'amélioration du modèle d'impédance, une meilleure compréhension des mécanismes de l'instabilité est rendue possible pour les faisceaux de protons et d'ions. Finalement, le modèle pour les simulations étant digne de confiance, il est utilisé pour estimer les caractéristiques du faisceau après les améliorations prévues du SPS pour le projet High Luminosity-LHC au CERN. / One of the main challenges of future physics projects based on particle accelerators is the need for high intensity beams. However, collective effects are a major limitation which can deteriorate the beam quality or limit the maximum intensity due to losses. The CERN SPS, which is the last injector for the LHC, is currently unable to deliver the beams required for future projects due to longitudinal instabilities.The numerous devices in the machine (accelerating RF cavities, injection and extraction magnets, vacuum flanges, etc.) lead to variations in the geometry and material of the chamber through which the beam is travelling. The electromagnetic interaction within the beam (space charge) and of the beam with its environment are described by a coupling impedance which affects the motion of the particles and leads to instabilities for high beam intensities. Consequently, the critical impedance sources should be identified and solutions assessed. To have a reliable impedance model of an accelerator, the contributions of all the devices in the ring should be evaluated from electromagnetic simulations and measurements.In this thesis, the beam itself is used to probe the machine impedance by measuring the synchrotron frequency shift with intensity and bunch length, as well as the line density modulation of long bunches injected with the RF voltage switched off. These measurements are compared with macroparticle simulations using the existing SPS impedance model, and the deviations are studied to identify missing impedance sources and to refine the model.The next important step is to reproduce in simulations the measured single bunch instabilities during acceleration, in single and double RF system operation. Thanks to the improved impedance model, a better understanding of instability mechanisms is achieved for both proton and ion beams.Finally, as the simulation model was shown to be trustworthy, it is used to estimate the beam characteristics after the foreseen SPS upgrades the High Luminosity-LHC project at CERN.