Aux futurs collisionneurs linéaires et circulaires, la présence d’un halo autour du faisceau est susceptible de fortement limiter les performances, et peut également activer, voire endommager, les composants de l’accélérateur. Le halo doit par conséquent est contrôlé par un système de collimateurs efficace. Pour évaluer l’impact sur les expériences de physique des particules ainsi que les efficacités de collimation, une bonne compréhension des mécanismes physiques générateurs de halo est essentielle, pour par exemple prédire les distributions de probabilité de manière fiable. Pour ce faire, une investigation systématique ont été menée à l’Accelerator Test Facility (ATF) du KEK dans le cadre de cette thèse, d’abord à travers une analyse théorique des principales sources de halo dans ATF, puis moyennant le développement et l’implémentation de diagnostiques dédiés aux mesures du halo, dont les résultat sont ensuite présentés et comparés aux prédictions théoriques. Le halo produit par la diffusion des particules du faisceau sur les noyaux des molécules du gaz résiduel dans la chambre à vide (« Beam Gas Scattering » - BGS) est d’abord estimé analytiquement, avec certaines approximations, puis moyennant une simulation Monte-Carlo. Un nombre considérable de particules de halo BGS est prédit, ainsi qu’une dépendance dans la pression de gaz résiduel. Pour étudier la possible formation d’un halo par le mécanisme de diffusion intra-paquet à grand angle dit de « Touschek » en présence d’une dispersion optique résiduelle, le taux de cette diffusion a été estimé en fonction de plusieurs paramètres faisceau pertinents. Une simulation Monte-Carlo de la diffusion intra-faisceau à petit angle (IBS) et de « Touschek » est aussi en cours de développement. Pour tester les prédictions théoriques, les performances d’un détecteur de halo déjà existant basé sur un capteur diamant ont été améliorées moyennant une technique de repondération qui a permis d’en augmenter la gamme dynamique jusqu’à 10⁵. Afin de disposer d’un instrument complémentaire pour mesurer le halo, un moniteur YAG/OTR a aussi été conçu, construit et installé dans la ligne d’extraction d’ATF. Il a pu être montré que la gamme dynamique et la résolution de ce moniteur YAGOTR sont, respectivement, autour de 10⁵ et inférieure à 10 μm. Grâce aux diagnostiques développés pour mesurer le halo du faisceau d’ATF, les distributions transverses et en énergie ont pu être étudiées. L’accord satisfaisant obtenu entre les prédictions théoriques et les mesures, ainsi qu’une dépendance importante dans la pression de gaz résiduel, ont permis de montrer que la distribution verticale du halo est dominée par le mécanisme BGS. Par contre, la distribution horizontale est bien supérieure aux prédictions BGS, et est par ailleurs asymétrique. L’asymétrie observée peut être en partie reliée à la qualité du champ de l’élément pulsé servant à l’extraction du faisceau d’ATF, ainsi qu’à certaines aberrations dans le transport optique. La distribution de probabilité du halo en fonction de l’énergie a par ailleurs pu être mesurée, grâce à une technique nouvelle d’ajustement de la dispersion optique dans le plan vertical, et a été trouvée compatible qualitativement avec le mécanisme de diffusion « Touschek ». Un scénario plausible de génération du halo dans le plan horizontal a ainsi pu être suggéré. / At future linear and circular colliders, beam halo can strongly limit machine performances, cause as well component damage and activation, and should, therefore, be controlled by an efficient collimation system. To evaluate the impact on particle physics experiments and collimation efficiencies, a clear understanding of beam halo formation mechanisms is essential, e.g., to predict halo distribution reliably. For this purpose, systematic investigations have been carried out at the Accelerator Test Facility (ATF) of KEK. In this dissertation, the theoretical analysis of the primary halo sources at ATF and the development of dedicated halo diagnostics are presented. Measurements of beam halo at ATF are also described and compared with the theoretical predictions. Beam halo arising from Beam-Gas Scattering (BGS) in the damping ring was firstly estimated through analytical approximations and a Monte Carlo simulation. A considerable amount of halo particles generated by BGS and the corresponding vacuum dependence have been predicted. To explore the probability of beam halo formation from Touschek scattering in the presence of dispersion, the Touschek scattering rate was estimated with respect to relevant beam parameters. Furthermore, a Monte Carlo simulation of Intra-Beam Scattering (IBS) and Touschek scattering is under development. To probe the theoretical predictions, the performance of an already existing diamond sensor detector was optimized via a data rescaling technique to increase the dynamic range to 1×10⁵. For a complementary diagnostics of beam halo, a YAG/OTR monitor was also designed and installed in the extraction section of ATF2. The dynamic range and resolution of the YAG/OTR monitor have been shown to be around 1×10⁵ and less than 10 μm, respectively. Thanks to the halo monitors developed at ATF2, the transverse halo and momentum tail have been studied. Satisfactory agreement between numerical predictions and measurements as well as a significant vacuum dependence indicate that the BGS process dominates the vertical halo. On the other hand, the horizontal halo appeared to be higher than the prediction from BGS, and moreover asymmetric. The observed asymmetry was shown to be related to the quality of the extraction kicker field and optical aberration. Finally, the momentum tail was for the first time observed by implementing a novel scheme of vertical dispersion adjustment and was found to be qualitatively consistent with the presence of Touschek scattering. A possible scenario for horizontal beam halo formation from Touschek scattering was also suggested.