Depuis la découverte du boson de Higgs en 2012, les physiciens et physiciennes des particules tentent de trouver des signes de nouvelle physique. Bien que le modèle standard décrivant les forces et particules aient été confirmé par les expériences telles que ATLAS au Grand collisionneur de hadrons (LHC), ce modèle décrit seulement 5% de la matière de notre Univers. Face à l’absence d’excès dans les recherches concentrées sur des modèles de nouvelle physique, l’intelligence artificielle pourrait être la solution. Ce mémoire s’inscrit dans une perspective novatrice de recherche générale de nouvelle physique indépendante des modèles théoriques dans les données du détecteur ATLAS, par l’utilisation de l’apprentissage machine. Ici, nous nous intéressons à l’application de réseaux de neurones dans les données de simulation de collision proton-proton à \sqrt{s} = 13 TeV du détecteur ATLAS. Nous étudierons la performance d’auto-encodeurs variationnels dans les jets boostés, ces jets qui pourraient cacher des signes de nouvelle physique. Pour analyser la performance de notre réseau, nous entraînons celui-ci sur les quadri-vecteurs de jets issus de gluons et de quarks légers. Nous tentons de retrouver un signal test, les jets issus de quarks top boostés, dans les données de simulation en effectuant des sélections sur les scores d’anomalie retournés par le réseau. Nos modèles d’auto-encodeurs variationnels atteignent une bonne discrimination entre le bruit de fond et le signal du quark top. Nous devrons toutefois améliorer le rejet du bruit de fond pour purifier notre signal en fonction de nos sélections. / Since the discovery of the Higgs boson in 2012, particle physicists are searching for signs of new physics. Although the standard model describing forces and particles has been confirmed by experiments like ATLAS at the Large Hadron Collider (LHC), it only describes 5% of the matter of the universe. Facing the absence of excess in searches for new physics model, artificial intelligence could be the solution. This master thesis is part of a novel general model-independent search for new physics in the ATLAS detector data using machine learning. Here, we are interested in the application of neural networks in \sqrt{s} = 13 TeV proton-proton collision ATLAS simulation data. We study the performance of variational auto-encoders in boosted jets, who might be hiding signs of new physics. To analyze our network performance, we train the network on jets four-vectors coming from gluons and light quarks. We try to find a test signal, boosted top quark jets, in our simulation data by applying selections on the anomaly scores returned by our network. Our variational auto-encoder reach a good discrimination between the background and the top quark signal. However, we need to improve background rejection to purify our signal as a function of our selections.