Cette thèse présente la recherche de nouvelle physique avec un état final contenant un seul photon et de l'énergie transverse manquante. On recherche la matière sombre (ou noire) et la signature de particules supersymétriques. L'analyse des données collectées par le détecteur ATLAS au LHC, issues de collisions proton-proton dont l'énergie dans le centre de masse est de 8 TeV, est faite avec une luminosité intégrée de 20.3fb−1. L'accord entre les données mesurées et les prédictions du modèle standard permet d'établir une limite sur la section effi- cace de production mesurable. Cette limite est observée à la valeur de 3.64 fb à 95% de niveau de confiance.Dans cette thèse, la limite expérimentale obtenue est également interprétée comme une limite dans l'espace des paramètres de deux nouveaux modèles.Le premier est basé sur une théorie des champs effective qui s'inspire des résultats du satellite Fermi-LAT. Dans ce modèle, les particules de matière sombre se couplent aux pho- tons par une interaction de contact. Les limites sur l'échelle de masse effective sont établies et dépendent d'un postulat sur les constantes de couplage. Elles contraignent l'espace des paramètres qui est compatible avec les résultats de Fermi-LAT.Le second est un modèle supersymétrique simplifié décrivant la production de paires de squarks se désintégrant en un quark et un neutralino. Dans ce cas, le photon est émis soit dans l'état initial soit dans l'état final. De plus, le spectre en masse est compressé, i.e. que la différence de masse entre les squarks et les neutralinos est supposée petite. Les limites sont établies sur la section efficace de production. Ces limites montrent une exclusion sur la masse des squarks jusqu'à 250 GeV dans la région la plus compressée de l'espace des paramètres. Le photon pouvant être émis par le squark intermédiaire, cet état final pourrait permettre de déterminer la charge du squark.Enfin, une étude préliminaire prospective à l'énergie de collision de 13 TeV a égale- ment été menée. Elle montre qu'avec 5fb−1 de données seulement, les limites peuvent être améliorées de 10%. / This thesis presents the search for new physics in the final state containing a single photon and missing transverse momentum. The analysis is performed on 20.3fb−1 of proton-proton collisions data at a center-of-mass energy of 8 TeV collected by the ATLAS detector at the Large Hadron Collider. Given the good agreement of the data with the Standard Model pre- diction of such events, an upper limit to the visible cross section produced by new physics is derived. The observed limit at 95% confidence level is 3.64 fb.In this thesis, the results are also interpreted as limits in the parameter space of two new physics models. The first model is an effective field theory, inspired by Fermi-LAT results, in which dark matter particles couple to photons via a contact interaction vertex. Limits are set on the effective mass scale and depend on the postulated coupling constants. The limits set in this dark matter model provide an effective constraint in the parameter space of the theory compatible with the Fermi-LAT results. The second one is a simplified supersymmetric model describing squark pair production with their subsequent decay into a quark and a neutralino. The photon is emitted as initial or final state radiation and the spectrum is compressed, i.e. the mass difference between the squark and the neutralino is assumed to be small. Limits are set on the production cross-section; squark masses are excluded up to 250 GeV in the very compressed region. As the photon can be irradiated from the intermediate squark, this final state would eventually provide the possibility to probe the charge of the squark.A preliminary study has also been carried out to show the search sensitivity with 13 TeV data, which indicate that the limits presented in this thesis can already be improved by 10% with 5fb−1.