Cette thèse de doctorat traite du « modèle de perceptron sphérique », un modèle simple et exactement soluble qui présente un comportement visqueux et d'encombrement qui a été généralisé aux valeurs négatives du paramètre de produit scalaire κ. Le problème classique d'apprentissage par machine qui consiste en la classification des motifs aléatoires par le perceptron fait partie des problèmes de satisfaction des contraintes (PSC) convexes. Même quand le « paramètre de stabilité » du modèle κ devient négatif, le problème reste toujours correctement posé et peut être interprété comme le problème de placement des particules sur une sphère N-dimensionnelle en évitant les obstacles placés au hasard. Dans ce cas, le PSC correspondant n'est pas convexe. Cette thèse étudie le problème en détail dans le domaine non convexe. Une étude systématique est rendue possible en faisant correspondre à un problème de satisfaction de contraintes un problème d'optimisation sur le même support, mais doté d'un Hamiltonien (fonction de coût) qui mesure les violations des contraintes en fonction de la configuration du système. Le lien entre le PSC aléatoire et la phénoménologie vitreuse en physique est bien connue et a été explorée en détail pour les modèles à variables discrètes. La présence de variables continues dans le modèle de perceptron (sphérique) nous permet de dévoiler, en PSC aléatoire, la transition caractéristique SAT/UNSAT où le système subit une transition du régime satisfaisable (dans lequel l'état fondamental possède une énergie nulle) à celui insatisfaisable (dans lequel l'état fondamental possède une énergie positive). Cette transition de phase peut également être interprétée comme une transition d'encombrement similaire à celles démontrées par les modèles des sphères sans friction. La simplicité du modèle étudié permet de trouver exactement son diagramme de phase à température zéro en fonction des deux paramètres de contrôle: la densité des obstacles et leur taille. Ainsi identifiée, la transition d'encombrement est complètement caractérisée dans le présent document. Sont également étudiées en détail de diverses phases vitreuses de caractère stable et marginal. / This thesis treats the «spherical perceptron model», a simple exactly solvable model for glassy behavior and jamming suitably generalized to negative values of scalar product parameter κ. The classical machine-learning problem of random pattern classification by the perceptron is a convex constraint satisfaction problem (CSP). Even when the «stability parameter» κ of the model becomes negative, the problem still make sense and can be interpreted as the problem of particles on an N-dimensional sphere trying to avoid randomly placed obstacles. In this case, the corresponding CSP is non-convex. This thesis studies the problem in detail in the non-convex domain. Systematic study is made possible by assigning to a constraint satisfaction problem its corresponding optimization version endowed with a Hamiltonian function (cost function) quantifying the violations of the constraints, as a function of the system's configuration. The connection between random CSP and glassy phenomenology in physics is well known and has been explored in detail for models with discrete variables. The presence of continuous variables in the (spherical) perceptron model enables us to unveil, in random CSP, the characteristic SAT/UNSAT transition where the system transits from the satisfiable regime (where the ground state has zero energy) to the unsatisfiable one (where the ground state energy is positive). This phase transition can also be interpreted as a jamming transition similar to the one that exhibit models with frictionless spheres. The simplicity of the considered model allows the exact determination of the zero temperature phase diagram as a function of the control parameters: the density of obstacles and their size. In the present thesis, the jamming transition thus identified is completely characterized and several glass phases of stable and marginal character are studied in detail.