L’objet de cette thèse est d’analyser l’évolution du marché des paiements de détail avec en toile de fond la constitution d’un espace unique pour les paiements en Europe. Notre analyse révèle notamment que ce marché évolue selon la théorie de la Reine Rouge ; en effet, sous le poids de la concurrence, les prestataires de service ne cessent de créer des moyens de paiement de plus en plus innovants afin de maintenir leur part de marché. Paradoxalement, la demande, elle, évolue plus lentement, essentiellement à cause des habitudes difficiles à changer. Pour la dynamiser, régulateur et industrie bancaire ont mis en œuvre de nombreux moyens. Notre étude révèle ainsi que bien que les facteurs sociodémographiques, technologiques et économiques déterminant les comportements de paiement varient et n’ont pas le même impact d’un pays à un autre, certains Etats présentent néanmoins suffisamment d’homogénéité pour appartenir à une même zone de paiement optimale. En outre, nous démontrons que l’harmonisation des pratiques bancaires et des réglementations mise en place pour la réalisation du marché unique a conduit à une convergence des comportements de paiement en Europe. Par ailleurs, en analysant le cas particulier des paiements par carte, nous développons un modèle multi-agents permettant de mettre en évidence l’importance des pratiques tarifaires telles que la commission d’interchange ou la règle de non-discrimination sur la concurrence entre instruments, intermédiaires et systèmes de paiement. L’expérimentation artificielle de ce modèle dévoile les conditions nécessaires à l’efficacité de la réglementation de ces pratiques par l’Etat. / The purpose of present thesis is to study the evolution of the retail payment market. This work is set against a backdrop of the creation of a single payment area in Europe. Our analysis reveals that this market is subject to the Red Queen dilemma; indeed, because of intense competition, payment service providers are forced to a constant evolution of technology in order to maintain their market share. Paradoxically, the demand for payment instruments tends to move slowly, basically because habits are difficult to change. To improve the dynamism of the demand response to innovation, regulator and banking industry have implemented new policies and procedures that encourage the development of trans-border payments. Thereby, although the sociodemographic, technological and economic factors which influence payment behaviours vary and don't have the same impact from one country to another, we find some remarkable homogeneity across countries that are eligible to form an optimal payment area. Besides, we show that the harmonization of the banking laws and products led to a convergence of the payment behaviours in Europe. In addition, by analyzing the case of the payment card industry, we develop an agent-based model which highlights the effects of the tariff practices such as the interchange fee or the no-surcharge rule, on competition within and between payment systems. The computational simulation of this model reveals necessary conditions to achieve the desired result of the regulation of these practices.