La dynamique de la circulation marine en région côtière peut être appréhendée par des moyens d'observation et de modélisation. Si le domaine côtier bénéficie de réseaux de mesure adaptés en résolution et en couverture, la mise en oeuvre d'un outil de modélisation s'avère délicate, particulièrement dans la spécification de conditions initiales et de conditions aux frontières ouvertes appropriées. Cette question de l'estimation des conditions aux limites peut être considérée comme relevant d'une problématique plus générale de détermination des paramètres de fonctionnement d'un modèle à partir de l'information apportée par les observations. Ainsi posé, le problème est abordé par l'outil mathématique du contrôle optimal qui conduit à une opération d'assimilation de données par méthode d'adjoint. L'adaptation et l'application de cette formulation inverse à un problème de modélisation océanographique contrôlé par ses conditions frontières font l'objet de ce travail de thèse. Une approche 4D-variationnelle d'assimilation pour le contrôle des conditions frontières est ainsi développée et implémentée sur la base du modèle aux équations primitives OPA (version 'toit rigide') et de son adjoint existant. L'algorithme d'inversion est validé sur trois expériences d'identification: (i) les perturbations du forçage barotrope sur la frontière ouverte d'un modèle non stratifié sont détectées par l'assimilation de courants de surface pris à l'intérieur du domaine; (ii) le développement d'un courant de densité dans un canal semi infini et homogène est retrouvé à partir de profils hydrologiques distribués en aval; (iii) l'observation du " spin up " d'une circulation de plateau induit par un courant côtier permet d'identifier les conditions amonts prévues par le mécanisme de séparation d'un front de Kelvin barocline en incidence sur un talus. Cette méthode d'assimilation est alors proposée pour des applications s'inscrivant dans la problématique scientifique des échanges côte - large sur la zone du Golfe du Lion. Riche en observations et largement ouverte sur le bassin méditerranéen occidental, cette région est soumise à l'influence du courant Liguro-Provençal qui s'écoule en bord de plateau. L'algorithme d'inversion permet de contrôler cette influence régionale sur la circulation de plateau; il est donc évalué à travers des expériences réalistes menées dans le mode diagnostique. En particulier, la faculté de réseaux d'observation à détecter des épisodes d'intrusion du courant côtier sur le golfe est traitée suivant leur couverture spatiale et temporelle.