Les communications optiques dans le spectre visible (VLC pour Visible-Light Communications) ont attiré une attention particulière depuis quelques années en tant qu'une solution prometteuse pour les réseaux sans fil à très haut-débit dans les milieux intra-bâtiment. Ainsi, cette technique exploite l'infrastructure d’éclairage basée sur les diodes électroluminescentes (LED) pour la transmission de l'information. Pour cette raison, elle offre de nombreux avantages, comparée aux techniques « classiques » basées sur les transmissions radiofréquences (RF), tels que l'existence d'une grande largeur de bande non réglementée, une sécurité de transmission intrinsèque et une immunité aux interférences électromagnétiques.Les principales contraintes liées à l'établissement d'une transmission VLC à très haut-débit dans ce contexte sont la propagation en trajets multiples et les caractéristiques non-idéales des LEDs commerciales, dites « blanches ». L'objectif de cette thèse est d'étudier l'impact réel de ces contraintes sur la transmission des données et de proposer des solutions efficaces de traitement du signal pour atténuer leurs effets. Nous commençons par étudier la réponse impulsionnelle du canal VLC grâce à l'élaboration d'un outil de simulation efficace. Nous évaluons ensuite la sélectivité en fréquence du canal de propagation en considérant différents critères, tels que la réponse fréquentielle, l'étalement temporelle du canal et le rapport signal à interférences. Dans un deuxième temps, compte tenu de la possibilité de la sélectivité en fréquence du canal et aussi la limitation de la bande passante des LEDs, nous étudions la pertinence de l'emploi de différentes techniques de transmission de signaux, notamment celle de l'OFDM optique (pour Orthogonal Frequency-Division Multiplexing) afin de garantir des débits de transmission compétitifs avec la RF. Etant donné le facteur de crête ou PAPR (pour Peak-to-Average Power Ratio) élevé des signaux modulés en OFDM et la dynamique limitée des LEDs, nous proposons ensuite un nouveau schéma de transmission basé sur la modulation CAP (pour Carrier-less Amplitude and Phase) en plus de l'égalisation dans le domaine fréquentiel (FDE pour Frequency-Domain Equalization) au niveau du récepteur. Nous analysons les performances des liaisons VLC utilisant cette technique et les comparons à l'OFDM optique, en prenant particulièrement en compte la non-linéarité des LEDs. Enfin, nous démontrons l'intérêt de l'utilisation du schéma de transmission CAP-FDE à travers des résultats expérimentaux. / Visible Light Communications (VLC) have attracted particular attention in the research community since a few years as a promising solution for high-speed indoor wireless networks. By exploiting the existing solid-state light-emitting diode (LED) lighting infrastructure, VLC offer numerous advantages such as a large unlicensed bandwidth, transmission security, and immunity to electro-magnetic interference compared to their radiofrequency counterparts. Within the context of indoor VLC, the multipath propagation channel and the non-ideal characteristics of the commercial white LEDs cause the main limitations for achieving high data-rate transmission. The objective of this thesis is to investigate the true impact of these limitations on the data transmission and to propose efficient signal processing solutions to mitigate their adverse effects. We start by the study of the indoor VLC channel impulse response by developing an efficient simulation tool. We then consider evaluating the channel frequency selectivity through different metrics. Next, given the potentially frequency-selective channel and the limited modulation bandwidth of the LEDs, we investigate the suitability of employing different signal transmission techniques including optical orthogonal frequency-division multiplexing (O-OFDM) in order to achieve high data-rate transmission. Given the high peak-to-average power ratio (PAPR) of O-OFDM signals and the limited dynamic range of the LEDs, we then propose a novel transmission scheme, which consists of using carrier-less amplitude and phase (CAP) modulation together with frequency domain equalization (FDE) at the receiver. We analyze the performance of the VLC link using this technique and compare it with the O-OFDM schemes, especially by taking the non-linear characteristics of the LED into account. Lastly, we demonstrate the merits of using the CAP-FDE transmission scheme via some experimental results.