Les demandes de haut débit, faible latence et grande fiabilité augmentent dans les nouvelles générations de systèmes de radiocommunications. Par conséquent, on propose de combiner la transmission non orthogonale avec les retransmissions HARQ afin de combattre les fluctuations de canal de transmission à haut débit. Dans la première partie de la thèse, on propose des protocoles de retransmissions HARQ avec l'aide d'un relai afin d'améliorer le débit et la fiabilité du système. Une version renforcée du protocole HARQ qui prend en compte le délai de retour est proposée dans la seconde partie de la thèse. / HARQ has become an important research field in the wireless digital communications area during the last years. In this thesis, we improve the HARQ mechanisms in terms of throughput and/or latency which are the bottleneck of next generation wireless communication systems. More precisely, we improve the time-slotted HARQ systems by mimicking NOMA, which means using superposed packets in a single-user context. In the first part of the thesis, we propose HARQ protocols using the help of a relay to improve the transmission rate and reliability. An enhanced HARQ protocol adapted to delayed feedback is proposed in the second part. In this new multi-layer HARQ protocol, additional redundant packets are sent preemptively before receiving the acknowledgement, and in superposition to other HARQ processes.