Les réactions de fusion-évaporation et de transfert de nucléons entre ions lourds à des énergies proches de la barrière de Coulomb jouent un rôle essentiel dans l’étude de la structure nucléaire et des mécanismes de réaction. Dans le cadre de cette thèse, deux expériences de fusion-évaporation et de transfert de nucléons ont été réalisées au Laboratoire National de Legnaro en Italie : 40Ca+58Ni et 40Ca+64Ni. Dans une première expérience, les sections efficaces de fusion de 40Ca+58,64Ni ont été mesurées à des énergies au-dessus et en dessous de la barrière de Coulomb et ont été interprétées à l’aide de calculs en voies couplées et Hartree-Fock dépendants du temps (TDHF). Les résultats montrent l’importance de l’excitation à un phonon octupolaire dans le noyau 40Ca et les excitations à un phonon quadripolaire dans les noyaux 58Ni et 64Ni, ainsi que l’importance des voies de transfert de nucléons dans le système riche en neutrons 40Ca+64Ni. Dans une expérience complémentaire, les probabilités de transfert de nucléons de 40Ca+58,64Ni ont été mesurées dans le même domaine d’énergie que l’expérience précédente et ont été interprétées en effectuant des calculs TDHF+BCS. Les résultats confirment l’importance des voies de transfert de nucléons dans 40Ca+64Ni. Une description conjointe des probabilités de transfert de nucléons et des sections efficaces de fusion a été réalisée pour les deux réactions étudiées en utilisant une approche en voies couplées. / Heavy-ion fusion-evaporation and nucleon transfer reactions at energies close to the Coulomb barrier play an essential role in the study of nuclear structure and reaction dynamics. In the framework of this PhD thesis, two fusion-evaporation and nucleon transfer experiments have been performed at the Laboratori Nazionali di Legnaro in Italy : 40Ca+58Ni and 40Ca+64Ni. In a first experiment, fusion cross sections for 40Ca+58,64Ni have been measured from above to below the Coulomb barrier and have been interpreted by means of coupled-channels and Time-Dependent Hartree-Fock (TDHF) calculations. The results show the importance of the one-phonon octupole excitation in the 40Ca nucleus and the one-phonon quadrupole excitations in the 58Ni and 64Ni nuclei, as well as the importance of the nucleon transfer channels in the neutron-rich system 40Ca+64Ni. In a complementary experiment, nucleon transfer probabilities for 40Ca+58,64Ni have been measured in the same energy region as the previous experiment and have been interpreted by performing TDHF+BCS calculations. The results confirm the importance of nucleon transfer channels in 40Ca+64Ni. A simultaneous description of the nucleon transfer probabilities and the fusion cross sections has been performed for both reactions, using a coupled-channels approach.