En la década del 50 se trasladó para La Habana, donde actuó con las orquestas de Esteban Antúnez, en el Montmartre, con Fajardo y sus Estrellas, además con Enrique Jorrín y más tarde con Estrellas Cubanas, conducida por el violinista y compositor Félix Reyna.

Al final de los años 50 llega a la gran manzana, y trabaja con agrupaciones como  La Charanga de Pacheco, La Charanga La Duboney del maestro Charly Palmieri, La Charanga del maestro Belisario López, La del maestro Mario Bauzá, la orquesta Nuevo Ritmo de Cuba.

En virtud de la fama adquirida por Rudy Calzado, fue llamado por Johnny Ventura para organizar una nueva charanga en la ciudad de Nueva York. Más adelante formó su propia orquesta con la que viajó a París y trabajó en el Club Keur Samba y luego en el Maxim y en otros centros de esa ciudad.

Aparece en los filmes Yo soy del son a la salsa, del cubano Rigoberto López, y Celos de mí, del alemán Wim Wenders. Con su orquesta Cubarama, actuó por última vez el 31 de diciembre de 2001 en Atenas, Grecia.

Rudy también se distinguió como compositor y dejó una huella imborrable en la música cubana grabada. Piezas como: La malanga, La reina del café, Tumba la caña, la botija del abuelo, Kikirikí, entre muchas otras.