En 1937 un oficial escolar lo encontró y lo obligó a asistir a la Haaren High School, donde llegó a ser amigo de Charles Pickells, un maestro de música quien le enseñó lo básico del piano y el trombón. Durante el mismo año, mientras vivía en Spanish Harlem, José fue golpeado por un bus en la Avenida Madison. Fue operado y le pusieron una placa de acero en su cabeza. Luego se recuperó y posteriormente se casó con la bella puertorriqueña Irma Ledesma. Dos años después de la boda llegó a ser pianista de Montesino.

Por los siguientes tres años tocó piano para muchas de las más populares orquestas de Nueva York. En 1943, durante el punto más cruento de la segunda guerra mundial, el pianista de Machito, Frank Gilberto Ayala, fue alistado en el ejército y reemplazado por Luis Varona. Meses después, Varona pasa a ser pianista de la segunda orquesta de Machito, el Afro Cuban Orchestra, la cual Mario Bauzá había creado para el recién llegado cantante y compositor cubano Marcelino Guerra. Loco reemplazó a Varona. Inmediatamente luego de que Loco se unió a Machito, decía el percusionista José Mangual, “la banda comenzó a sonar diferente debido a los solos de Loco. Ellos eran calientes. Los bailadores comenzaron a llamarnos la Latin Count Basie Orchestra.

Estévez Jr., trabajó como autónomo con muchos de los mejores conjuntos latinos de la época hasta bien entrada la década de 1950, trabajando con Polito Galíndez, Marcelino Guerra, Pupi Campo, Julio Andino, Noro Morales, Xavier Gugart, Tito Puente, Tito Rodríguez, entre otros. Logró un éxito propio en 1952 con la melodía Tenderly.

Joe también hizo arreglos latinos de estándares pop y los interpretó con un quinteto en muchos lugares de jazz que normalmente no mostraban música latina.

Para 1986 Loco estaba sufriendo de diabetes y le habían tenido que amputar una pierna. Durante la segunda semana de marzo de 1988 el murió mientras dormía en San Juan, Puerto Rico, a la edad de 67 años.