Más adelante en su carrera, completaría sus estudios en Goddard College en Plainfield, Vt., donde recibió su licenciatura en etnomusicología afrocaribeña. Los estudios formales de Herwig llegaron a su fin con una Maestría en Artes en Estudios de Jazz de Queens College, una rama de la Universidad de la Ciudad de Nueva York.

Igualmente versado en los lenguajes musicales bebop, hard bop y jazz moderno. La carrera profesional de Conrad comenzó con períodos de big band con varias figuras icónicas y legendarias, incluidos Clark Terry, Cab Calloway, Buddy Rich, Toshiko Akiyoshi y Mel Lewis. Por esa época también actuó y estuvo de gira con World of Trombones de Slide Hampton. Más tarde, Herwig trabajaría durante varios años con la Orquesta de Frank Sinatra. Otras asociaciones tempranas importantes incluyeron una estadía con la Orquesta de Jazz Afrocubano seminal del líder de la banda Mario Bauza, una asociación que lanzaría su dominio de los géneros latino y jazz latino.

A medida que sus acciones subieron en el área de Nueva York, desarrolló asociaciones con un Quién es Quién virtual del jazz. Herwig trabajó con varios conjuntos pequeños, medianos y grandes mientras continuaba forjándose un nombre como líder. Los veteranos del jazz con los que ya había trabajado incluían a Red Garland, Dave Liebman y Max Roach; al mismo tiempo atrajo a Danilo Pérez y David Sánchez en sus grupos.

El primer lanzamiento de Herwig With Every Breath (Ken) llegó en 1987; durante el transcurso de los siguientes 10 años lanzó cuatro grabaciones adicionales para el mismo sello. A mediados de la década de 1980 inició una larga asociación con Eddie Palmieri, un viaje musical que continúa hasta el día de hoy.

Herwig también actuó regularmente como miembro del Quinteto de Paquito D’Rivera y conjuntos más grandes como la Orquesta de las Naciones Unidas inspirada en Dizzy Gillespie. También continúa su afiliación de larga data con Mingus Big Band, donde se desempeñó como director musical y contribuyó como arreglista, sobre todo en Live at the Tokyo Blue Note (Sunnyside), nominado al Grammy 2008. Una de las afiliaciones más importantes a mitad de la carrera de Herwig fue con el difunto saxofonista Joe Henderson, quien disfrutó de un aumento en la popularidad de su carrera en ese momento.

Durante diferentes períodos con Henderson, que comenzaron a principios de la década de 1990 y duraron hasta cerca del fallecimiento del saxofonista en 2001, Herwig realizó giras por todo el mundo con el saxofonista y pasó un tiempo en el estudio de grabación, contribuyendo a proyectos como Joe Henderson: Big Band (Verve; 1992), Porgy & Bess (Verve; 1999) y The Other Side of Joe Henderson (Universal; 2004), una colección lanzada póstumamente.

La carrera de Herwig dio un salto importante en 1996. Se basó en sus experiencias directas, modernas y de jazz latino y lanzó The Latin Side of John Coltrane (Astor Place), lo que él, llamaría una reimaginación del trabajo de Coltrane con originales arreglos creados dentro de un contexto de Latín Jazz. En el momento de su lanzamiento, la grabación recibió críticas muy favorables en todos los ámbitos. El CD mostró una variedad de artistas tanto del mundo latino como del jazz directo, incluidos Dave Valentín, Ronnie Cuber, Brian Lynch y Eddie Palmieri. Resultaría ser el primero de una serie continua de esfuerzos creativos que continúan hasta el día de hoy; sería la primera de las tres nominaciones al Grammy de Herwig en la categoría Mejor grabación de jazz latino.

Desde entonces, Herwig ha publicado Another Kind of Blue: Latin Side of Miles (Half Note; 2004; nominado al Grammy), Qué Viva Coltrane (Criss Cross; 2005), Sketches of Spain Y Mas (Half Note; 2006), Latin Side de Wayne Shorter (Half Note; 2008; nominado al Grammy) y Lado latino de Herbie Hancock (2010). Su Latín Side All-Star Band, un septeto lleno de algunos de los músicos más respetados del género, incluye al multiinstrumentista Craig Handy, el trompetista Mike Rodríguez, el pianista Bill O’Connell, el bajista Rubén Rodríguez, el baterista Robby Ameen y el conguero y percusionista Pedro Martínez. El grupo ha encabezado festivales tanto a nivel internacional (Tim Jazz Festival [Brasil], Red Sea Jazz Festival, Panama Jazz Festival, North Sea Jazz Festival, San Javier