Heinrich von Herzogenberg nasceu em 10 de junho de 1843, em Graz (Áustria). Estudou composição no Conservatório de Viena com Otto van Dessof, simultâneos aos estudos de direito na universidade. Depois dos estudos, viveu em Graz como um artista independente. Seus trabalhos desta época foram influenciados por Schumann, Brahms e Wagner.
Em 1871, Herzogenberg mudou-se para Leipzig, onde conheceu Philipp Spitta, biógrafo de J.S.Bach, com quem teve uma grande amizade. Em 1874, em conjunto com Spitta, fundaram a Sociedade Bach, onde se dedicavam principalmente a execução das cantatas do mestre alemão. Sob a administração musical de Herzogenberg, a Sociedade Bach obteve grande recepção no século XIX.
Católico, ganhou a cooperação do teólogo protestante Friedrich Spitta (1894), empenhado na reforma musical da igreja. A música a serviço da igreja protestante tornou-se o foco principal do compositor, que pode ser considerado como a sua fase mais importante. Herzogenberg morreu em 9 de outubro de 1900, em Wiesbaden (alemanha).
O conhecimento da obra de J.S.Bach e Brahms levou-o a uma mudança de estilo em suas composições a partir de 1875. A influência de Wagner foi substituída pelo estilo clássico, já que em 1885 pertenceu ao círculo acadêmico dos "conservadores de Berlim". Herzogenberg aderiu ao estilo de Brahms, o que lhe trouxe o epíteto negativo de epígono (discípulo, imitador) de Brahms para o resto da vida.
Herzogenberg foi grande compositor de música de câmara: Quarteto para piano n.º 1 em mi menor Op. 75, Quarteto para piano em si bemol maior Op. 95, Quinteto para clarineta, fagote, oboé, piano e trompa em si bemol maior Op. 43, Quinteto para cordas Op. 77, Trio para oboé, piano e trompa Op. 61, Peça para piano e viola Op. 62, etc. Deve ser citada ainda a Missa em mi maior Op. 87.