Harald Herzl ha preso le sue prime lezioni di violino dal padre all'età di 5 anni. Più tardi è stato ammesso al Mozarteum dove si è perfezionato con Sandor Vègh nel 1973. Nel 1980, completati gli studi, ha ricevuto un Ment Award dal Ministero Federale Austriaco delle Arti e delle Scienze. Dietro consiglio di Sandor Vègh ha fondato il Pro Arte Quartet, con il quale ha ricevuto importanti premi alle competizioni che si sono svolte a Helsinki (1978) e ad Hannover (1981). Il Pro Arte Quartet si è formato con l'Amadeus Quartet all'Accademia Musicale di Colonia intraprendendo poi una brillante carriera internazionale. Tour di successo lo hanno portato nei principali centri e festival musicali, tra i quali Vienna, Budapest, Parigi, Londra, Berlino ed Atene, e nel 1989 anche in Israele. Il grande debutto al Festival di Salisburgo nel 1991 è stato seguito da numerose altre performance presso lo stesso Festival. Di particolare interesse il concerto alla Musikverein di Vienna nel 1991. Il grande direttore e compositore Raphael Kubelik ha dedicato il suo "Quartetto per archi n. 5" al Pro Arte Quartet. Harald Herzl ha fatto numerose registrazioni radiofoniche e televisive al Festival di Salisburgo. Ha un contratto esclusivo con la BMG/RCA Victor, per la quale ha registrato l'integrale dei Quartetti di Mozart. Dal 1981 insegna presso l'Accademia Mozarteum, dove dal marzo del 2000 è diventato professore titolare. Dal 2004 è Preside del Dipartimento Archi.