Herbst har skrevet en række numismatiske artikler, således om møntmærker (i "Fædrelandet", 1841), borgerkrigsmønter (i "Antiquarisk Tidsskrift" 1843) og forskellige danske møntfund.
I 1886 udnævntes Herbst til æresmedlem i Møntsamlerforeningen i Kjøbenhavn og hædredes i 1885 med en guldmedalje (Bergsøe nummer 1058).
Hans store pengeseddelsamling erhvervedes i 1900 af Møntsamlingen.
Litteratur: