Voor het ontstaan van De Harmonie moeten we terug naar het jaar 1879, waarin de Barneveldse Courant melding maakt dat “Barneveld wederom in het genot zou komen van een harmoniecorps”. Het orkest kreeg in eerste instantie de naam “Erica”, maar werd in 1910 veranderd in “Kunst Veredelt”.
Toen ook in Nederland de klassenverschillen groter werden startten enkele leden van “Kunst Veredelt” een aparte arbeidersvereniging, “De Volharding”. De beide verenigingen waren onafhankelijk van elkaar en vormden pas in 1952 weer één geheel: “De Harmonie”.