Harpers Ferry asutettiin ensimmäisen kerran vuonna 1732 Peter Stephens, jonka ”squatter’ s rights ” osti vuonna 1747 Robert Harper, jolle kaupunki on nimetty. Noin vuonna 1750 Harper sai patentin 125 eekkerin (0,5 km2) alueelle kaupungin nykyisellä paikalla. Vuonna 1761 Harper perusti lautan Potomac-joen yli, mikä teki kaupungista lähtöpaikan Shenandoahin laaksoon ja edelleen länteen muuttaneille uudisasukkaille. Vuonna 1763 Virginian yleiskokous perusti ”Shenandoah Fallsin kaupungin Mr. Harper’ s Ferrylle.”
25. lokakuuta 1783 Thomas Jefferson vieraili Harpers Ferryllä. Hän katseli ”Potomacin kulkua vaikka Blue Ridgeä” kalliosta, joka on nyt nimetty hänen mukaansa. Jefferson kutsui paikkaa ” ehkä yhdeksi ällistyttävimmistä kohtauksista luonnossa.”
George Washington, patowmack Companyn (joka perustettiin saattamaan Potomacin ja sen sivujokien jokiparannukset päätökseen) johtaja, matkusti kesällä 1785 Harpers Ferrylle selvittämään ohituskanavien tarvetta. Vuonna 1794 Washingtonin perehtyneisyys alueeseen sai hänet ehdottamaan paikalle uutta Yhdysvaltain asevarastoa ja arsenaalia. Osa Washingtonin perheestä muutti alueelle; presidentin nuorin täysveli Charles Washington perusti Charles Townin kaupungin noin kuuden kilometrin päähän lounaaseen. Presidentti Washingtonin iso-iso-veljenpoika, eversti Lewis Washington, oli panttivankina John Brownin ratsiassa vuonna 1859.
vuonna 1796 liittohallitus osti maapalstan Robert Harperin perillisiltä, ja kolme vuotta myöhemmin aloitettiin Yhdysvaltain asevaraston ja arsenaalin rakentaminen Harpers Ferryyn. Vuosina 1801-1861, jolloin se tuhottiin sisällissodan aikana tapahtuneiden kiinniottojen estämiseksi, asevarasto valmisti yli 600 000 muskettia, kivääriä ja pistoolia. Teollistuminen jatkui vuonna 1833, kun Chesapeake & Ohion kanava saavutti Harpers Ferryn yhdistäen sen Washingtoniin. Vuotta myöhemmin Baltimore & Ohio Railroad aloitti junaliikenteen kaupungin kautta.
16. lokakuuta 1859 radikaali abolitionisti John Brown johti 21 miehen joukkoa ryöstöretkellä arsenaaliin. Brown miehineen hyökkäsi ja valtasi useita rakennuksia; hän toivoi voivansa vallattujen aseiden avulla aloittaa orjakapinan koko etelässä. Paikalliset asukkaat ja miliisit piirittivät John Brownin miehet nopeasti, ja heidän oli paettava asevaraston viereisestä konehuoneesta. Joukko Yhdysvaltain merijalkaväkeä, jota johti silloinen everstiluutnantti Robert E. Lee hyökkäsi konetaloon ja vangitsi suurimman osan kaappareista, tappaen muutaman ja kärsien itse yhden kuolonuhrin. Brownia syytettiin maanpetoksesta Virginian osavaltiota vastaan, hänet tuomittiin ja hirtettiin Charles Townissa. Ratsia vauhditti sisällissotaa.
sisällissota oli tuhoisa Harpers Ferrylle, joka vaihtoi omistajaa kahdeksan kertaa vuosien 1861 ja 1865 välillä. Kun Virginia irtautui huhtikuussa 1861, Yhdysvaltain varuskunta yritti polttaa arsenaalin ja tuhota koneet estääkseen Konfederaatioita käyttämästä sitä. Paikalliset pelastivat kaluston, jonka Konfederaation armeija siirsi turvallisempaan paikkaan pääkaupunkiinsa Richmondiin. Yhdysvaltain armeija ei koskaan uusinut Harpers Ferryn asetuotantoa.
sisällissodan päättymisen jälkeen, vuonna 1867, pastori Nathan Cook Brackett perusti Camp Hillille historiallisen mustan Varastorakennuskollegion. Merkittäviä alumni ovat jazz legenda Don Redman ja ensimmäinen presidentti liittotasavallan Nigerian, Nnamdi Azikiwe. Storer College suljettiin kesäkuussa 1955, ja kampus on nyt osa Harpers Ferry National Historical Park.
15. elokuuta 1906 Niagara-liike, jota johtivat kirjailija ja tutkija W. E. B. Du Bois ja poliittinen aktivisti William Monroe Trotter, piti ensimmäisen kokouksensa Amerikan maaperällä Storer Collegen kampuksella. Kolmipäiväistä kokoontumista, joka pidettiin afroamerikkalaisten kansalaisoikeuksien turvaamiseksi, DuBois kuvaili myöhemmin ”yhdeksi suurimmista tapaamisista, joita amerikkalaiset neekerit ovat koskaan pitäneet.”Vuonna 1911 Niagara-liikkeen jäsenet yhdistyivät muiden kanssa muodostaen National Association for the Advancement of Colored People-järjestön, joka tunnetaan paremmin nimellä NAACP.
vuonna 1944 suurin osa kaupungista tuli osaksi National Park Serviceä ja sitä ylläpidetään nykyään Harpers Ferry National Historical Park-puistona. Kaikki kaupungin alueet, jotka eivät kuulu puistoon, sisältyvät liittovaltion tunnustamaan Harpers Ferry Historic District-alueeseen.