Harpers Ferry először telepedett 1732 Peter Stephens, akinek “squatter jogait” vásárolt 1747-ben Robert Harper, akinek a város nevezték. Körülbelül 1750-ben Harper szabadalmat kapott 125 hektárra (0,5 km2) a város jelenlegi helyén. 1761-ben Harper kompot létesített a Potomac folyó, így a város kiindulópontjává vált a Shenandoah-völgybe és nyugatabbra költöző telepesek számára. 1763-ban a Virginiai Közgyűlés létrehozta a “Shenandoah vízesés Mr. Harper Kompjánál.”
október 25-én 1783, Thomas Jefferson látogatott Harpers Ferry. “A Potomac áthaladását a kék gerincen” egy szikláról nézte, amelyet most róla neveztek el. Jefferson az oldalt “a természet talán egyik legcsodálatosabb jelenetének nevezte.”
George Washington, mint a Patowmack Company elnöke (amely a Potomac és mellékfolyói folyami fejlesztéseinek befejezésére jött létre), 1785 nyarán Harpers Ferry-be utazott, hogy meghatározza az elkerülő csatornák szükségességét. 1794-ben Washington jól ismerte a területet, ezért javasolta egy új amerikai fegyverraktár és Arzenál felállítását. Washington családjának egy része a területre költözött; Charles Washington, az elnök legfiatalabb teljes testvére, megalapította Charles Town városát, mintegy hat mérföldre délnyugatra. Washington elnök unokaöccsét, Lewis Washington ezredest túszul ejtették John Brown 1859-es rajtaütése során.
1796-ban a szövetségi kormány vásárolt egy parcellát Robert Harper örököseitől, és három évvel később megkezdődött az amerikai fegyvertár és Arzenál építése a Harpers Ferry-nél. 1801 és 1861 között, amikor megsemmisítették, hogy megakadályozzák a polgárháború alatt történő elfogást, a fegyvertár több mint 600 000 muskétát, puskát és pisztolyt gyártott. Az iparosodás 1833-ban folytatódott, amikor a Chesapeake & Ohio-csatorna elérte Harpers Ferry, összekapcsolva Washington DC-vel. Egy évvel később a Baltimore & Ohio vasút megkezdte a vonatközlekedést a városon keresztül.
október 16-án 1859, a radikális abolicionista John Brown vezetett egy csoport 21 férfi egy raid az arsenal. Brown és emberei több épületet megtámadtak és elfoglaltak; remélte, hogy az elfogott fegyverekkel rabszolgalázadást indíthat délen. John Brown embereit a helyi polgárok és milicisták gyorsan elfogták, és arra kényszerültek, hogy menedéket keressenek a fegyverraktárral szomszédos gépházban. Amerikai tengerészgyalogosok kontingense, akkori alezredes vezetésével Robert E. Lee megrohamozta a gépházat, és elfogta a raiders nagy részét, megölve néhányat, és egyetlen áldozatot szenvedve. Brownt a Virginiai Nemzetközösség elleni árulásért bíróság elé állították, elítélték és felakasztották Charles Townban. A rajtaütés a polgárháború katalizátora volt.
a polgárháború katasztrofális volt Harpers Ferry számára, amely 1861 és 1865 között nyolc alkalommal cserélt gazdát. Amikor Virginia 1861 áprilisában elszakadt, az amerikai helyőrség megpróbálta elégetni az arzenált és megsemmisíteni a gépeket, hogy megakadályozzák a konföderációk használatát. A helyiek megmentették a felszerelést, amelyet a Konföderációs Hadsereg biztonságosabb helyre szállított fővárosában, Richmondban. Az amerikai hadsereg soha nem újította meg a fegyvergyártást Harpers Ferry-ben.
a polgárháború befejezése után, 1867-ben Nathan szakács Brackett tiszteletes alapította a történelmileg fekete Raktárkollégiumot a Camp Hill-en. Figyelemre méltó alumni közé jazz legenda Don Redman és az első elnöke A Nigériai Szövetségi Köztársaság, Nnamdi Azikiwe. A Storer College 1955 júniusában bezárt, az egyetem ma a Harpers Ferry Nemzeti Történelmi Park része.
augusztus 15-én 1906-ban a Niagara Mozgalom által vezetett szerző és tudós W. E. B. Du Bois és politikai aktivista William Monroe Trotter, megtartotta első találkozóját amerikai földön a campus Storer College. A háromnapos összejövetelt, amelyet az afro-amerikaiak polgári jogainak biztosítása érdekében tartottak, DuBois később “az egyik legnagyobb találkozónak nevezte, amelyet az amerikai négerek valaha tartottak.”1911-ben a Niagara Mozgalom tagjai csatlakoztak másokkal, hogy létrehozzák a színes emberek előmozdításának Országos Szövetségét, ismertebb nevén NAACP-t.
1944-ben a város nagy része a Nemzeti Park Szolgálat részévé vált, és ma Harpers Ferry Nemzeti Történelmi parkként tartják fenn. A város minden olyan területe, amely nem tartozik a parkba, a szövetségileg elismert Harpers Ferry történelmi negyed.