Harpers Ferry bosattes först 1732 av Peter Stephens, vars ”squatters rättigheter” köptes 1747 av Robert Harper, för vilken staden namngavs. Omkring 1750 fick Harper ett patent på 125 tunnland (0,5 km2) vid den nuvarande platsen för staden. 1761 etablerade Harper en färja över Potomac River, vilket gör staden till en utgångspunkt för bosättare som flyttar in i Shenandoah Valley och längre västerut. 1763 Virginia generalförsamling etablerade staden ”Shenandoah Falls vid Mr. Harper’ s Ferry.”
den 25 oktober 1783 besökte Thomas Jefferson Harpers Ferry. Han såg ”passagen av Potomac men Blue Ridge” från en sten som nu är uppkallad efter honom. Jefferson kallade webbplatsen ” kanske en av de mest fantastiska scenerna i naturen.”
George Washington, som president för Patowmack Company (som bildades för att slutföra flodförbättringar på Potomac och dess bifloder), reste till Harpers Ferry under sommaren 1785 för att bestämma behovet av förbigångskanaler. 1794 fick Washingtons förtrogenhet med området honom att föreslå platsen för en ny USA: s armory och arsenal. Några av Washingtons familj flyttade till området; Charles Washington, presidentens yngsta fullbror, grundade staden Charles Town, cirka sex mil sydväst. President Washingtons brorson, överste Lewis Washington, hölls som gisslan under John Browns raid 1859.
år 1796 köpte den federala regeringen ett skifte från Robert Harpers arvingar, och tre år senare började byggandet av US Armory och Arsenal på Harpers Ferry. Mellan 1801 och 1861, när det förstördes för att förhindra fångst under inbördeskriget, producerade armory mer än 600 000 musköter, gevär och pistoler. Industrialiseringen fortsatte 1833 när Chesapeake & Ohio Canal nådde Harpers Ferry och förbinder den med Washington, D. C. Ett år senare, Baltimore & Ohio Railroad började tågtrafik genom staden.
den 16 oktober 1859 ledde den radikala abolitionisten John Brown en grupp på 21 män i en raid på arsenal. Brown och hans män attackerade och fångade flera byggnader; han hoppades kunna använda de fångade vapnen för att initiera ett slavuppror i hela söder. John Browns män fastnade snabbt av lokala medborgare och milis och tvingades ta tillflykt i motorhuset intill armory. En kontingent av amerikanska marinesoldater, ledd av dåvarande överstelöjtnant Robert E. Lee, stormade motorhuset och fångade de flesta raiders, dödade några och lidit en enda olycka själva. Brown prövades för förräderi mot Commonwealth of Virginia, dömdes och hängdes i Charles Town. Razzian var en katalysator för inbördeskriget.
inbördeskriget var katastrofalt för Harpers Ferry, som bytte händer åtta gånger mellan 1861 och 1865. När Virginia avgick i April 1861 försökte den amerikanska garnisonen att bränna Arsenalen och förstöra maskinen för att förhindra att de konfedererade använde den. Lokalbefolkningen räddade utrustningen, som Confederate Army överförde till en säkrare plats i huvudstaden Richmond. US Army förnyade aldrig vapenproduktionen i Harpers Ferry.
efter slutet av inbördeskriget, 1867, grundades den historiskt svarta Storer College på Camp Hill av pastor Nathan Cook Brackett. Anmärkningsvärda alumner inkluderar jazzlegenden Don Redman och den första presidenten i Förbundsrepubliken Nigeria, Nnamdi Azikiwe. Storer College stängdes i juni 1955 och campus är nu en del av Harpers Ferry National Historical Park.
den 15 augusti 1906 höll Niagara-rörelsen, ledd av författare och forskare W. E. B. Du Bois och politisk aktivist William Monroe Trotter, sitt första möte på amerikansk mark på campus Storer College. Den tre dagar långa sammankomsten, som hölls för att säkra medborgerliga rättigheter för afroamerikaner, beskrevs senare av DuBois som ”en av de största möten som amerikanska negrer någonsin haft.”År 1911 gick medlemmarna i Niagara-rörelsen med andra för att bilda National Association for the Advancement of Colored People, bättre känd som NAACP.
1944 blev större delen av staden En del av National Park Service och underhålls nu som Harpers Ferry National Historical Park. Alla delar av staden som inte ligger i parken finns i det federalt erkända Harpers Ferry Historic District.