Harpers Ferry zostało założone w 1732 roku przez Petera Stephensa, którego” prawa lokatora ” zostały wykupione w 1747 roku przez Roberta Harpera, od którego miasto zostało nazwane. Około 1750 roku Harper otrzymał patent na 125 akrów (0,5 km2) w obecnej lokalizacji miasta. W 1761 roku Harper założył prom przez Rzekę Potomac, dzięki czemu miasto stało się punktem wyjścia dla osadników przemieszczających się do Doliny Shenandoah i dalej na zachód. W 1763 roku Zgromadzenie Ogólne Wirginii założyło miasto „Shenandoah Falls at Mr. Harper’ s Ferry.”
25 października 1783 roku Thomas Jefferson odwiedził Harpers Ferry. Oglądał „Przejście Potomaku przez niebieski grzbiet” ze skały, która teraz nosi jego imię. Jefferson nazwał to miejsce ” być może jedną z najbardziej zdumiewających scen w przyrodzie.”
George Washington, jako prezes firmy Patowmack (która została utworzona w celu dokończenia ulepszeń rzeki Potomac i jej dopływów), udał się do Harpers Ferry latem 1785 roku, aby ustalić potrzebę obejścia kanałów. W 1794 roku znajomość tego obszaru skłoniła Washingtona do zaproponowania miejsca pod nową zbrojownię Stanów Zjednoczonych i Arsenał. Część rodziny Washingtona przeniosła się na ten obszar; Charles Washington, najmłodszy pełny brat prezydenta, założył miasto Charles Town, jakieś sześć mil na południowy zachód. Pra-pra-bratanek prezydenta Waszyngtonu, pułkownik Lewis Washington, był zakładnikiem podczas nalotu Johna Browna w 1859 roku.
w 1796 roku rząd federalny zakupił działkę od spadkobierców Roberta Harpera, a trzy lata później rozpoczęto budowę amerykańskiej zbrojowni i arsenału w Harpers Ferry. W latach 1801-1861, kiedy został zniszczony, aby zapobiec zdobyciu podczas wojny secesyjnej, Zbrojownia wyprodukowała ponad 600 000 muszkietów, karabinów i pistoletów. Industrializacja kontynuowana była w 1833 roku, gdy kanał Chesapeake & Ohio dotarł do Harpers Ferry, łącząc go z Waszyngtonem. Rok później Kolej Baltimore & Ohio Railroad rozpoczęła kursowanie pociągów przez miasto.
16 października 1859 roku radykalny abolicjonista John Brown poprowadził grupę 21 mężczyzn w nalocie na arsenał. Brown i jego ludzie zaatakowali i zdobyli kilka budynków; miał nadzieję użyć zdobytej broni do zainicjowania powstania niewolników na południu. Ludzie Johna Browna zostali szybko przygwożdżeni przez lokalnych mieszkańców i milicję i zmuszeni do schronienia się w maszynowni przylegającej do zbrojowni. Kontyngent US Marines, dowodzony przez ówczesnego podpułkownika Roberta E. Lee napadł na maszynownię i schwytał większość najeźdźców, zabijając kilku i ponosząc pojedyncze ofiary. Brown był sądzony za zdradę stanu Wirginia, skazany i powieszony w Charles Town. Nalot był katalizatorem Wojny Secesyjnej.
wojna secesyjna była katastrofalna dla Harpers Ferry, który w latach 1861-1865 ośmiokrotnie zmieniał ręce. Kiedy Wirginia odłączyła się w kwietniu 1861, garnizon USA próbował spalić arsenał i zniszczyć maszyny, aby uniemożliwić Konfederatom korzystanie z niego. Mieszkańcy uratowali sprzęt, który Armia Konfederacka przeniosła do bezpieczniejszego miejsca w stolicy Richmond. Armia USA nigdy nie wznowiła produkcji broni w Harpers Ferry.
po zakończeniu wojny secesyjnej, w 1867 roku, historycznie black Storer College został założony na Camp Hill przez wielebnego Nathana Cooka Bracketta. Znani absolwenci to legenda jazzu Don Redman i pierwszy prezydent Federalnej Republiki Nigerii, Nnamdi Azikiwe. Storer College zamknięto w czerwcu 1955, a kampus jest teraz częścią Harpers Ferry National Historical Park.
15 sierpnia 1906 r. ruch Niagara, kierowany przez pisarza i uczonego W. E. B. Du Boisa i działacza politycznego Williama Monroe Trottera, odbył pierwsze spotkanie na amerykańskiej ziemi w kampusie Storer College. Trzydniowe spotkanie, które odbyło się w celu zabezpieczenia praw obywatelskich dla Afroamerykanów, zostało później opisane przez DuBois jako „jedno z największych spotkań, jakie Amerykańscy Murzyni kiedykolwiek odbyli.”W 1911 r. członkowie Ruchu Niagara połączyli się z innymi, tworząc National Association for the Advancement of Colored People, lepiej znane jako NAACP.
w 1944 roku większość miasta stała się częścią National Park Service i jest obecnie utrzymywana jako Harpers Ferry National Historical Park. Wszystkie obszary miasta poza parkiem znajdują się w obrębie uznanej przez Federację Harpers Ferry Historic District.