Harpers Ferry a été fondée en 1732 par Peter Stephens, dont les « droits de squatteur » ont été achetés en 1747 par Robert Harper, pour qui la ville a été nommée. Vers 1750, Harper reçut un brevet sur 125 acres (0,5 km2) à l’emplacement actuel de la ville. En 1761, Harper établit un traversier sur le fleuve Potomac, faisant de la ville un point de départ pour les colons qui s’installent dans la vallée de Shenandoah et plus à l’ouest. En 1763, l’Assemblée générale de Virginie a établi la ville de « Shenandoah Falls à Mr. Harper’s Ferry. »
Le 25 octobre 1783, Thomas Jefferson visita Harpers Ferry. Il a vu « le passage du Potomac à travers la crête bleue » à partir d’un rocher qui porte maintenant son nom. Jefferson a appelé le site « peut-être l’une des scènes les plus incroyables de la nature. »
George Washington, en tant que président de la Patowmack Company (qui a été créée pour achever l’amélioration de la rivière sur le Potomac et ses affluents), s’est rendu à Harpers Ferry pendant l’été 1785 pour déterminer la nécessité de canaux de contournement. En 1794, la familiarité de Washington avec la région l’amène à proposer le site d’une nouvelle armurerie et d’un nouvel arsenal des États-Unis. Une partie de la famille de Washington a déménagé dans la région; Charles Washington, plus jeune frère à part entière du président, a fondé la ville de Charles Town, à environ six miles au sud-ouest. L’arrière-petit-neveu du président Washington, le colonel Lewis Washington, a été pris en otage lors du raid de John Brown en 1859.
En 1796, le gouvernement fédéral acheta une parcelle de terrain aux héritiers de Robert Harper, et trois ans plus tard, la construction de l’arsenal et de l’arsenal américains à Harpers Ferry commença. Entre 1801 et 1861, lorsqu’il a été détruit pour empêcher sa capture pendant la guerre civile, l’armurerie a produit plus de 600 000 mousquets, fusils et pistolets. L’industrialisation se poursuivit en 1833 lorsque le canal de Chesapeake & Ohio atteignit Harpers Ferry, le reliant à Washington, D.C. Un an plus tard, le Baltimore & Ohio Railroad commença à desservir la ville par des trains.
Le 16 octobre 1859, l’abolitionniste radical John Brown mène un groupe de 21 hommes dans un raid sur l’arsenal. Brown et ses hommes attaquèrent et capturèrent plusieurs bâtiments ; il espérait utiliser les armes capturées pour déclencher un soulèvement d’esclaves dans tout le Sud. Les hommes de John Brown sont rapidement épinglés par des citoyens et des miliciens locaux, et contraints de se réfugier dans le bâtiment des machines adjacent à l’armurerie. Un contingent de Marines américains, dirigé par le lieutenant-colonel Robert E. Lee, a pris d’assaut le bâtiment des machines et a capturé la plupart des pillards, en tuant quelques-uns et faisant eux-mêmes une seule victime. Brown a été jugé pour trahison contre le Commonwealth de Virginie, condamné et pendu à Charles Town. Le raid a été un catalyseur de la guerre civile.
La guerre civile fut désastreuse pour Harpers Ferry, qui changea de mains huit fois entre 1861 et 1865. Lorsque la Virginie fait sécession en avril 1861, la garnison américaine tente de brûler l’arsenal et de détruire les machines, pour empêcher les confédérés de l’utiliser. Les habitants ont sauvé l’équipement, que l’armée confédérée a transféré dans un endroit plus sûr de sa capitale, Richmond. L’armée américaine n’a jamais renouvelé la production d’armes à Harpers Ferry.
Après la fin de la guerre de Sécession, en 1867, le Storer College, historiquement noir, a été fondé sur Camp Hill par le révérend Nathan Cook Brackett. Parmi les anciens élèves notables figurent la légende du jazz Don Redman et le premier président de la République fédérale du Nigeria, Nnamdi Azikiwe. Le Storer College a fermé ses portes en juin 1955 et le campus fait maintenant partie du parc historique national Harpers Ferry.
Le 15 août 1906, le Mouvement Niagara, dirigé par l’écrivain et érudit W. E. B. Du Bois et le militant politique William Monroe Trotter, tint sa première réunion sur le sol américain sur le campus du Storer College. Le rassemblement de trois jours, qui a eu lieu pour garantir les droits civiques des Afro-Américains, a ensuite été décrit par DuBois comme « l’une des plus grandes réunions que les Nègres américains aient jamais tenues. » En 1911, les membres du Mouvement Niagara se sont joints à d’autres pour former la National Association for the Advancement of Colored People, mieux connue sous le nom de NAACP.
En 1944, la majeure partie de la ville est devenue une partie du National Park Service et est maintenant maintenue sous le nom de parc historique national Harpers Ferry. Toutes les zones de la ville qui ne font pas partie du parc sont comprises dans le district historique de Harpers Ferry, reconnu par le gouvernement fédéral.