mens opprinnelsen til sangen er uklar, plasserer noen bevis sine røtter med vaudeville – og teaterforestillinger fra slutten av det 19. århundre og begynnelsen av det 20. århundre populært i innvandrermiljøer. Noen vaudeville handlinger i løpet av tiden, slik Som arbeidet Med Joe Weber Og Lew Fields, ofte ga stemme til felles frustrasjoner tysk-Amerikanske innvandrere og tungt lente seg på malapropisms og vanskeligheter med det engelske språket som et redskap for sin humor. «John Jacob Jingleheimer Schmidt» deler mange kjennetegn med «My Name Is Jan Jansen», en sang som kan spore sin opprinnelse til svenske vaudeville i slutten av det 19.århundre.
sangen ser ut til å ha blitt allment kjent i midten av det tjuende århundre. Det fikk et stort løft da det ble sirkulert over hele landet under speidertroppsamlinger i slutten av 1920-tallet og tidlig på 1930-tallet. I 1926 skrev Avisen The Times I Munster, Indiana at under En Jentespeiderutflukt satt speiderne rundt et leirbål og » det ble høytidelig annonsert At John Jacob Jingleheimer Smith etter et langt og nyttig liv hadde dødd av overarbeid på vei Til Whiting. Han ble begravet med due seremoni og hans spøkelse er ikke å bli sett før i oktober først. Alle favorittleirene ble sunget.»I 1927 Rapporterte Portsmouth Daily Times at en gruppe gutter fra staten YMCA camp sang flere leir sanger, inkludert» John Jacob Jingleheimer Schmidt.»I 1931 rapporterte Elmira, new York-avisen The Star-Gazette at På En Speidersamling Ved Seneca Lake, da speidere kom inn i messehallen, brøt Tropp 18 snart inn i Den første leirsangen, «John Jacob Jingleheimer Smith». En Artikkel I Milwaukee Journal fra 1941 refererer også til sangen, med samme alternative tittel » John Jacob Jingleheimer Smith.»
sangen er uendelig repeterende, på samme måte som «Sangen Som Aldri Slutter», «Mitt Navn Er Jan Jansen «Eller» Michael Finnegan.»
Versjoner av sangen vises på andre språk, for eksempel den spanske versjonen, «Juan Paco Pedro de La Mar.»