chociaż początki utworu są niejasne, niektóre dowody wskazują na jego korzenie w wodewilach i aktach teatralnych z końca XIX wieku i początku XX wieku popularnych w społecznościach imigrantów. Niektóre akty wodewilu w epoce, takie jak dzieła Joe Webera i Lew Fieldsa, często dawały głos wspólnym frustra niemiecko-amerykańskich imigrantów i mocno opierały się na malapropizmach i trudnościach z językiem angielskim jako nośnikiem ich humoru. „John Jacob Jingleheimer Schmidt ” dzieli wiele cech z” My Name Is Jan Jansen”, piosenką, która może wywodzić się ze szwedzkiego wodewilu pod koniec XIX wieku.
wydaje się, że piosenka stała się już powszechnie znana w połowie XX wieku. Otrzymał duży impuls, gdy był rozprowadzany po całym kraju podczas zebrań harcerskich na przełomie lat 20. i 30. W 1926 roku gazeta The Times z Munster w stanie Indiana wydrukowała, że podczas Harcerskiej wycieczki harcerze siedzieli przy ognisku i ” uroczyście ogłoszono, że John Jacob Jingleheimer Smith po długim i użytecznym życiu zmarł z przepracowania w drodze do witlinka. Został pochowany z należytą ceremonią, a jego duch ma być widziany dopiero w październiku. Wszystkie ulubione piosenki obozowe były śpiewane.”W 1927 roku Portsmouth Daily Times poinformował, że grupa chłopców z obozu stanowego YMCA zaśpiewała kilka piosenek obozowych, w tym” John Jacob Jingleheimer Schmidt.”W 1931 roku Elmira w nowojorskiej gazecie” The Star-Gazette „poinformowała, że na zebraniu harcerzy nad jeziorem Seneca, gdy harcerze weszli do mesy,” Oddział 18 wkrótce pojawił się w pierwszej piosence obozowej, „John Jacob Jingleheimer Smith”.”Artykuł z Milwaukee Journal z 1941 r. również odnosi się do piosenki pod tym samym alternatywnym tytułem” John Jacob Jingleheimer Smith.”
piosenka jest nieskończenie powtarzalna, w podobny sposób jak” The Song That Never Ends”,” My Name Is Jan Jansen „czy” Michael Finnegan.”
wersje utworu pojawiają się w innych językach, m.in. w hiszpańskim wykonaniu „Juan Paco Pedro de la Mar.”