embora as origens da canção sejam obscuras, algumas evidências colocam suas raízes com vaudeville e atos teatrais do final do século XIX e início do século XX populares nas comunidades imigrantes. Alguns atos de vaudeville durante a época, como o trabalho de Joe Weber e Lew Fields, muitas vezes deu voz a frustrações compartilhadas de imigrantes Germano-americanos e fortemente inclinado em malapropismos e dificuldades com a língua inglesa como um veículo para o seu humor. “John Jacob Jingleheimer Schmidt ” compartilha muitas características com” My Name Is Jan Jan Jansen”, uma canção que pode traçar sua origem para vaudeville sueco no final do século XIX.
a canção parece já ter se tornado amplamente conhecida em meados do século XX. Recebeu um grande impulso quando circulou por todo o país durante reuniões de tropas de escuteiros no final da década de 1920 e início da década de 1930. Em 1926, O jornal de Tempos de Munster, Indiana impresso que, durante uma escoteira do passeio, os escoteiros sentamos ao redor de uma fogueira de acampamento e “foi solenemente anunciado que John Jacob Jingleheimer Smith, depois de uma longa e útil vida tinha morrido de excesso de trabalho, no caminho para o Badejo. Ele foi enterrado com a devida cerimônia e seu fantasma não deve ser visto até o primeiro de outubro. Todas as canções favoritas do acampamento foram cantadas. Em 1927, o Portsmouth Daily Times informou que um grupo de Meninos do campo de YMCA do estado cantavam várias canções do campo, incluindo “John Jacob Jingleheimer Schmidt”. Em 1931, Elmira, jornal de Nova Iorque, The Star-Gazette relatou que em uma reunião de escoteiros no Lago Seneca, quando os escoteiros entraram no refeitório, “o Grupo 18 logo entrou na primeira canção do acampamento, ‘John Jacob Jingleheimer Smith’. A 1941 Milwaukee Journal article also refers to the song, with the same alternate title of “John Jacob Jingleheimer Smith.”
a canção é indefinidamente repetitiva, de uma maneira similar a “The Song That Never Ends”, “My Name Is Jan Jansen” ou “Michael Finnegan”.”
versões da canção aparecem em outras línguas, como a versão espanhola, ” Juan Paco Pedro De la Mar.”