Ils ont été fondés en 1622 lorsque Louis XIII a fourni une compagnie de cavalerie légère (les carabins, créés par le père de Louis Henri IV) avec des mousquets. Les mousquetaires se sont battus au combat à pied (infanterie) et à cheval (cavalerie). Ils formaient la garde royale du roi alors qu’il était en dehors des résidences royales (au sein des résidences royales, la garde du roi était la Garde du corps et les Gardes suisses). Les Mousquetaires de la Garde portaient un ancien type d’uniforme militaire avec un tabard (connu sous le nom de soubreveste), indiquant qu’ils « appartenaient » au Roi, et une croix blanche brodée indiquant qu’ils ont été formés lors des rébellions huguenotes en soutien à la cause catholique.
Peu de temps après la création des Mousquetaires, une deuxième compagnie fut fondée pour rendre compte au cardinal de Richelieu. À la mort du cardinal en 1642, la compagnie passe à son successeur le cardinal Mazarin, qui dissout ses Mousquetaires en 1646. Il relance les Mousquetaires en 1657 avec une compagnie de 150 hommes. À la mort de Mazarin en 1661, les Mousquetaires du cardinal passent à Louis XIV.
En 1664, les deux compagnies sont réorganisées : l’une prend le nom de mousquetaires gris de la couleur de leurs chevaux assortis, tandis que la seconde est appelée Mousquetaires noirs, montés sur des chevaux noirs. À peu près au même moment, la taille des compagnies de mousquetaires a été doublée.
Les Mousquetaires étaient parmi les plus prestigieuses des compagnies militaires de l’Ancien Régime, et en principe l’adhésion aux compagnies était réservée aux nobles. Avec les réformes de Michel le Tellier – qui imposaient un certain nombre d’années de service militaire avant que les nobles puissent atteindre le grade d’officier – de nombreux nobles cherchèrent à faire ce service dans les compagnies privilégiées de mousquetaires.
En 1776, les Mousquetaires sont dissous par Louis XVI pour des raisons budgétaires. Réformés en 1789, ils furent à nouveau dissous peu après la Révolution française. Ils sont réformés le 6 juillet 1814 et définitivement dissous le 1er janvier 1816.