Le magasin fut fondé en 1838 par les frères Videau. En 1869 les Boucicaut associés se lancent dans l'agrandissement du magasin, l'architecte Louis-Charles Boileau, succédant à Alexandre Laplanche, fait appel à l'ingénieur Gustave Eiffel pour la structure du bâtiment.

Emile Zola s'inspirera du Bon marché pour écrire "Au Bonheur des Dames".