V roce 1967 ji založil rockový hudebník a skladatel Jan Vršecký, hráč na klávesové nástroje. Sestavu tehdy dále tvořili: Vladimír Klenka a Milos Hansl (bass kytara), Jiří Šohájek (zpěv), Milan Koudelka (kytara) a Pavel Hlavatý (bicí). Poslední zakládající člen, Jan Vršecký, skupinu opouští v roce 1987, po 20 letech účinkování. V roce 1978 přichází do skupiny Vladimír Růžek (sólová kytara, zpěv), který ve skupině jako kapelník působí dodnes (2009).

Výrazným mezníkem historie skupiny byl rok 1979. Jako zpěvák přichází Jan Prachař, který za mikrofonem vystřídal Pavla Rotha a na dlouhých 10 let vtiskl tomuto souboru punc originality tehdy prezentovaných skladeb. Kromě zpěvu se podílel na tvorbě tehdejšího Markýze Johna i autorsky (skladba Čas milenek). Dále je nutné připomenout zpívajícího zvukaře Jana Leše. V této době zněly na tancovačkách v podání kapely hity (cover verze) jako např. Sokol ze sokolovny, Chrámy skalní (zpíval Karel Váňa), Rocker Pepa (Jan Leš), instrumentální písně Duha, skladba na motivy tvorby J. S. Bacha a další. V rádiu na stanici „Hvězda“ v programu START v té době soutěžila skladba s názvem Sen, jejímž autorem je Jan Vršecký a kterou nazpíval Karel Váňa, toho v roce 1985 vystřídal Pavel Sádlík ze skupiny Karamel.

Devadesátá léta začal Markýz John sestavou: Vláďa Růžek-kytara, Petr Krátký-bass, Emil Smatana-zpěv, Jozef Zvoníček-klávesy a Jaroslav Šolc-bicí a ta také nahrála 1.CD „Markýz John 1991“. Po vydání CD se sestava hodně obměnila a do roku 1992 si ke kytaře Láďa Růžek přibral i mikrofon a stal se novým zpěvákem. Sestavu doplnili: Pavel Sádlík-bass, Aleš Zimolka-bicí a Zdeněk Vlč-klávesy a to už se začala sestava stabilizovat. V roce 1994 přišel Zdeněk Kaplan-bass, který působí v M.J. dodnes, v roce 1997 při nahrávání CD „Rozkaz generále“ odešel Marcel Hudec a za bicí usedá Viktor Barsa, který je v M.J. doposud. Tedy stabilní sestava do roku 2001: Vláďa Růžek-kytara,zpěv, Zdeněk Vlč-klávesy, Zdeněk Kaplan-bass,zpěv a Viktor Barsa-bicí. V roce 2001 odešel Zdeněk Vlč (Fabrica atomica, …, dnes Aleš Brichta band), kterého nahradil Jakub Růžek-klávesy, takže sestava: Vláďa Růžek-kytara, zpěv, Zdeněk Kaplan-bass, zpěv, Jakub Růžek-klávesy, zpěv a Viktor Barsa-bicí jsou dnešní Markýz John.