Terajší kláštor, ktorý sa nachádza na ul. Rakowickej 18, je tretím kláštorom bosých karmelitánov v Krakove. Prvý, drevený, bol založený v roku 1605, ale ukázal sa ako príliš vlhký a nevhodný na bývanie. Z týchto dôvodov bolo rozhodnuté presunúť kláštor na priľahlý kopec Wolski Garden. Stavba nového kláštora – murovaného – sa uskutočnila v rokoch 1634 -1683 (dnes sa v ňom nachádza nemocnica sv. Lazara na Kopernikovej ulici).
Druhý kláštor – zasvätený svätým Michalovi a Jozefovi – bol založený v roku 1611 v rámci mestských hradieb (dnes Archeologické múzeum na križovatke ulíc Poselska a Senacka). V roku 1797 rakúske úrady skonfiškovali kláštor a zmenili ho na väzenie pre politických zločincov.
V roku 1905 provinciálna rada na základe neustálych žiadostí sestier bosých karmelitánok v Krakove Łobzowe rozhodla o založení nového kláštora. Na jeseň 1907 sa začala výstavba nového kláštora Nepoškvrneného počatia Panny Márie na ul. Rakowickej.
Stavba presbytéria, časti kostola s bočnou kaplnkou trvala do apríla 1910. 6. decembra 1909 sa v kláštore usadila komunita s tromi bratmi. Kostol konsekroval krakovský biskup Anatol Nowak 5. decembra 1910. Od kanonického erigovania kláštora 26. januára 1911 bol kláštor určený pre Teologické kolégium (formáciu, seminár), ktoré tu je dodnes. V roku 1927 bol v kláštore založený časopis „Hlas Karmelu“, ktorý zastrešoval vydavateľskú činnosť.
Kostol Nepoškvrneného počatia Panny Márie pozostáva sčasti z románskeho slohu a čiastočne z gotiky s fasádou orientovanou na juhozápad, postavenou z tehál na kamennom základe. Telo je trojloďové, so strednou loďou predĺženou k presbytériu a uzavreté päťuholníkovou apsidou. S kostolom susedí dvojpodlažný kláštor v tvare písmena L a štvorboká veža vysoká 50 m. Kláštor obklopuje záhrada.
V kostole je obraz sv. Jozefa – patróna kráľovského mesta Krakova. Mimoriadne zaujímavý je príbeh tohto obrazu – namaľovaný v Ríme bratom Lukasom, holandským karmelitánom v kláštore Santa Maria della Scala, olejovou technikou na plátne, s rozmermi: 281,5 cm x 170 cm. Obraz priviezli do kláštora svätých Michala a Jozefa, preslávil sa svojimi milosťami a začal okolo seba zhromažďovať mnohých ctiteľov Máriinho manžela, ktorí uňho hľadali pomoc najmä v nebezpečenstve vojny alebo moru.
V roku 1714 na zasadnutí mestskej rady poslanci zvolili sv. Jozefa za patróna mesta Krakova. Toto rozhodnutie schválil v roku 1715 pápež Klement XI. Keď rakúske úrady prevzali kláštor, bol obraz umiestnený v kláštore bosých karmelitánok na Koperníkovej ulici, kde zostal až do roku 1932. Potom úrady obraz vrátili bosým karmelitánom do nového kláštora na Rakowickej ulici, kde skrášľoval kláštorný interiér.
Až v roku 1980 obraz preskúmali, identifikovali a preniesli do kostola, kde preňho v ľavej lodi pripravili oltár. Odvtedy trvá kult sv. Jozefa, ktorým je popri kulte Nepoškvrnenej krakovský Karmel taký charakteristický.
