Karmelitáni získali své jméno podle hory Karmel, na níž žil poustevník Eliáš. Stejně jako františkáni náleželi karmelitáni mezi žebravé řády a řeholníci museli žít v naprosté chudobě a odříkání. V roce 1427 při obležení města husity byl klášter vypálen a mniši vyhnáni. V té době klášter získal jméno "černý", údajně od ohořelých černých zdí. K obnově kláštera přispěl až zástavní majitel Tachova Burjan II. z Gutštejna, který v roce 1458 založil další dva kláštery tohoto řádu v Chyších a v Rabštejně nad Střelou.
V roce 1492 klášter vyhořel. V roce 1509 potvrdil Jetřich z Gutštejna výplatu klášteru karmelitánů 10 zlatých ročně. Dalšími požáry byl klášter stižen v letech 1536, 1543, 1548 a 1614. V roce 1547 Pluhové z Rabštejna nechali karmelitány z města vyhnat. V roce 1555 se v tachovském urbáři uvádí, že klášter je zcela zpustlý a opuštěný. Klášterní majetek spravovali k tomu určení tachovští měšťané.
Počátkem roku 1556 král Ferdinand I. zpustlý klášter a jeho platy postoupil městu. Měšťané měli klášter obnovit a k němu dosadit katolického kněze. Z klášterních příjmů měli dále hradit provoz školy a špitálu.
Měšťané však o obnovu kláštera neměli zájem. Část klášterního majetku si mezi sebou rozdělili a část rozprodali. Využívali také platy plynoucí z kláštera. Na tuto nedbalost upozornil roku 1629 nový majitel panství Jan Filip Husmann. Klášter jim odebral a navrátil jej řádu karmelitánů. Řeholníci již ve zříceném konventu nemohli bydlet a sídlili v domě na rohu dnešní Husitské ulice a uličky směřující do obce Světce. K zadní části této budovy byl přistavěn bývalý luteránský kostel, kteří mniši využívali. V roce 1645 Husmann budovu zakoupil a chtěl vybudovat nový klášter. O rok později bylo sídlo karmelitánů vypáleno švédským vojskem. Výstavba nového kláštera ztroskotala údajně na příliš vysokých požadavcích karmelitánů. Husmann věnoval přízeň řádu pavlánů, pro něž chtěl roku 1643 založil nový klášter ve Světcích. Kolem roku 1670 karmelitáni Tachov opustili.
V roce 1665 započaly vyklízecí práce v klášterním kostele, které patrně souvisely s jeho zbouráním. Podle zápisků Bohuslava Balbína byl ve středu kostela nalezen náhrobek zhotovený na způsob královských tumb doplněný sochami z červeného mramoru. Nálezci přisoudili náhrobek Burjanu II. z Gutštejna.
Na starých vyobrazeních Tachova z 2. poloviny 18. století již klášter není patrný. V průhledu mezi věžemi Horní a Dolní brány lze spatřit věž s budovami, která nepatří městskému opevnění a stojí v prostoru bývalého kláštera. Po požáru v roce 1770 zmizely z pohledu na město také tyto stavby.
Roku 1785 lékárník A. Storch získal povolení postavit dům na místě starého kláštera. Staré náhrobníky a pozůstatky hrobů byly vykopány a kosti byly uloženy na svatováclavském hřbitově.
Ještě počátkem 20. století byl v nádvorní zdi bývalé pošty, případně sousedící lékárny, zazděn zmíněný gutštejnský náhrobník. Dnes je tento prostor přístupný z domu č. 829, avšak desky jsou překryty dřevěným překladem.