Součástí kláštera je i klášterní kostel. Ten původní byl těžce poškozen požárem v roce 1661, stavba nového kostela začala v roce 1700 a v roce 1707 za hraběte Viléma Kounice byl kostel vysvěcen. Je zasvěcen Všem svatým a sv. Augustinovi. Při požáru města v roce 1820 shořela cibulová báň věže a byla nahrazena provizorním jehlancem, jenž zdobí kostel dodnes. Klášterní kostel byl v roce 1927 povýšen na baziliku minor, tj. papežský kostel, jak naznačuje znak papeže Pia XI. nad vchodem do baziliky.

V budově kláštera sídlí v současnosti vlastivědné muzeum a galerie, v kostele se konají bohoslužby a koncerty.