Bylo založeno v roce 1584 Melchiorem z Redernu. Již v roce 1592 mu jeho zakladatel udělil horní a hrdelní právo, právo týdenního trhu a některé další výsady, mezi nimi i městský znak.

Město bylo postaveno podle jednotného plánu, o čemž svědčí jeho pravoúhlé ulice i náměstí. Svým půdorysem se podobá jiným horním městečkům ležícím například v Krušných horách.Když v polovině 17. století těžba téměř zanikla, začali se obyvatelé živit předením lnu, bavlny a plátenictvím. Na tradici ruční domácí výroby navázala v druhé polovině 19. století strojová textilní výroba. O její největší rozmach se postaral Ignác Klinger. Důležitým zdrojem obživy místních obyvatel byla i výroba porcelánu a pasířství.

V Novém Městě pod Smrkem jsou dva hraniční přechody. Přes přechod pro automobily se lze dostat do polské části Jizerských hor a Krkonoš. Druhý přechod je určen pouze pro pěší a lyžaře. Je přímo na vrcholku Smrku a lze jej využít k výletům do oblasti Vysokého jizerského hřebene či na polský Stóg Izerski.