Oraşul îşi are rădăcinile în secolele dinaintea formării statului feudal Moldova. Descoperirile arheologice efectuate pe vechea vatră de locuire a orașului, în cartierul Ţuţuieni, atestă existența urmelor de locuire cel puțin din ultimele 
decenii ale secolului al XIV-lea. Prima menţiune documentară este făcută în timpul domniei lui Petru I Muşatinul, într-un document extern, Letopisețul Novgorodului (cunoscut şi ca „Lista rusă de oraşe”), datat între 1387-1392, unde este amintit alături de celelalte târguri valahe: Târgul lui Roman şi Piatra lui Crăciun (Piatra Neamţ). De altfel din același secol datează și prima mențiune a Cetăţii Neamţ. Viaţa oraşului, perioadele de dezvoltare sau decădere, au fost strâns legate de istoria Cetăţii Neamţ şi de istoria Moldovei în general. Pe baza cercetărilor de arhivă s-a stabilit că Neamţul a avut un sigiliu propriu, în limba latină, la fel ca oraşele Baia sau Roman. Necesitatea de a crea un sistem de apărare în faţa duşmanilor, a făcut ca Petru I Muşat să ridice, între 1382-1387, pe Culmea Pleşu, un fort, transformat mai apoi în cetate. Situată la întretăierea drumurilor comerciale care lega Suceava de Piatra sau alte târguri ale Moldovei, Cetatea Neamţ a devenit, pentru o lungă perioadă de timp, nucleul în jurul căruia s-a desfăşurat viaţa urbei de pe malurile Ozanei, şi care astfel a devenit domeniu domnesc. La începutul secolului al XV-lea, negustorii care cumpărau vite din târgurile localităţii plăteau vamă, din acest punct de vedere oraşul devenind un important punct vamal. Târgul se va dezvolta cu timpul, devenind un important centru comercial şi meşteşugăresc. Din a doua jumătate a secolului al XVI-lea însă, viaţa economică şi socială a urbei nu mai cunoaşte ritmul dezvoltării de până atunci. În veacurile următoare oraşul înregistrează o decădere a activităţilor meşteşugăreşti şi comerciale, la aceasta contribuind şi unii factori interni şi externi (precum incendiile provocate în timpul războaielor turco-polone sau ruso-turce). La începutul veacului al XIX-lea, condiţiile favorabile agriculturii şi creşterii animalelor a făcut ca satele să se dezvolte din nou din punct de vedere economic. Astfel, satul Humuleşti (astăzi cartier al oraşului) a devenit renumit pentru iarmarocul săptămânal organizat aici. În 1852, la 16 octombrie, Grigore Alexandru Ghica – domnitorul Moldovei – inaugurează Şcoala Domnească, Spitalul şi Spiţeria, şi tot în 1852 se va construi aici, în apropierea cartierului Blebea, una dintre primele fabrici de postav de calitate superioară din Moldova, aparţinând lui Mihail Kogălniceanu. Extinderea activităţilor economice va continua şi la începutul secolului nostru, influenţată fiind de dezvoltarea cunoscută de întreaga zonă, de progresul tehnicii. Intrarea României în primul război mondial a făcut ca Batalionul de vânători de munte din Târgu Neamţ, prima unitate de acest fel din armata română, să participe alături de unităţile militare din Piatra şi Roman la campaniile din Transilvania, Muntenia şi Moldova. Pentru comemorarea eroilor, la 28 iunie 1939, în prezenţa Regelui Carol al II-lea şi a primului ministru Armand Călinescu, a fost inaugurat Monumentul Vânătorilor de Munte. Operă a sculptorului Theodor Burcă, acesta este construit din piatră şi bronz şi adăposteşte osemintele a 196 de eroi căzuţi în Marele Război pentru Întregirea Neamului Românesc.
