新乡县设县的最早时期是隋朝，由此，新乡县作为一个县置存于世，直至民国。新乡县的县城是新乡市城区。
早期可追溯的记载中，新乡县属古鄘国之地，今天的新乡市卫河公园内有一个古鄘书画院，取名即来源于此，取意新乡古称。周朝时期，
周文王姬昌的儿子康叔因参与平定叛乱有功，被封于殷商故都
朝歌（今河南淇县），建立
卫国，成为卫国第一任国君。春秋时期，鄘国被卫国吞并，今天的新乡地名有不少卫国的痕迹，例如卫滨区，卫河等，即来源于此。
汉朝后，新乡县被改为汲县的新中乡。
汉武帝时期，因在此地抓获
南越相吕嘉，所以在此地成立获嘉县，新乡县变为获嘉县的新中乡。
民国时期，
国民政府并没有市的概念，起初是省-县设置，后来变为省-行政督察区-县的区划。1948年11月新乡县广大农村已被解放，中国共产党在新乡县境设置新乡市，新乡市建制自此诞生，归大行行署新乡专署领导。1949年5月新乡县县城获得解放，新乡市委，新乡市人民政府开始进城办公，至此，全区获得彻底解放。
新乡县作为县级机构，隋朝已有之，新乡县县城，亦早已有之，解放后直接将县城作为新乡市城区的基础兴建，发展，所以形成了一种有县无城的局面。