周元王六年（前 476 ）置中牟邑，中牟城北五里有牟山，高僅丈余，綿延數(shù)十里。據(jù)《大清一統(tǒng)志》：“邑之得名于此。”高祖十二年（前195），單父圣封中牟共侯，為侯國(guó)。武帝元鼎五年（前112）廢侯國(guó)為中牟縣。屬河南郡。東漢、曹魏因之。西晉（265—317 年）中牟屬滎陽(yáng)郡。懷帝永嘉四年（310 年）后，淪于十六國(guó)中的前后趙等國(guó)。南朝宋，北魏仍屬滎陽(yáng)郡。 東為天平初（534 年）為廣武郡治所。北齊天保七年（556 年），復(fù)屬滎陽(yáng)郡。北周武帝保定五年（565 年）遷縣治于圃田。隋開(kāi)皇元年（581 年）為避文帝父諱，改中牟為內(nèi)牟。三年，屬鄭州。

十八年改內(nèi)牟為圃田，大業(yè)二年（606 年）移圃田治于中牟城。三年，屬滎陽(yáng)郡。唐武德元年（618 年）改圃田為中牟。三年為牟州治所。四年，屬管州。貞觀元年（627 年）廢管州，撤清池縣，入中牟，中牟改屬汴州。龍朔二年（662 年）改屬滎陽(yáng)郡。后梁割中牟屬開(kāi)封府。后唐同光三年（925 年）還中牟于鄭州。后晉晉中牟又屬東京汴州。北宋屬開(kāi)封府。金屬南京開(kāi)封府。元屬汴梁路。明清仍屬開(kāi)封府。 1913年屬豫東道。1928年直屬河南省。1932年屬河南省第一 行政督察區(qū)。1949年屬陳留專(zhuān)區(qū)。1952 年6 月，鄭州、陳留專(zhuān)區(qū)合并稱(chēng)鄭州專(zhuān)區(qū)，中牟屬之。是年鄭州專(zhuān)區(qū)改稱(chēng)開(kāi)封專(zhuān)區(qū)。1970年屬開(kāi)封地區(qū)。1983年7月，改屬鄭州市至今未變。