唐改縣名名魯山，因縣東北十八里有魯山。據(jù)《讀史方輿紀(jì)要》：“山高聳，回生群山，為一邑巨鎮(zhèn)，縣以此名�！�

魯山縣歷史悠久，夏商時(shí)，魯山縣初稱魯縣，后改稱魯陽(yáng)，春秋時(shí)屬鄭，后來(lái)隸楚。楚肅王三十年（公元前374年），魏伐楚取魯陽(yáng)，魯陽(yáng)屬魏，西漢置魯陽(yáng)縣，歸南陽(yáng)郡。三國(guó)時(shí)，屬魏，晉代，屬南陽(yáng)國(guó)，南北朝永初年間，屬南朝宋。公元487年，北魏孝文帝南巡，改名山北縣，并置魯陽(yáng)鎮(zhèn)。太和十八年（495），為荊州治所，又為廣州治所。太和二十二年（499）。兼魯陽(yáng)郡治所。隋大業(yè)初（617），改名魯縣。唐武德四年（621），為魯州治所。貞觀元年（627），廢州，改魯縣為魯山縣，隸屬伊州。貞觀八年（634），屬汝州。至明洪武初，屬南陽(yáng)府汝州。成化十二年汝州升為直隸州，魯山縣直至清末民初仍隸屬汝州直隸州。民國(guó)三年（1914），屬河南河洛道，民國(guó)二十一（1932）年到三十六年（1947），屬河南省第五行政區(qū)。1949年后隸屬許昌專區(qū)（后改地區(qū)），1983年歸平頂山市轄，至今未變。