山西晋城古称泽州，是华夏文化的发祥地之一。远在旧石器时代晚期，就留下了人类生活的足迹。相传女娲氏、神农氏及尧、舜、禹等都曾在这里活动过。晋城政区的设置，最早可追溯到公元583年,在隋开皇初年这里就设置州府,称为"泽州"。以后虽历经变化,但管辖范围大体一致。自古以来，这里物华天宝,人杰地灵，矿产资源丰富，有"煤铁之乡"之美称。始于商周、盛于春秋的冶炼业，在长达数千年的发展中日精月进。仰历史文明之光，这里曾哺育和造就了一大批历史名人，如唐代著名佛经注疏家高僧慧远，宋代文学家刘羲叟，首创诸宫调的艺术家孔三传，明代经济学家王国光，诗书大家张慎言，清代文渊阁大学士、《康熙字典》总编纂陈敬廷，数学家张敦仁，当代著名作家赵树理等，他们为中华民族的繁荣昌盛做出了不可磨灭的贡献。
建国后，山西划为7个专区，南5县归长治专署管辖。1958年并大县，将晋城、高平、陵川3县为晋城县并沁水、阳城2县为阳城县。1961年恢复5县制。1971年晋东南专区改为晋东南地区，南5县一直属于专区、地区管辖。1983年7月，改晋城县为县级晋城市。1985年5月，经国务院批准，撤消晋东南地区，成立省辖地级市晋城市，实行市管县新体制，以原晋城市（分为城郊两区，郊区即现在的泽州县）、高平、阳城、沁水、陵川4县为所属行政区。省辖市始于此，管辖范围与古泽州版图一致。
山西晋城的古代遗址：
下川遗址 八里庄遗址 南村古寨
梁兴兵寨 仙台寨 冶底古寨
马武寨 汉高城 燕丹寨
丹坪寨 王离城 武安寨
濩泽故城 端氏聚遗址 塔水河遗址
东大遗址 东庙村遗址 西瑶泉遗址
羊头山遗址 老马岭遗址 李家庄遗址
店上村遗址 神腰遗址 高都遗址
索泉岭遗址 礁蛲山遗址