西晉王朝的“晉”字也是源自於山西，那個路人皆知其心的司馬昭，先是以山西的十郡之地被封為曹魏晉公，後又進位晉王，其子司馬炎取曹魏而代之，建立的王朝就叫做晉朝，史稱西晉。西晉滅亡後，北方少數民族紛紛乘機進入中原，這一時代有多個割據政權興起於山西。隋朝一統天下之後，隋炀帝在寧武修築規模宏大的汾陽宮，至今遺址尤存。唐高祖李淵和唐太宗李世民父子在山西起兵反隋建立了唐朝。中國歷史上唯一的女皇武則天亦是山西文水人。她的孫子唐明皇李隆基曾任潞州別駕，以山西為根基走上政治舞台，開創了中國歷史上的極盛時代——開元盛世。五代十國，先後有後唐、後晉、後漢和北漢政權興起於山西境內。宋代時，山西北部變成宋遼對峙的最前線，雁門關關下流傳著楊家將悲壯的故事。金朝一統北方，與遼國一樣尊大同為西京，大力營建，盛跡尤存。元代的山西已經十分繁榮，元末戰爭導致全國各地一片凋零，人口銳減，但山西所受影響不大。明朝初年，官府曾從山西向外移民十幾次以幫助別的地區恢復元氣，洪洞縣大槐樹是當時一個主要移民地，至今國內許多地方仍流傳有“問我祖先在何處,山西洪洞大槐樹”的民謠。有明一代，山西一直是明王朝和蒙古各部針鋒相對、激烈交鋒的主要戰場之一。明朝在北部邊陲共設有九邊重鎮，山西境內就占有大同和山西兩鎮，並且修築了內外兩道長城，山西的重要軍事地位再次凸顯出來。到了清代，山西的戰略地位逐漸被經濟地位超越，晉商和山西票號強勢崛起，席卷全國，稱雄世界，現存眾多的晉商大院就是昔日輝煌時代的見證。如此悠久的歷史和豐厚的文化積澱，為山西遺留下了數量眾多的古建築。雖經千百年王朝變換、戰亂頻仍以及天災人禍的考驗，山西仍然是國內古建築現存最多，密度最大的地方，唐、五代、宋、遼、金等時代現存的古建築占全國現存同類建築的70%以上。