山陽城遺址位於焦作是東南待王鄉牆南村的北側。據《後漢書.君國志》載："周文王子蔡叔監殷，食邑於河內，山陽有蔡城，或曰蔡叔邑"。《史記》載："秦時，長信侯於山陽之地居之"。《三國志》也記有"東漢末年，曹丕稱帝，貶漢獻帝劉協於山陽城"，"以河內之山陽邑萬戶奉漢獻帝為山陽公"。城牆大部分高出地面，清晰可見。古城呈不規則的長方形，缺東南角。北城牆長1850米，破壞嚴重，有斷有續；東城牆長1350米；西城牆長1000米，除自然風化外，保存基本完好；南城牆中間大部分已無痕跡。城牆周長為5000米，有9門（北5門、西2門、東1門、南1門）的痕跡。城牆寬14-35米，殘牆高4-6米，為夯築而成。城牆斷面夯土層明顯，每層厚10-15厘米，厚薄均勻。城東北有漢獻帝的墓冢。在城的西北角發現有漢代的完整瓦當與碎瓦片等遺物，在城南挖掘出用青石板平鋪的地面，在城牆上多次揀到過銅镞，在城的附近還發現了被箭射穿成孔的人頭骨，在城外馬作墓群區曾經出土過刻有"山陽"銘文的陶器。城內原有法明寺、藏梅寺（佛教稱千佛殿），城北的牆北村有石巖寺（下院）等名寺古剎。現寺院的古建築雖已無存，但還存有"千佛石刻造像碑"、"重修神農廟碑"等文物。 從有關文獻資料及城牆遺址的夯土層看，山陽城為漢代所築。建築雄偉，結構合理，城牆堅固，利於防御，反映了漢代勞動人民夯土建築的高超技藝，是古代勞動人民聰明智慧的結晶，也是研究漢代政治、經濟、文化及城市規模、市區規劃等方面的實物例證。 1963年6月，公布為河南省第一批省級文物保護單位。