霍州署創建年代不詳，據明嘉靖三十七年(1558年)版《霍州志》記載，元代州署已具一定規模，元大德七年(1303年)大地震，建築全部塌毀。次年重建，元至正十八年(1358年)毀於火災，唯大堂幸存。明洪武四年(1371年)重建，後代又屢有增補修葺。現存建築大堂為元代原構，儀門、戒石亭為明代建築，余皆清代所建。1996年被列為第四批全國重點文物保護單位。