鐵山寺位於鐵山區尖林山的西北坡山腰，坐東朝西，群山環抱。鐵山寺又名鐵山古剎，俗稱老君廟。相傳鐵山寺始建於宋代，明洪武末、清光緒二十一年兩次重修。寺高6～7米，一院兩進一穿堂，依山勢形成三個台階，土木結構。建築面積約500平方米，前進左右兩壁分別嵌有清光緒二十一年（1896）大冶縣補用知縣兼大冶鐵礦總辦李增榮書寫的《重修鐵山寺》、《火車行》兩碑刻；後進為佛堂。