桐柏宮在縣城西北12.5公裡的桐柏山上，九峰環抱，碧溪前流，是中國道教南宗祖庭。三國吳赤烏元年（238），高道葛玄來此煉丹，建法輪院，唐景雲二年（711），睿宗下诏在法輪院墟址上建立桐柏觀，擁有一堂（黃雲）、二台（鳳轸、從妙）、三壇（元晨、朝真、朝斗及煉形室、龍章閣）嚴禁填充內四十裡不得樵獵，五裡不許遷葬。元和年間（806-820），馮惟良又建降真堂、白雲亭、悠閒亭、上清室。太和、鹹通年間，徐靈府、葉藏岳先後重修，元稹、劉處靜作記。

    五代後梁開平間（907-910），桐柏觀升為宮。宋祥符元年（1008），改名桐柏崇道觀。政和六年（1116），在後山按照宮殿規格建玄命殿，宮內建方丈、齋堂、雲堂、土地堂、三清殿，又有上清閣、御書殿，觀前玉梭溪上架起二座石橋，橋上建會仙亭。南宋時，太尉曹勳建山門，觀中有經藏、三元、延賓、清虛、白雲、浴院等6個道院。朝廷先後任命曾幾、陸游、朱熹等領管。歷代御賜極為豐厚，道業大興。元明間多次修建。

    新建的桐柏宮，撲克山門進去依次為靈官殿、真武殿、御碑亭、大殿、紫陽樓。兩旁各有配殿。大殿之左為太極殿，祀葛仙翁（玄），右殿祀右弼真君王子晉。紫陽樓塑張伯端像，兩側各有三間廳屋。東西道院前後亦各有廳三間，接以回廊。宿捨、伙房均在牆外。共有殿宇百間，置香火田八百余石，龍門派第十代宗師清昱（東籬）住持，其徒方一定（蘭否）、闵一得（懶雲）等數十人協助觀事。南宗祖庭再次興盛。

    近代時局不靖，桐柏道聲衰落，葉明倉、林至霞、陳到賢、袁理靜贖田修殿，香火日盛。民國以來，時宗濱、伍止淵傳道，療疾救人，受到鄉鄰病家的感戴。

    1973年，桐柏水庫建成蓄水，桐柏宮址沉於水底，部分建築和文物移往鳴鶴觀。