南台寺在福嚴寺下方兩裡許，於瑞應峰下，素有“天下法源”之稱。它建於梁天監年間，原是海印和尚修行的處所，在寺院後左邊的南山巖壁上，有一如台的大石。據說當年海印和尚常在這塊石上坐禅念經，所以寺名“南台”。現在台邊還清晰可見“南台寺”三個徑大二尺的大字，左邊有“梁天監年建”，右邊有“沙門海印”兩行直刻小字，該寺是省級重點文物保護單位。 　　
　　南台寺名聲很大，海內域外的佛教徒對它非常崇拜。這不僅它是六 朝的古剎， 歷史悠久，更重要的是該寺院在唐末五代時便出了一個著名高僧——石頭希遷禅師，他是南宗兩大系中的一系——青原系的重要人物。
　　石頭希遷，人稱石頭和尚。據宋《高僧傳》、《五燈會記》載：希遷禅師（公元七００年——七九０年）俗姓陳，端州高要（今廣東高要縣）人，聽說六祖慧能南來韶州（今廣東韶關）曹溪，便前往參學。唐玄宗開元十六年（公元七二八年）於羅浮山受戒。後又拜青原行思為師，傳其法。唐玄宗天寶初年，希遷到南岳衡山受戒結庵於南台寺東大石上，時有稱為“石頭和尚”。與江西道一禅師名聞天下。相傳著有《參同契》、《草庵歌》，至今日本曹洞宗的僧人用作必修日課。唐貞元六年（公元七九０年）圓寂，卒谥“無際大師”、塔曰“無相”。弟子有道司、憔俨等二十一人。他們宣教弘法，創立了曹洞宗、雲門宗、法眼宗三派，其中曹洞宗更為昌盛，形成南宗禅，成為中國佛教史上規模最大、影響最深遠的主流，法嗣遍布天下。南宋時，臨濟、曹洞二宗傳到日本。日本佛教界曹洞宗一直視南台寺為祖庭。故有“天下法院”之稱。石頭希遷圓寂以後，肉身龛葬。葬於南台寺下方，為南岳僅存的一座唐代古墓。
　　南台寺自唐代創建後，曾經廢圮,直到宋代乾道元年(公元一一六五年) 才得重新修繕。明朝初年,寺院荒廢。明弘治年間,元礙和尚重建。清初,寺院又廢圮。有些僧徒乘機分移寺產,在山下岳廟旁各建小寺,自稱南台嫡系正派。 光緒年間衡陽人淡雲和尚與其徒 ,見新老南台真偽並出,“爭利於禅林,有辱佛門”，便下決心重振南台正宗。光緒十六年(公元一八九０年)，他找到了南台寺舊址。募捐一萬八千余貫，光緒二十八年(公元一九０二年)開始動工，歷時四年，到乙已年(公元一九０五年)將寺建成。寺宇規模宏大，超過歷代所建的規模。南台寺有四部分， 山門掛“古南台寺”匾額。二進為彌陀殿。裡面有歡喜佛像，坦腹露胸，滿臉笑容，誰看了都會歡喜他。正門前有“南台禅寺”門額，三進為佛殿，有塑像飾龛，四進為法堂、祖堂、雲水堂。兩廂各有齋堂、禅堂、客房等。寺中大小捨房一百余間。 　　
　　光緒癸卯年間(公元一九０三年)，日本曹洞宗法脈高僧梅曉和尚(六休上人)，自稱是石頭和尚第四十二代法孫。專程來南台寺。這時南台寺的重建工程正在進行，梅曉見屋基楚楚、磚牆厚實，規模宏大，十分高興。當即向淡雲和尚提出：寺宇落成，願贈“藏經”一部。淡雲和尚表示樂意接受。他回國後第四年(公元一九○七年)，就率瓴日本佛徒數十人，親自護送到南台寺，並舉行了隆重的贈經儀式。這是當時一件盛事。它成了中日友好往來源遠流長的歷史見證。自梅曉贈經以後，至今日本佛教徒不時派出代表團來南台寺禮祖。南台寺為中日友好交往樹立了友誼的豐碑。 　　
　　南台寺四周綠蔭蔽日，古木森茂，寺前有一片落葉杉林，名叫水杉林。樹高達二十余米，直插雲天，羽狀針葉，樹影婆娑。
　　南台寺有一條小路通南岳古鎮。中經一個大石坡，石坡間有石磴數百余級。在巖石上，好象天梯架於巖壁上，故名天生磴。梯下懸崖峭壁，有掛著鐵鏈的石欄桿，山坡旁邊有一石，名叫金牛石，相傳上面印有金牛足跡。明正德十年(公元一五一五年)秋天，夏良用在金牛壁刻上了一首詩雲：“手招黃鶴來，腳踏金牛背。塵世無人知，白雲久相待。”沿山坡下行四裡即到黃庭觀，從此走上坦道，便可迤逦直達南岳古鎮。如今南台寺已修葺一新。一九八一年泰國華僑黃彰任先生捐贈銅佛一座，供在寺中殿堂上，為古剎增色不少。