清涼寺原名清泠台，為西漢梁孝王劉武所築。台高數丈，樓台亭榭，巍峨壯觀。台下有池，名曰“綠池”。

    相傳趙匡胤在商丘任歸德軍節度使時，盛夏常到台上乘涼避暑。一天夜裡蚊子嗡嗡作響，趙匡胤說：“不能清涼清涼嗎？”於是蚊子盡去。後來佛教興起，清泠台改名為清涼寺。盛夏三伏，台上依然涼風習習，沒有蚊蠅。專家分析，是由於大殿的建築材料所致。