清涼寺原名清泠臺(tái)，為西漢梁孝王劉武所筑。臺(tái)高數(shù)丈，樓臺(tái)亭榭，巍峨壯觀。臺(tái)下有池，名曰“綠池”。

　　相傳趙匡胤在商丘任歸德軍節(jié)度使時(shí)，盛夏常到臺(tái)上乘涼避暑。一天夜里蚊子嗡嗡作響，趙匡胤說：“不能清涼清涼嗎？”于是蚊子盡去。后來佛教興起，清泠臺(tái)改名為清涼寺。盛夏三伏，臺(tái)上依然涼風(fēng)習(xí)習(xí)，沒有蚊蠅。專家分析，是由于大殿的建筑材料所致。