清凉寺原名清泠台，为西汉梁孝王刘武所筑。台高数丈，楼台亭榭，巍峨壮观。台下有池，名曰“绿池”。

　　相传赵匡胤在商丘任归德军节度使时，盛夏常到台上乘凉避暑。一天夜里蚊子嗡嗡作响，赵匡胤说：“不能清凉清凉吗？”于是蚊子尽去。后来佛教兴起，清泠台改名为清凉寺。盛夏三伏，台上依然凉风习习，没有蚊蝇。专家分析，是由于大殿的建筑材料所致。