关于宣纸的由来，迄今尚无可靠的文字供考证。倒是生产宣纸的泾县，流传着一个动人的传说：东汉安帝建光元年（公元一二一年），蔡论的弟子扎丹在皖南造纸，他很想造出一种世上最好的纸为老师画像，以表缅怀之惰。年复一年，终未如愿。一天，孔丹徘徊于峡谷溪边，偶见一棵古老的青檀树，横卧溪上，由于流水终年冲洗，树皮腐烂变白，露出一缕缕修长而洁净的纤维。 孔丹取以造纸，经过反复试验，终于大功告成。这就是后来的宣纸。还有一说，宋末天下战乱，有个叫曹大三的人，从太平县徒迁经县避难，见峡谷水清檀肥，逐定居于此，以察论本为生业，世代相传。如今小岭纸厂的曹运声、曹慈源、曹于南三位老艺人，均系曾氏后裔。可以说，宣纸的生产如纸的发明一样，绝非成于一旦，功就一手，也是无数能工巧匠经过长期苦心研制的结果。
　　宣纸至今已有一千多年的悠久历史。史籍对宣纸的记载，最早见于唐。唐乾符年间，书画评论家张彦远著《历代名画泪》中云；“好事家宜置宣纸百幅；用法腊之，以备摹写。”这说明唐代造纸术已颇发达，并开始把宣纸用于书画了，但制作水平尚不高，仍需“用法腊之”，方可“摹写”。
　　另据《旧唐书》记载，唐天宝二年（公元七四三年），江西、四川、皖南、浙东都产纸进贡，宣城郡一地献纸尤为精美。到南唐时，后主李煜监制的澄心堂纸。“肤如卵膜；坚洁如玉，细落光润，冠于一时”，可谓是宣纸中之精品。宋代大画家李伯时，曾用澄心堂纸画了一幅《五马图》，流芳百世。欧阳修曾经用这种纸起草《新唐书》和《新五代史》，并送了若干张给大诗人梅尧臣；梅尧臣收到这种“滑如春冰密如茧”的名纸，竟高兴得“把玩惊喜心徘徊”。澄心堂纸在唐、宋时期名贵难求的程度，由此可以想见。