著名道教人物在晋有元阳子，隋有由吾道荣，唐有李元枝，金有张志道、郭道安、徐福贵、朱崇口。明有郑道兴、李道春、王玉山、王玉川等。元阳子长白山人，修真于“华阳宫”19年，于伏生墓得《金碧潜通》，细为诠释，著《元阳子解》，现书失传。由吾道荣琅琊沐阳人，入长白山修道，颇有名气。隋开皇初征授上仪同三司谏议大夫、沐阳县公。唐李元技，居泗水南天花桥，少读书不第，乃游四方，59岁还乡，应考获中，值妻死，遂弃家游于黄山西峪，后结茅于兹山。
黄山有“碧霞元君祠”，为县境内最大宫观，建于明朝，清代重修。1691年（康熙三十年），道人柴元贞在黄山东岭建玉皇阁，香火颇盛。清季，尚有道徒30余人。绕黄山有庙地数十亩，生活来源一半靠道徒，种地自养，一半来自进香者的布施。流传既久，道徒中多有不奉行道规者。有的在民间行医，看阴阳宅，以符篆惑人，演为巫觋。民国间全县有道徒约28人。解放战争时期，黄山碧霞元君祠被毁，道徒四散。