泰山的道教始于1800年前的东汉末年。时张陵创五斗米道，奉老子为教祖，尊为太上老君，《老子五千文》为主要经典。其间，张陵弟子崔文子上泰山采药炼成“黄赤散丸”，于瘟疫流行时救人万计。从此，道教在泰山开始传播。

　　道教视泰山为神仙所居之洞府和道士理想的修行地，称其为三十六小洞天之第二洞天。道教认为泰山神和泰山奶奶是泰山最重要的神。供奉在碧霞祠的碧霞元君，成为信徒心目中最灵验的女神，信众认为只要“积德行善，心地真诚，跟她求啥，她都会答应”。直到现在来泰山的游客，都以朝拜泰山奶奶为首要目的。

　　在泰山修炼过的著名道冠有崔文子、张炼师、邱处机、张三丰等几十人。崔文子是泰山的早期道人，他采集山百药，制成了“黄赤散丸”，为民治病，为道教在泰山奠定了雄厚的民间基础。张炼师是泰山第一位女道人，她曾陪京师大臣朝拜岱岳，在泰山万仙楼桃花涧断崖上，还有当年张炼师的题刻。

　　全真派在泰山的影响极大，出现了很多著名的道观，尤以邱处机的名气为大。据泰山地方史志记载，王重阳弟子、全真龙门派创始人邱处机，曾修炼于后石坞的金丝洞。

　　唐代以道教始祖老子为李氏祖先，道教得到大力发展。唐高宗李治为老子上尊号为“太上玄元皇帝”，令诸州各建观一所，在泰山王母池西侧遂建“岱岳观”，俗称“老君堂”。唐高宗和武则天于显庆六年(公元661年)遣道士郭行真等人特到泰山建醮造像，并立《双束碑》。接着高宗、玄宗相继登封泰山，黄老道教在五岳之首即进入鼎盛时期。唐代不少著名道仙不断来泰山修道传教。传八仙之一吕祖曾三至泰山，并在岩洞炼丹;西王母也久居泰山。

　　唐玄宗时(公元712-756)，泰山女道张炼师居岱顶玉女祠。传开元年间，张炼师与李某同至泰山学道，后来，某借家有妻妾为由，辞别而归，官至大理丞。安禄山叛乱时，李携妻至襄阳。后又独去扬州，途中与张炼师相遇(张邀其同宿，李见门庭壮丽，殿宇璀璨，舞妓婆娑，中有持筝者酷似家妻，歌舞毕罢，张炼师呼唤持筝者，奖赏沙果，并系于裙带之上，遂散去。次日，李复至门庭，只见荒秽无人迹，速回襄阳寻其妻，果见裙带系沙果，问其故，妻子答曰：“一夕，梦见五、六个舞妓追赶我说：‘张大仙人唤你去为她拨筝。’”我便随去弹筝，临别仙人以沙果系于我裙之上。李这才恍然大悟：知当年女道张炼师已得道升天。唐代诗人刘禹锡曾赋《送东岳张炼师诗》颂其女道：“东岳真人张练师，高情雅淡世间稀。堪为烈女书青简，久事元君住翠微。金缕机中抛锦宇，玉清坛上着霓衣。去衢不用吹箫伴，只拟乘鸾独自归。”唐代宗大历八年(公元773年)张练师曾陪京都大臣朝拜岱岳，至今在万仙楼后楼花涧断崖上，仍存当年张炼师题刻。

　　宋代，泰山道教又得到了进一步的发展。宋真宗封泰山时，晋封泰山神为“天齐仁圣大帝”，封主管东方和泰山的天神青帝为“广生帝君”，封泰山老母为“天仙玉女碧霞元君”。接着拓建岱庙，创建碧霞祠，大兴土木，宫观林立。同时命大臣王钦若、张君房等编辑道藏。徽宗(公元1101—1125年)时，自称“教主道君皇帝”。诏天下访求道教仙经，校定镂版，刊行全藏;又于太学置《道德经》、《庄子》、《列子》博士，一时道教大盛。这时有山东诸城人张景岩隐居岱阴明月嶂，结茅为庵，常采紫芝制“仙药”故至今有“采芝庵”遗址。大中祥符二年，宋真宗把“善服食，得延年”的泰山隐士秦辨召至京城，亲自接见，并赐号“贞素先生”。宋皇佑间炼师庞归蒙在岱麓王母池炼丹修道。

　　金大定七年(公元1167年)王重阳在山东宁海(今牟平)创立以道教为主，兼融儒释的全真道。山东栖霞人丘处机19岁在宁海昆嵛山(今牟平东南)出家，拜王重阳为师。金世宗大定十四年(公元1174年)入磻溪穴居，乞食度日，行携一蓑，人称“蓑衣先生”。随后去陇州龙门山隐居修道，为龙门派创始人。后来他携其弟子在岱麓长春观，常居观内，人称“长春真人”，并在岱阴金丝洞炼丹。元太祖成吉思汗尊其为神仙，元世祖忽必烈赐号“长春演道主教真人。”《泰山小史》：“泰山南址有长春观，丘以全真为教，元时赐号‘无为演道大宗师’别号‘长春’后去峄山遂仙。”《岱史》载，长春观内有丘神仙牒碑，刻成吉思汗皇帝敕旨。继而，丘处机的女弟子訾守慎住持长春观，元帝赐号“妙真”。

　　元代，泰安埠上保人张志纯，6岁能诵五经，12岁入泰安城“会真宫”学道，数载道行超群。号“天倪子”。其道名“志伟”，元惠宗为其更名为“志纯”，赐号“崇真保德大师”，并授紫服。其间任东岳庙住持、东平路道教都提点，曾创建泰山南天门，重修嵩里山神祠。郡人王天挺赞云：“冰霜外洁，日星内炳”。羽化时年120岁，临亡自云：“脱下娘生皮袋，此际乐然轻快。百尺竿头进步，蓬元洞府去来。前世宿德医僧，今作道门小才。”元代文学家元好问和徐世隆均有《送天倪子归埠山诗》。尤其徐世隆与张志纯时常登岱同游，或居岱庙切磋道术，成为翰林名道。徐世隆有诗为证：“九十行年发未花，道人风骨饱烟霞。洞天福地三千里，神府仙闾第一家。牛膝药灵斟美酒，兔毫盏净啜芳芽。隐居自爱陶宏景，莫作山中宰相夸。”天倪子羽化后，徐世隆又赋《记梦五言诗》寄托哀思。

　　此外，岱阳老人寨如今有“朗然子洞”，元初刘朗然修道处;岱顶鹰愁涧东崖有“清静石屋”，洞极深广，石床天然，清泉香冽，元初宁海女道孙清静修真于此。元代中期又有泰安女道毛仙姑筑庵徂徕山，修持30余年，于延祐二年(公元1315年)十一月十九日羽化，并留遗言：“混处修持三十年，是非海里了真缘。如今脱下皮襄日，拍塞灵空永自然。”

　　传说明代有著名道人张三丰，曾在岱阴明月嶂北岩洞修真炼丹，后称“懒张石屋”。张三丰名张君宝，别号“保和容忍三丰子”，辽东懿州(今辽宁阜新县)人，力大无比，能移禅塔。

　　到清代至民国间，泰山洞穴或危崖茅棚等处处仍流传种种道教修真踪迹。所以道教在泰山历代不息，神宇遍布。至今保留完好的道教祠庙尚有20余处，以碧霞祠为代表的道教观院，现在仍然是泰山宗教的主流。