据多种古籍记载，五台山在东汉永平年间已有寺庙建筑。相传汉明帝刘庄夜梦金人端坐祥云，从西天飘然而来，知是有佛感应，随即派大臣蔡暗、秦景等人向西寻访，拜求佛法。蔡、秦等人在大月氏得到佛经佛像，并巧遇正在当地传教的天竺国（今印度）高增摄摩腾和竺法兰，即相邀同至中国。永平十年（公元67年），梵僧汉使以白马驮载经卷和佛像到了洛阳。汉明帝一见释迦牟尼佛像，果然和梦中所见一样，越加崇信佛教，遂敕令修建了洛阳白马寺，并着摄摩腾、竺法兰在中国传播佛教。永平十一年，二高僧来到清凉圣境五台山，见五座台顶围护的腹地台怀，其山形地貌与释迦牟尼佛的修行地灵鹫山分不出两样，返回洛阳后就奏请汉明帝在五台山修建寺院。于是，汉明帝颁旨，在五台山修建大孚灵骛寺。
　历史上，随着佛教的传播，帝王的崇建，高僧的懿行，五台山作为文殊菩萨道场的名气越传越远，地位越来越高，寺庙建筑越来越多，规模越来越大。其间又有佛法的起落兴衰，各个时期的情况亦不大相同。自汉明帝时摄摩腾、竺法兰弘扬佛教，建大孚灵鹫寺开始，到南北朝时期，五台山已建寺二百多处。周武灭法，五台山和其它地方一样，寺庙毁灭的情况十分严重。

隋初，又复建寺庙，佛教再兴。在佛教极盛的唐代，五台山寺院多达三百六十多处。唐武宗会昌灭法，五台山佛教随入中落，寺庙减少。宋、辽、金、元各代，虽屡有修建，但由于战乱毁坏，未能尽数复原。到了明代，佛教再兴，五台山重修和创建寺庙院庵多达百余处。清代以来，随着喇嘛教传入五台山，有的青庙改为黄庙，并新建黄庙，出现了青黄二庙各具特色，汉、藏、蒙、满各族僧众和睦相处的佛地风貌。新中国成立以来。党和国家正确贯彻宗教政策，十分重视文物保护工作，先后拨出大量资金维修和翻修寺庙。僧人也以庙养庙，用布施钱币补塑圣像。重修殿堂，整饬寺宇。“信手拈起一茎草，总是金毛狮子威”，五台山对中国佛教的发展作出了巨大的贡献。
　五台山地处长城脚下，位于历史上农耕民族与游牧民族的交界地带，历来受到封建王室的极端重视。从北魏孝文帝在山内建立避暑胜地开始，隋炀帝、宋太宗、元英宗、清圣祖、清高宗等都曾驾幸五台山。至于历朝历代皇帝、皇后遣使礼扎五台山者，更是从未间断，数不胜数。翻开五台山各大寺庙史册，第一页上总是赫然书写着“敕建”二字。达官显贵，纷纷效仿。文人墨客，挥笔吐情。佛门常会龙门客，禅林时集翰林人，就是五台山历史的真实写照。正因为如此，五台山佛教以其在中国思想史中的特殊位置与功效，于北方地区民族团结融合问题上一直产生着至关重要的作用。如果说长城是民族对抗的产物，则五台山佛教就是民族融合的象征了。