建安二十五年曹丕称帝，在东汉洛阳废墟之上，重新营建洛阳宫，即包括重建洛阳白马寺。再从曹魏嘉平二年有昙柯迦罗在洛阳白马寺译“佛律”的记载，足证洛阳白马寺在文帝曹丕、明帝曹睿之后已经恢复。
曹魏嘉平二年，印度高僧昙柯迦罗来到白马寺。此时佛教也从深宫走进了市井民间。随后，昙柯迦罗在白马寺译出了第一部汉文佛教戒律《僧祗戒心》。同一时期，安息国僧人昙谛，也在白马寺译出了规范僧团组织生活的《昙无德羯磨》。至此，戒律和僧团组织章程都已齐备，一条中土有缘人出家持戒修行的道路铺就，为中土戒律之始。
曹魏甘露五年，一场受戒仪式在白马寺举行，这是一个注定要深深印刻在中国佛教史上的事件。这一天，朱士行依《羯磨法》登上戒坛，长跪于佛祖面前，成了中国汉地第一位正式受过比丘戒的出家人。自此，儒家“身体发肤，受之父母，不敢毁伤”的古老传统被打破了。
西晋永安元年，司马颙部将张方攻入洛阳，烧杀掳掠，在长期的战乱兵火中，洛阳白马寺再一次遭受严重破坏。经过北魏末年的“永熙之乱”，洛阳城又一次惨遭破坏。在迁都邺城之后，洛阳仅余寺四百二十一所，其中，尚有洛阳白马寺。大约在“永熙之乱”中，洛阳白马寺虽难于幸免，但还是残存下来了。直到清代，在洛阳白马寺大殿左侧，还保存一座“白马寺造像幢”，幢有五十余尊佛像，上下左右俱有题名。洛阳白马寺曾出土一尊巨大的玉石弥勒菩萨坐像，身高2.16米，系一件极为宝贵的北魏造像佳作。惜已散失海外，现仍保存在M国一家博物馆中。
唐武周垂拱元年，武则天敕修洛阳白马寺，这是洛阳白马寺历史上的黄金时代。
唐代天宝十四年发生的“安史之乱”，对东都洛阳的破坏甚为严重。洛阳白马寺当亦然。“安史之乱”以后的洛阳白马寺，还保存着一些唐代或唐代以前的断碑。
唐代末年，洛阳长时期陷入战乱兵火。洛阳白马寺再次遭受战乱的破坏。
到了宋代，采取适当保护佛教的政策，宋代淳化三年宋太宗敕修洛阳白马寺。