据史书记载：“老君山，古号景室，中峰插天，诸峦翠立，去岭巅四十里（离老北街四十里），延 70余里”。因道家始祖老子归隐修炼于此，后更名老君山沿袭至今。
清《卢氏县志》载：“国还归于周昭王时过函谷，犹龙之叹，现身说法，妙用无穷，当其过函谷，令尹请曰：子将隐矣，强为我着书，于是乃着上下篇五千余言。令尹者即尹喜，字文公，道家所称，灵宝天尊是也。公尝仰观乾象，见东方紫气浮关，知有神圣过物色而迎之，果遇老子。今灵邑太初观（即古尹喜），候见老子终处，南宗圣宫，即尹喜之故宅也”。老子写成《道德经》后，就告别了函谷关的关令尹喜，骑着青牛而去了，《史记》记载：“莫知其所终”。据以下文字记载，老子归隐于洛阳景室山，即老君山。
《河南通志》卷七载：“老君山在卢氏县东南二百五十里，相传老子修道于此，上有丹灶、丹井。”
《肇城志》卷二十九记载：“老君山在县南二百五十里，南跨鲁山，东接嵩县，周围不知几许。突峰悬崖，隐见云表。昔老子修炼于此上，有老君洞，丹灶、丹井遗迹俱存，人莫能至。传闻陟其顶，则襄汉诸山可以指教。”
《太平寰宇记》：“荆楚之地，卢氏东南近处有老君山，纪念老子李耳。中原老聘是楚人。”
《老子翼》卷七记载：“义曰:于是者，发句之瑞也；演者，广畅之理也。二篇者指道德二经也。王子年《拾遗记》曰：老君居景室之山，与世人（迹，唯老叟五人，或乘鸣鹤，或着羽衣，共谭天地之数，所撰书经垂十万言。有浮提国献善书二人，乍老乍少，隐形则出影，闻声则藏形。时出金壶器，中有墨汁，状若淳漆，洒木石皆成篆隶科之字，记造化人伦之始。老君所撰经，皆写以玉牒，系以金绳，贮以玉函。及金壶汁尽，二人乃欲呕心沥血以代墨焉。