有史料记载，老子曾西出函谷关，被关令尹喜扣押，强而着书，留下了中国思想史上的巨着五千言《道德经》。而后他就骑着一头大青牛，继续西行，没了消息。
这个谜引起很多考古学家和历史学家的兴趣，至今没有得出很确凿的证据。有人说出散关，经流沙奔印度去了，并说老子到印度传教，教出了释迦牟尼这样的大弟子。
历代不少人认为此说只是道教为了抬高自己贬低其他宗教而捏造出来的。而有人说晚年的老子在甘肃临洮落脚，为归隐老者教炼内丹，养生修道，得道后在临洮超然台“飞升”。
而又有人胡乱猜测，说那时治安差，有可能被人半路打劫，导致意外身亡。
还有一种说法则认为老子不是西去，而是东归。《庄子·天道篇》有一段记载，叙说了老子离职后便离开周室而“归居”了。老子的故乡位于今天的河南省鹿邑县，离孔子所在的曲阜不远。孔子还曾拜访过老子，也就是传说中的“孔子问礼”。这件事不论是在《庄子》、《韩非子》、《吕氏春秋》，还有在儒家着作《礼记·曾子问》中都有记载，说明老子退隐后东归的说法比较可靠。
