公元前186年（一说是前185年），“后刘邦时代”吕后执政时期，张良在紫柏山病逝，谥号“文成侯”。关于张良死后葬于何处，正史没有明确记载，全国有河南兰考、山东微山等多处张良墓，到底哪一座是真的尚无定论。四百年后的东汉末年，天下大乱，张良的十世孙，张鲁割据汉中三十年，自立为王，他感念先祖不以盖世之功受封，不恋庙堂高位的超凡品德，在张良当年隐居辟谷的紫柏山修建了这座“汉张留侯祠”。

     此后一千多年的风雨中，张良庙屡毁屡建，现存主要是明清时期的建筑，共有九大院落，一百五十六间房舍，总面积一万四千多平方米。最外面的砖砌牌楼是张良庙的标志性建筑，牌楼建于清道光四年（公元1824年），五重垛拱，简瓦裹脊，券门上方醒目的“汉张留侯祠”五个大字为清代蔡文瑾题