1958年张前辈被打为右派,1967年被打为现行反革命,文革受到严重批斗,交代时曾有这么一条:“罗隆基常买假字画,有时打电话约我到他家监定字画。我认识到罗隆基是政客。一九五六年,我将所藏晋、唐、宋、元法帖、文物捐献给国家。这一年到他家,他说我是书呆子。他说藏这些古代书画,珍贵得了不得。共产党,我看不在乎。毛主席每天接信岂止一万封,还记着你的信?你如果想一个位置,由我们推荐就行了,毋须多此一举。我对罗隆基的话一言未答,以后就再也不去他家了。”
1972年1月6日,陈毅逝世,张伯驹送了一副挽联,被安放在灵堂的角落。毛泽东在追悼会上看到张伯驹手书的挽联,突然想起世界上还有这么一个舍弃了荣华富贵和锦衣玉食,将稀世珍宝无偿地奉献给国家,一心一意跟着共产党走的公子哥儿。在愧疚之余,他把周恩来叫到身边,叫周「过问一下、尽快解决」。于是,几天以后,章士钊就派专人把中央文史馆馆员的聘书送上门来,当地派出所所长和户籍警也上门来为张伯驹夫妇办好了户口。
1980年中央文史馆为张伯驹彻底平反。1982年正月,赴宴归来的张伯驹突患感冒,被送进北大医院,因“级别不够”不能住双人或单人病房,只能和七八位病人挤在一个病房。不时有重病号抬进来,死的人被拉出去,心绪不安的张伯驹便要回家。2月26日,等到女儿张传彩终于拿到同意调换医院的“批令”时,张伯驹却不幸离开人世,终年八十四岁。
张伯驹死后,有打抱不平者在北大医院门口高声叫骂:"你们医院知道张伯驹是谁吗?他是国宝!你们说他不够级别住高干病房?呸,我告诉你们——他一个人捐献给国家的东西,足够买下你们这座医院!把那些住高干病房的人都扒拉一遍,看看哪个的贡献能赶上张伯驹!"