1981年张藩离开领导工作启圆蚂岗位后,于1984年搬到六朝古都南京,在美丽的东郊居住安度晚年。无论是在领导岗位,还是离职休息,他始终保持着我党我军艰苦奋斗的光荣传统,严格要求自己和家属子女。他的住房十几年没有大修过一次,他的5个子女都在普通的工作岗位上靠自己的勤奋努力,默默奉献。
他积极发挥余热,仍十分关心国家和军队的建设。每星期一、三、五上午,他总是按时去军区党委办公室看文件和学习。1991年夏秋之际,江、浙、皖等地区发生百年未遇的洪涝灾害,他主动和夫人彭克向灾区人民捐款1000元和一批衣物等;党的十四大召开前夕,他经过深思熟虑,请当时南京军区领导同志带信给中央说:苏联莫腔散斯科广场上的红旗落下来了,东欧形势很紧,我们的党和政府千万不能掉以轻心。要使我们的政权掌握在无产阶级革命接班人手里,要使首都天安门广场上空的五星红旗高高飘扬,一定要重视党的建设和培养造就千百万无产阶级革命事业接班人。他提的这些建议,得到了中央领导同志的肯定和答复:请老同志们放心。只要我们在,中国的五星红旗永远飘扬......
他关心同志和部属,在他去江苏省军区北崮山干休所看望老同志时,了解和发现老同志生活中存在不少实际困难。于是,他多次找军区和省有关部门反映情况,直至很多实际困难得到帮助解决,使干休所的离休老干部很受感动。有些已故老战友的遗孀,生活上碰到困难也爱来向他这位老首长叫苦,他总是尽自己所能帮助其排忧解难。1988年,他被授予红星一级功勋荣誉章。
1996年春军委副主席张震上将分别在北京和南京与张藩将军亲切交谈。他们见面时,都非常高兴,张震副主席在抗日战争和解放战争中是张藩将军的老上级,在南京军事学院又是老战友,文革中患难与共,叙说中乡情、友情、同志之情溢于言表。临分手时,他们一起合影留念。张震上将还送给张藩一幅亲笔题写的陈毅诗句,很能表达张藩的品格特征:西山红叶好,霜重色意浓,革命亦如此,悄埋斗争见英雄。