至德三年(585),因母亲去世离职,没过多久,敕令起身回府,又加任招远将军,掌记室。谢贞累次启请坚决推辞,敕令答曰:“览你奏表,你的心情我已知晓,虽然你内心伤痛,然而选拔官吏必因才施用,按礼法也有权且夺情除服之理。可整装立即回府。”谢贞因哀毁过度身体瘦弱不堪,最终没能回到官府。当时尚书右丞徐祚、尚书左丞沈客卿一同来探视谢贞。见谢贞骨瘦如柴,徐祚等人怆然叹息,徐祚规劝他说:“贤弟年岁已高,礼有常制,暂时应该节哀自保。”谢贞更是感伤悲痛,气断良久,徐、沈二人痛哭,不能自禁,忧郁不言而出。徐祚对客卿说:“的确,孝门出孝子。”客卿说:“谢公家传至孝,士大夫谁不仰望,此次恐怕不能起用,怎么办?”吏部尚书吴兴姚察与谢贞友情深厚,到了谢贞病重,姚察亲自探视,问及后事,谢贞说:“孤子遭遇不幸,将追随父亲入地下。同族兄弟之子谢凯等人刚刚自立,已上疏托付朝廷,这就不需再仰承厚德,劳您费事。说不定今天明天就不省人事,过不了多久,就要和你们永别。幼子今年才六岁,名靖,字依仁,感情所牵不能忘怀,冒昧相托。”当夜离世,敕令赐米一百斛、布三十匹,以办丧事。后主问姚察说:“谢贞有何亲属?”姚察便启禀说:“贞有一子才六岁。”马上敕令长期供给衣粮。