他自幼刻苦好学，家贫，靠替人抄写、代笔或作记室维持生活。南明弘光元年为阁臣高弘图记室，出谋划策，力图恢复，很受高弘图、张慎言等赏识。后拟荐为中书舍人及礼部司务，他感到“时事日非，不足与有为”，坚辞不就。后回家隐居。谈迁从明天启元年开始，历时20余年，前后“六易其稿，汇至百卷”，完成一部编年体明史，共500万字，取名《国榷》。清顺治四年，《国榷》手稿被窃。他时已53岁，发愤重写，经4年努力，终于完成新稿。顺治十年，携稿随人北上，实地考察历史遗迹，加以补充、修订。书成后，署名《江左遗民》，以寄托亡国之痛。十四年，去山西平阳祭奠先师张慎言，病逝于旅舍。