張宗遜十四歲那年，他進(jìn)渭南赤水職業(yè)學(xué)校念書(shū)，接觸到一些新想法，慢慢對(duì)社會(huì)不公有了看法。十八歲時(shí)，他加入中國(guó)共產(chǎn)黨，那年頭入黨可不是鬧著玩的，得冒風(fēng)險(xiǎn)。

同期他考上黃埔軍校第五期，學(xué)政治科，軍校里天天操練，槍械戰(zhàn)術(shù)啥都得學(xué)，他在那兒編入入伍生團(tuán)，畢業(yè)后分到國(guó)民革命軍第八軍第三師第九團(tuán)，當(dāng)政治指導(dǎo)員。北伐打起來(lái)，他跟著部隊(duì)往前沖，參與攻打軍閥的戰(zhàn)斗，積累了實(shí)戰(zhàn)經(jīng)驗(yàn)。

北伐后，他升到第二方面軍總指揮部警衛(wèi)團(tuán)第三營(yíng)連長(zhǎng)。1927年秋收起義爆發(fā)，他轉(zhuǎn)入中國(guó)工農(nóng)革命軍第一軍第一師第一團(tuán)二營(yíng)六連，當(dāng)連長(zhǎng)。部隊(duì)轉(zhuǎn)移到井岡山，他參與開(kāi)辟根據(jù)地，修工事，組織生產(chǎn)，打擊敵人。

1929年，他當(dāng)上紅四軍第三縱隊(duì)第九支隊(duì)副支隊(duì)長(zhǎng)，后來(lái)升支隊(duì)長(zhǎng)，在贛南閩西打游擊。1930年，他升紅一方面軍第三十六師師長(zhǎng)，帶隊(duì)參加中央蘇區(qū)五次反圍剿，指揮部隊(duì)阻擊國(guó)民黨軍。

長(zhǎng)征開(kāi)始，他任紅十團(tuán)團(tuán)長(zhǎng)，部隊(duì)翻雪山過(guò)草地，他負(fù)責(zé)帶隊(duì)穿越險(xiǎn)地，確保后勤跟上。1935年到陜北后，他繼續(xù)指揮作戰(zhàn)?？谷諔?zhàn)爭(zhēng)時(shí)期，他調(diào)到八路軍一二〇師三五八旅當(dāng)旅長(zhǎng)，在華北地區(qū)打日軍，組織雁門(mén)關(guān)伏擊，破壞交通線(xiàn)。

百團(tuán)大戰(zhàn)中，他帶隊(duì)炸鐵路橋，切斷日軍補(bǔ)給。1945年抗日結(jié)束，他轉(zhuǎn)入解放戰(zhàn)爭(zhēng)，任晉綏軍區(qū)第一縱隊(duì)司令員，1946年去延安保衛(wèi)黨中央。

1947年，他當(dāng)陜甘寧野戰(zhàn)集團(tuán)軍司令員，指揮沙家店戰(zhàn)役，殲滅敵主力。西北解放中，他任西北野戰(zhàn)軍副司令員，參與蘭州戰(zhàn)役等。新中國(guó)成立后，他繼續(xù)在軍中任職，1952年任副總參謀長(zhǎng)，管訓(xùn)練。

1955年授銜上將，得一級(jí)八一、一級(jí)獨(dú)立自由、一級(jí)解放勛章。那時(shí)候授銜看資歷、職位和貢獻(xiàn)，他雖是大將候選，但綜合考慮定為上將。1959年調(diào)濟(jì)南軍區(qū)副司令員，組織防務(wù)。1964年推動(dòng)全軍比武，推動(dòng)部隊(duì)實(shí)戰(zhàn)能力提升。

晚年他還關(guān)注軍隊(duì)后勤改革，提建議，推動(dòng)改進(jìn)。他的軍旅路從基層干起，一步步到高層，跨過(guò)革命戰(zhàn)爭(zhēng)到和平建設(shè)，參與軍隊(duì)多個(gè)階段建設(shè)，留下不少貢獻(xiàn)記錄。

1976年是個(gè)多事年，周恩來(lái)、朱德、毛澤東相繼去世，國(guó)家面臨考驗(yàn)。7月28日凌晨，唐山7.8級(jí)地震，造成24萬(wàn)人死亡，16萬(wàn)人重傷，城市基礎(chǔ)設(shè)施全毀，鐵路公路中斷，供水供電停擺。

災(zāi)區(qū)物資短缺，傷員需要緊急救治，防疫壓力大。中央快速響應(yīng)，華國(guó)鋒作為第一副主席和總理，主持會(huì)議成立抗震救災(zāi)指揮部。

7月29日，華國(guó)鋒在中南海召見(jiàn)張宗遜，當(dāng)時(shí)張宗遜68歲，總后勤部部長(zhǎng)。華國(guó)鋒指示他全權(quán)負(fù)責(zé)災(zāi)區(qū)后勤保障，包括物資運(yùn)輸、藥品供應(yīng)、傷員轉(zhuǎn)運(yùn)。

張宗遜接受任務(wù)，馬上組織隊(duì)伍。他從總后勤部抽調(diào)人員，統(tǒng)計(jì)庫(kù)存，準(zhǔn)備藥品、帳篷、食品。考慮到道路破壞，他安排多種運(yùn)輸方式：鐵路、汽車(chē)、摩托、人力背負(fù)、空投，確保物資不間斷抵達(dá)。

抵達(dá)災(zāi)區(qū)后，他設(shè)值班室，制定分配方案，對(duì)藥品用量精確控制。災(zāi)區(qū)藥品短缺，他動(dòng)用空軍，九架伊爾-14飛機(jī)改裝投擲，三天投下86噸藥品，創(chuàng)國(guó)內(nèi)記錄。設(shè)立雙向列車(chē)，優(yōu)先運(yùn)傷員，協(xié)調(diào)醫(yī)院床位。

同時(shí)，他要求轉(zhuǎn)移點(diǎn)配浴室，控制傳染病傳播。救援推進(jìn)，他組織礦山恢復(fù)，板房搭建，物資分批運(yùn)送，上一批還沒(méi)到下一批已出發(fā)。

20多天內(nèi)，災(zāi)區(qū)重建起步，傷員轉(zhuǎn)移，礦山運(yùn)營(yíng)，中央認(rèn)可他的工作。整個(gè)過(guò)程，他利用西北剿匪經(jīng)驗(yàn)，確保后勤鏈條穩(wěn)固。

救災(zāi)結(jié)束后，張宗遜回北京，繼續(xù)總后勤部工作，檢查庫(kù)存，調(diào)整供應(yīng)。1977年初，他向中央軍委提離休申請(qǐng)，獲批。離崗時(shí)，他寫(xiě)下“愿后勤永不掉鏈”，體現(xiàn)作風(fēng)。1978年正式離休，結(jié)束領(lǐng)導(dǎo)職務(wù)。