1953年，高崗被調(diào)到中央工作，因搞陰謀活動被察覺，高崗在接受審查期間于1954年8月17日自殺身亡。在高崗陰謀敗露之后，其麾下的得力干將也受到影響，尤其是被譽為高崗“五虎將”之首的張秀山。

高崗主政東北多年，在其手下有不少心腹干將，其中有張秀山、張明遠、郭峰、趙德尊和馬洪五人被譽為高崗的“五虎將”。在高崗陰謀敗露之后，這五人悉數(shù)受到懲處，張秀山被定為“五虎將”之首，他是首當其沖一個。

在老一輩同志之中，張秀山的名氣或許不算大，但是他的資歷和貢獻一點也不低，他的資歷頗高。1911年7月，張秀山出生在陜西神木縣的一個貧苦農(nóng)家，他早年深受進步思想影響，積極投身愛國運動。

1926年，15歲的張秀山就投身到了反帝、反封的運動中，1929年秋，18歲的張秀山入黨了。1930年，在組織的安排下張秀山前往寧夏、甘肅等地從事兵運工作，后在甘肅靖遠參加了武裝起義，所部被編為陜甘紅軍游擊第4支隊。

1932年7月，張秀山被派往上海學習，后在組織的安排下與劉志丹、謝子長等人一起參與了陜甘根據(jù)地和陜甘紅軍的創(chuàng)建工作，其資歷之高不言而喻。1934年4月，張秀山被任命為紅42師政委。

從張秀山的經(jīng)歷不難看出，他在陜甘紅軍之中的地位很高，高崗也是出自陜甘紅軍�？箲�(zhàn)期間，張秀山?jīng)]有繼續(xù)帶兵，而是在黨校工作，以至于名聲不顯，不過他在黨內(nèi)地位不低，作為代表參加過1945年的七大。

抗戰(zhàn)勝利之后，張秀山被派往東北工作，他擔任過松江省委書記，積極開展農(nóng)村工作和宣傳工作，為前線提供了大量的支援，尤其是在遼沈戰(zhàn)役期間，他為此戰(zhàn)提供了有力的后方支援和保障。

東北解放之后，1949年3月，張秀山出任東北局常委、組織部秘書長，在東北的地位與高崗相差無幾。新中國建立后，張秀山仍是在東北工作，抗美援朝期間他出任東北軍區(qū)副政委，為后勤物資運輸做出了重要貢獻。

1952年，張秀山被晉升為東北局第二副書記，此時他已經(jīng)是東北局的主要領(lǐng)導(dǎo)成員之一，為東北的建設(shè)發(fā)展和干部培養(yǎng)做出了重要貢獻。不過隨著高崗之事的影響，1954年4月，張秀山就被撤職了。

張秀山被撤職后下放到盤山農(nóng)場當副場長，從之前的行政4級降為8級。巨大的落差讓張秀山的生活和處境發(fā)生了翻天覆地的變化，就連居住的房子也被調(diào)換了，搬家時張秀山叮囑家人只帶生活用品，沙發(fā)、地毯不許帶走。

面對如此遭遇，張秀山?jīng)]有自暴自棄。1954年冬，張秀山穿著妻子買的棉襖獨自去了農(nóng)場，第二年春，他的夫人帶著孩子一起去了農(nóng)場，一家人在農(nóng)場的土坯房中團聚，此后張秀山在農(nóng)村和基層工作長達24年。

張秀山經(jīng)歷了24年的下放生活和工作，直到1979年1月被調(diào)回北京工作，出任農(nóng)業(yè)委員會副主任，分管林業(yè)、農(nóng)墾等工作。從1983年之后，張秀山當選為中顧委委員，退居二線，于1996年8月2日在北京病逝，享年85歲。